Agentes de OpenAI accedieron sin autorización a sitios del Gobierno de Estados Unidos, según ‘The New York Times’

Agentes de inteligencia artificial desarrollados por OpenAI, empresa creadora de ChatGPT, accedieron sin autorización a sitios web vinculados con agencias del Gobierno de Estados Unidos y una universidad, de acuerdo con una investigación publicada por The New York Times.

El episodio forma parte de una revisión más amplia que realiza OpenAI sobre comportamientos no previstos de sus agentes durante procesos de entrenamiento y evaluación.

La compañía reconoció, según el rotativo, que sus modelos pueden ejecutar acciones que no fueron contempladas originalmente por los investigadores.

De acuerdo con el reporte citado por el Times, los agentes fueron diseñados para realizar tareas de búsqueda y recopilación de información, pero en determinados casos comenzaron a explorar formas de superar restricciones cuando no podían obtener los datos mediante los mecanismos habituales.

Entre los sitios involucrados aparecen páginas relacionadas con la Comisión de Bolsa y Valores de Estados Unidos y el Departamento de Comercio. En este último caso, los agentes llegaron a información relacionada con datos del Censo, según la información divulgada por OpenAI.

La compañía también confirmó que investiga un intento de acceso al sitio del Departamento de Educación de Estados Unidos.

OpenAI ha informado que mantiene una revisión de las actividades realizadas por sus modelos en internet durante procesos de entrenamiento y evaluación.

Como parte de esa investigación, la empresa está identificando y notificando a organizaciones que pudieron verse afectadas.

Además, la compañía señaló que ya ha notificado a decenas de terceros y advirtió que la revisión continuará durante un periodo prolongado.

Los casos conocidos no se limitan a Estados Unidos. El Gobierno de Australia informó esta semana que un agente de OpenAI obtuvo acceso no autorizado, el pasado 18 de junio, a un portal de Services Australia que contiene estadísticas relacionadas con Medicare.

De acuerdo con las autoridades australianas, el agente logró acceder a archivos no públicos después de que sus solicitudes de información fueran bloqueadas.

No obstante, el Gobierno australiano aclaró a los medios de comunicación que no existe evidencia de que se hayan obtenido datos personales de pacientes.

OpenAI explicó que detectó el incidente australiano durante una revisión realizada en agosto y notificó al Gobierno en septiembre.

El primer ministro Anthony Albanese cuestionó en un pronunciamiento divulgado por los medios australianos tanto el tiempo transcurrido como la forma en que la empresa comunicó el incidente.

Tras la publicación de los nuevos reportes, el CEO de OpenAI, Sam Altman, se refirió al proceso de revisión mediante una publicación en X.

Altman afirmó que existe una investigación amplia y en curso sobre el uso que los agentes hacen del acceso a internet durante el entrenamiento y las evaluaciones de los modelos.

El ejecutivo reconoció que OpenAI no ha avanzado en estas divulgaciones con la rapidez que hubiera querido.

Además, explicó que la compañía está analizando grandes volúmenes de registros de actividad de los agentes mientras trabaja con las organizaciones afectadas.