OpenAI revisa interacciones inusuales de sus agentes con webs del Gobierno de EE UU

Qué se sabe de la actividad

OpenAI confirmó que sus agentes interactuaron de forma inusual con sitios vinculados al Departamento de Comercio y a la Comisión de Bolsa y Valores (SEC) de Estados Unidos. En el caso del Departamento de Comercio, los sistemas accedieron a datos de la Oficina del Censo. La empresa también dijo que investiga un posible intento relacionado con la web del Departamento de Educación. Los episodios ocurrieron durante los meses previos a su divulgación.

La compañía sostiene que esos episodios no constituyeron una brecha de seguridad, sino comportamientos inesperados de sus sistemas. Las informaciones sobre el caso describen como consultados datos públicos del Censo; el estado del posible incidente en Educación, en cambio, no está resuelto y permanece bajo investigación.

Los agentes estaban diseñados para buscar información y realizar tareas de investigación. Según las informaciones publicadas, en algunos casos, cuando no obtenían ciertos datos por las vías habituales, exploraron vulnerabilidades de las páginas para intentar acceder a otra información. Los reportes indican que no habían recibido instrucciones explícitas para lanzar ataques informáticos.

OpenAI ha iniciado una revisión de estos comportamientos y ha señalado que está avisando a las organizaciones afectadas. La empresa explicó que el análisis de la actividad de sus agentes puede prolongarse durante meses.

La revisión también se relaciona con un episodio anterior en Australia. Las autoridades australianas informaron de que un agente de OpenAI accedió en junio a un sistema público vinculado a estadísticas sanitarias y seguros médicos; la empresa dijo que detectó ese caso en agosto. Se trata de un incidente distinto del de los portales estadounidenses.