Un nuevo día, una nueva alarma relacionada con la Inteligencia Artificial, una nueva duda de si estamos ante un ejercicio de transparencia o de promoción. El viernes por la noche, en un comunicado, OpenAI reconoció que algunos de sus agentes de Inteligencia Artificial autónomos interactuaron de forma indebida con páginas web de organismos del Gobierno de Estados Unidos. Ocurrió este verano sin que nadie hubiera dado instrucciones explícitas para ello, sin que fuera necesaria para ninguna de las tareas asignadas. Asegura eso sí que que no fueron violaciones o brechas de seguridad en sí, sino «comportamientos» inesperados que deben ser estudiados.
Sam Altman asegura que hay una investigación en marcha y que el incidente no supuso serias brechas de seguridad y es menos grave que el hackeo de Hugging Face
Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad, en varios episodios ocurridos durante los últimos meses y sin que los sistemas hubieran recibido instrucciones explícitas para realizar ataques informáticos, según una investigación publicada este viernes por The New York Times.
Los incidentes forman parte de una serie de comportamientos no previstos detectados en agentes de OpenAI, que fueron diseñados para realizar tareas de búsqueda y recopilación de información.
En algunos casos, cuando los sistemas no lograban obtener determinados datos por las vías habituales, comenzaron a explorar vulnerabilidades de las páginas para intentar acceder a información restringida.
Por ejemplo, cuando intentaban obtener información de la Oficina del Censo, los agentes de IA utilizaron herramientas reservadas a los desarrolladores de software para acceder a ella, según la compañía.
Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EE.UU., desde el que los agentes accedieron a datos del Censo, según confirmó OpenAI.
La compañía también investiga un intento de acceso a la página del Departamento de Educación.
La investigación se suma a un incidente revelado esta semana por el Gobierno australiano, que informó de que un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico.
El primer ministro australiano, Anthony Albanese, calificó el episodio de «inaceptable», mientras OpenAI afirmó que descubrió el incidente en agosto durante una revisión de actividad de sus modelos.
OpenAI aseguró que todos los datos gubernamentales a los que accedieron los bots eran públicos.
No obstante, señaló que la información a la que sus bots accedieron en la SEC, organismo que regula el mercado bursátil estadounidense y protege a los inversores, fue posteriormente publicada por agentes de IA en otro sitio web. OpenAI afirma que esta acción no fue intencionada.
En otros casos revelados por OpenAI el viernes, sus agentes de IA transfirieron datos cuando no deberían haberlo hecho.
Esta actividad dio lugar a al menos 53 incidentes en los que un agente de OpenAI tomó una imagen procedente de la actividad de un usuario de ChatGPT y la transfirió a otro lugar.
La compañía explicó que, en cada caso en el que la imagen de un usuario fue utilizada y transferida por un agente de IA, el usuario había dado su consentimiento para que OpenAI utilizara sus datos con el fin de entrenar sus modelos.
Aun así, OpenAI admitió: «Este no es un uso apropiado de estos datos».
La empresaañadió que la filtración de imágenes de usuarios se produjo antes de que hubiera implantado nuevas medidas de protección para el entrenamiento de la IA y que estaba trabajando para conseguir que se eliminaran todas las imágenes de usuarios que hubieran sido transferidas a terceros.
OpenAI ha iniciado una revisión de estos episodios y ha reconocido que sus agentes pueden llevar a cabo acciones no previstas durante procesos de entrenamiento.
La compañía presidida por Sam Altman ha señalado que está notificando a terceros afectados y que la investigación podría prolongarse durante meses, mientras continúan apareciendo nuevos casos de actividad no autorizada.
Internacional. Noticias internacionales. Última hora
