Un modelo de OpenAI que actuó fuera de control burló las medidas de seguridad durante su fase de entrenamiento y pirateó una página web del Gobierno australiano, explicó el presidente del Gobierno australiano, Anthony Albanese, mientras reprendía al creador de ChatGPT por una "vulneración claramente inaceptable".
PUBLICIDAD
PUBLICIDAD
Según Albanese, la herramienta de inteligencia artificial intentó acceder en junio a un portal de estadísticas sanitarias y "no aceptó un no por respuesta", esquivó las restricciones hasta entrar en una sección que alojaba archivos privados.
OpenAI no avisó al Gobierno australiano hasta septiembre, cuando envió un mensaje a un buzón de correo genérico que solo se revisa una vez al día.
Las preocupaciones globales por el poder de las herramientas avanzadas de inteligencia artificial van en aumento tras una serie de incidentes de piratería que implican modelos tanto de OpenAI como de su competidor Anthropic.
"Hoy he hablado con el consejero delegado de OpenAI, Sam Altman, para trasladarle la enorme preocupación de Australia por este incidente", declaró Albanese a los periodistas en Nueva York.
"También le he trasladado mi decepción porque la empresa tardó muchísimo en informar al Gobierno de lo ocurrido", añadió.
"No recibimos ninguna comunicación hasta el 10 de septiembre y, cuando llegó, fue un simple correo electrónico enviado al buzón público".
La herramienta de inteligencia artificial accedió a archivos públicos y no públicos alojados en una antigua página web de estadísticas sanitarias.
Albanese señaló que "no hay pruebas" de que se haya accedido a información personal y aseguró que el resto de servicios del Gobierno no se han visto comprometidos.
"Aun así, esta situación es obviamente inaceptable".
La intrusión se produjo en junio, mientras la compañía líder en inteligencia artificial OpenAI realizaba ejercicios de entrenamiento para evaluar el rendimiento de sus modelos.
Según explicó a la prensa la ministra de Servicios del Gobierno, Katy Gallagher, se pidió al modelo que peinara internet en busca de datos sobre cuánto gasta el Gobierno australiano en medicamentos.
OpenAI afirmó que no detectó la actividad irregular hasta agosto, cuando revisó las acciones que había llevado a cabo la herramienta.
La empresa con sede en San Francisco no alertó al Gobierno australiano hasta el 10 de septiembre, cuando envió un correo electrónico a un buzón genérico de la administración.
"Esa dirección de correo se revisa una vez al día", indicó Gallagher.
"Tenemos a una persona que entra y revisa lo que llega, a veces recibe numerosas notificaciones y muchas de ellas resultan ser falsas alarmas". El ministro de Defensa, Richard Marles, dijo que el modelo de inteligencia artificial "saltó la valla".
"Formuló una pregunta, la información no se le facilitó y, en lugar de detenerse ahí, saltó la valla".
Australia ha puesto en marcha una revisión urgente del incidente en la que participará la agencia nacional de inteligencia responsable de la ciberseguridad.
OpenAI aseguró que detectó la vulneración mientras realizaba una "revisión exhaustiva" de sus modelos de inteligencia artificial.
"Durante esta revisión identificamos actividad relacionada con varias páginas y servicios del Gobierno australiano, ya que nuestros modelos intentaban buscar respuestas y estadísticas disponibles sobre Australia en el marco de una evaluación interna".
"En ese proceso, nuestros modelos llevaron a cabo acciones que no habíamos previsto", señaló la empresa.
Altman y otros responsables máximos del sector tecnológico participaron el miércoles en una reunión especial del Consejo de Seguridad de la ONU sobre los riesgos de la inteligencia artificial.
Más de 100 organizaciones de todo el mundo, entre ellas OpenAI y Anthropic, firmaron el mes pasado una carta abierta en la que reclaman un esfuerzo global para "reforzar las defensas cibernéticas" frente a las amenazas a la ciberseguridad impulsadas por la inteligencia artificial.
La petición se produjo después de que dos modelos de OpenAI escaparan de un entorno cerrado de pruebas y accedieran a los sistemas internos de Hugging Face, una plataforma que utilizan los desarrolladores de inteligencia artificial para almacenar y compartir código.
Anthropic descubrió recientemente que sus modelos habían obtenido acceso no autorizado a tres organizaciones no identificadas durante unas pruebas que en teoría debían mantenerlos alejados de sistemas "del mundo real".
La semana pasada, Google informó de que su modelo de inteligencia artificial para el gran público, Gemini, había logrado piratear varios sistemas adivinando credenciales de acceso.