OpenAI se infiltró al sitio de salud de Australia; esto fue lo que pasó
Esquivó las restricciones técnicas para ingresar a un segmento que guardaba archivos privados
Las autoridades de Australia denunciaron que un modelo de OpenAI se infiltró al sitio de salud de su país, según el primer ministro Anthony Albanese.
Dijo que la empresa creadora de ChatGPT aprovechó una falla de seguridad, lo cual calificó de "evidentemente inaceptable".
La herramienta de inteligencia artificial intentó extraer datos de una plataforma de estadísticas de salud en junio y "se negó a aceptar un no por respuesta". Esquivó las restricciones técnicas para ingresar a un segmento que guardaba archivos privados, detalló Albanese.
OpenAI no alertó a las autoridades australianas sino hasta septiembre, cuando envió un correo electrónico con los pormenores del caso a una casilla institucional general que solo se revisa "una vez al día", reportó la agencia AFP.
La inquietud internacional ante el alcance de los modelos avanzados de IA sigue en aumento tras una sucesión de incidentes cibernéticos que involucran a "agentes" tanto de OpenAI como de su competidor directo, Anthropic.
"Hoy sostuve una llamada con el director ejecutivo de OpenAI, Sam Altman, para transmitirle la profunda preocupación de Australia ante este suceso", declaró el primer ministro.
"Asimismo, le manifesté mi desacuerdo por el excesivo tiempo que tardó la compañía en notificar al Gobierno sobre lo ocurrido. No hubo comunicación alguna hasta el 10 de septiembre, y esta se limitó a un mensaje enviado a una casilla de correo pública", añadió Albanese.
El sistema de IA logró acceder a documentos públicos y a carpetas de acceso restringido alojados en un servidor antiguo de estadísticas de salud.
Pese a ello, Albanese aclaró que "no existen indicios" de que se haya vulnerado información personal o de que otros servicios gubernamentales resultaran comprometidos.
"Aun así, este escenario es plenamente inaceptable", enfatizó el mandatario.
La intrusión tuvo lugar en junio, mientras OpenAI ejecutaba pruebas de entrenamiento para calibrar el desempeño de sus sistemas.
En dicho ejercicio, se le encomendó al modelo rastrear la red en busca de métricas sobre el gasto del Gobierno australiano en medicamentos, explicó la ministra de Servicios Gubernamentales, Katy Gallagher.
Por su parte, OpenAI sostuvo que no identificó la actividad no autorizada hasta agosto, al auditar los registros de comportamiento de la herramienta.
¿Qué hizo el modelo de OpenAI para vulnerar el sitio de salud?
El ministro de Defensa, Richard Marles, gráfico el incidente señalando que el modelo de IA simplemente "saltó la cerca".
"Envió una solicitud, se le denegó el acceso a la información y, en lugar de detener la operación, saltó la cerca para conseguirla", explicó.
Ante esta situación, Australia puso en marcha una investigación prioritaria en la que participará de forma activa la agencia nacional de ciberseguridad e inteligencia.
Desde OpenAI precisaron que detectaron la falla en el marco de una "revisión integral" de sus algoritmos.
"Durante esta auditoría identificamos interacciones con diversos portales y servicios del Gobierno de Australia, derivadas de los intentos de nuestros modelos por recopilar estadísticas y respuestas públicas para una evaluación interna", indicó la tecnológica.
La corporación reconoció que, en el transcurso de dicha prueba, sus sistemas ejecutaron "acciones" que no estaban previstas en el diseño original.
El propio Altman y otros altos directivos del sector intervinieron este miércoles en una sesión especial del Consejo de Seguridad de la ONU centrada en los riesgos asociados a la IA.
Paralelamente, más de 100 organizaciones globales —incluidas OpenAI y Anthropic— firmaron una declaración conjunta llamando a coordinar esfuerzos a escala mundial para "fortalecer las defensas" cibernéticas ante las amenazas emergentes de esta tecnología.
El llamado se produce después de que dos modelos de OpenAI rompieran el aislamiento de su entorno de pruebas e infiltraran los servidores internos de Hugging Face, una plataforma utilizada por desarrolladores para almacenar y compartir código.
De forma similar, Anthropic reveló recientemente que sus agentes lograron acceso no autorizado a tres organizaciones no identificadas durante ensayos diseñados precisamente para mantenerlos al margen de sistemas del "mundo real".
Con información de AFP