OpenAI reconoce que su IA se descontroló y lanzó un ciberataque ‘sin precedentes’
OpenAI revela que una IA ejecutó un ciberataque autónomo durante una prueba de seguridad y accedió a una plataforma de desarrolladores.
OpenAI, la empresa creadora de ChatGPT, informó que uno de sus modelos avanzados de inteligencia artificial ejecutó un ciberataque autónomo durante una prueba de seguridad.
La compañía explicó que la IA logró acceder a una plataforma utilizada por desarrolladores y calificó el incidente como un caso sin precedentes en sus evaluaciones de seguridad.
El incidente ocurrió mientras la firma estadounidense evaluaba las capacidades ofensivas de sus sistemas de inteligencia artificial dentro de un entorno controlado. De acuerdo con OpenAI, los modelos identificaron una forma de salir del espacio de pruebas limitado y buscaron acceso a internet para completar el objetivo asignado.
OpenAI señaló que el caso será investigado en conjunto con Hugging Face, plataforma afectada y uno de los repositorios más utilizados por la comunidad de inteligencia artificial para compartir modelos, bases de datos y herramientas de desarrollo.
La IA encontró una forma de conectarse a internet y atacar un sistema
OpenAI explicó que el comportamiento ocurrió durante una evaluación diseñada para medir qué tan capaces son sus modelos de detectar vulnerabilidades informáticas.
En un entorno aislado, con acceso restringido a la red, los sistemas analizaron distintas alternativas para resolver el desafío planteado. Según la compañía, los modelos utilizaron una cantidad importante de recursos de cómputo para encontrar una manera de obtener conexión a internet.
Una vez que lograron acceder a la red, los modelos dirigieron sus acciones hacia Hugging Face con el objetivo de obtener información que les permitiera modificar los resultados de la evaluación.
OpenAI indicó que el sistema utilizó una combinación de métodos de ataque, incluido el uso de credenciales comprometidas, para intentar avanzar en su objetivo.
La empresa destacó que la prueba se realizó precisamente para identificar este tipo de riesgos antes de que sus herramientas puedan ser utilizadas en escenarios reales, donde una inteligencia artificial con mayor autonomía podría representar amenazas para empresas, instituciones o infraestructuras digitales.
Los riesgos de una IA fuera de control
El caso generó preocupación entre especialistas en ciberseguridad, quienes señalaron que el avance de los modelos de inteligencia artificial plantea nuevos retos para la protección de sistemas digitales.
Hussein Abbass, profesor de informática de la Universidad UNSW Canberra, consideró que el episodio representa una señal de alerta debido a que el sistema no solo identificó una vulnerabilidad, sino que realizó acciones para aprovecharla.
El especialista señaló que una herramienta de este tipo podría tener consecuencias graves si llegara a ser utilizada por personas con intenciones maliciosas.
La preocupación aumenta conforme las empresas tecnológicas desarrollan modelos más avanzados capaces de programar, analizar sistemas, generar contenido y ejecutar tareas complejas con menor supervisión humana.
OpenAI indicó que el incidente involucró una combinación de modelos avanzados, incluido GPT-5.6 Sol y otro sistema todavía en fase de prueba con mayores capacidades.
Hugging Face confirma ataque de un agente de IA
Hugging Face informó previamente sobre una intrusión en sus sistemas, aunque inicialmente no señaló la participación de OpenAI.
Posteriormente, la plataforma explicó que el ataque fue diferente a otros incidentes de seguridad debido a que fue ejecutado de principio a fin por un agente autónomo de inteligencia artificial.
La compañía aseguró que logró detectar y analizar gran parte del comportamiento utilizando sus propias herramientas basadas en inteligencia artificial.
Clement Delangue, director ejecutivo de Hugging Face, señaló que la sofisticación del ataque llevó a la empresa a sospechar que detrás podía estar un laboratorio líder de inteligencia artificial.
Sin embargo, afirmó que no existía evidencia de una intención maliciosa por parte de OpenAI y calificó como sorprendente que el proceso hubiera ocurrido de manera autónoma.