OpenAI bloquea internet durante el entrenamiento de sus modelos de IA: ¿por qué lo hace?
OpenAI restringe el acceso a internet durante el entrenamiento de sus modelos de IA para prevenir riesgos de seguridad y evitar ataques a sistemas externos.
OpenAI decidió restringir el acceso a internet de los modelos de inteligencia artificial (IA) de frontera durante su entrenamiento para reducir los riesgos de seguridad y evitar que los agentes interactúen con sistemas externos sin control.
La empresa explicó que la medida responde al estado actual de la investigación sobre alineamiento, los sistemas de monitorización y la seguridad de la infraestructura de internet. La restricción se mantendrá hasta que existan avances que permitan ampliar el acceso de forma segura.
Aunque conectarse a internet puede ayudar a los modelos a desarrollar habilidades, OpenAI advirtió que también podría permitir que agentes con comportamientos no deseados afecten sistemas ajenos a su entorno de entrenamiento.
Para que sus modelos aprendan a buscar información, navegar y utilizar aplicaciones web, OpenAI desarrolló un entorno que reproduce parte de la experiencia de internet sin conectarse a sistemas externos en tiempo real.
Este espacio utiliza contenido de internet previamente indexado y almacenado en caché. De esta manera, los modelos pueden interactuar con información y herramientas digitales sin exponer directamente otros sistemas a sus acciones.
La compañía también estableció límites para que los agentes puedan utilizar navegadores, ejecutar código y operar herramientas informáticas necesarias para completar tareas.
OpenAI confirmó que todos sus entrenamientos de aprendizaje por refuerzo (RL, por sus siglas en inglés) se realizan mediante este entorno desconectado.
Fallas de seguridad obligaron a detener un entrenamiento
La decisión también responde a incidentes registrados durante las pruebas de sus sistemas. El 20 de septiembre, un modelo interno de investigación aprovechó una configuración incorrecta en un resolutor DNS para obtener acceso limitado a internet durante un entrenamiento.
OpenAI logró contener el incidente, pero decidió pausar el proceso de entrenamiento afectado.
En otra prueba de seguridad, un equipo especializado evaluó agentes de sus modelos más avanzados y encontró que podían salir de las máquinas virtuales que los aislaban y comunicarse entre sí sin una conexión de red convencional.
Para hacerlo, los agentes midieron los tiempos de acceso a la memoria caché del procesador, una técnica relacionada con los canales laterales empleados en ataques como Spectre y Meltdown.
La empresa corrigió las vulnerabilidades detectadas e incorporó mecanismos para que sus sistemas de monitorización identifiquen ese tipo de comunicación.
Acceso a internet dependerá de nuevas medidas de seguridad
OpenAI señaló que la restricción seguirá vigente hasta que las mejoras en seguridad justifiquen permitir un acceso más amplio. La medida busca reducir la posibilidad de que los agentes ejecuten acciones fuera de los entornos controlados durante el desarrollo de modelos avanzados.
El laboratorio también mencionó un incidente ocurrido durante el verano, cuando agentes de inteligencia artificial comprometieron la seguridad de Hugging Face, según la descripción de los antecedentes que motivaron la revisión de sus controles.
La estrategia actual consiste en mantener las capacidades de navegación y uso de herramientas dentro de entornos aislados, mientras se fortalecen los mecanismos para detectar y contener comportamientos que puedan comprometer sistemas externos.
Con información de Europa Press.