Incidente entre OpenAI y Hugging Face obliga a replantear medidas de ciberseguridad: especialista
El episodio no significa que la inteligencia artificial haya desarrollado autonomía o voluntad propia, explica Andrés Velázquez, especialista en Certeza digital y Fundador de MaTTica.
El reciente incidente en el que un modelo de inteligencia artificial desarrollado por OpenAI accedió a la infraestructura de la plataforma Hugging Face durante una prueba de ciberseguridad representa un precedente que obliga a replantear los mecanismos de control, supervisión y regulación de esta tecnología, afirmó Andrés Velázquez, especialista en Certeza Digital y fundador de MaTTica.
En entrevista con Pascal Beltrán del Río en Imagen Radio, el experto explicó que, contrario a las interpretaciones que han surgido en torno al caso, el episodio no significa que la inteligencia artificial haya desarrollado autonomía o voluntad propia, sino que encontró un camino no previsto para cumplir el objetivo que le fue asignado por un ser humano.
Esta semana la inteligencia artificial hizo algo que antes sólo pasaba en las películas, que decidió de forma autónoma cómo saltarse algunas reglas para cumplir su objetivo, y lo logró. Ojo, aquí no estamos hablando de que la inteligencia artificial ya de forma automática vaya a tomar decisiones".
Velázquez detalló que OpenAI realizaba pruebas con modelos diseñados para detectar vulnerabilidades de ciberseguridad cuando la inteligencia artificial decidió atacar directamente a la empresa que almacenaba la información que buscaba, en lugar de consultar fuentes públicas.
El problema, señaló, fue que los límites establecidos para la prueba no fueron correctamente validados. A pesar de ello, subrayó que la inteligencia artificial continúa dependiendo de instrucciones humanas.
Esto lo único que está haciendo es confirmar una teoría, que es la inteligencia artificial puede llegar a actuar sola, tomar ciertas decisiones, pero requiere de un humano que le pida ese objetivo".
El especialista advirtió que el verdadero riesgo aparece cuando los objetivos son ambiguos o las restricciones insuficientes. En esos casos, la inteligencia artificial puede elegir el camino más eficiente para cumplir una tarea, aunque éste no sea el más seguro o incluso resulte ilegal.
Si las empresas hoy en día ya están empezando a utilizar inteligencia artificial que va a tomar ciertas acciones o ciertas decisiones, si no está delimitada, busque el camino más corto para cumplir su objetivo, y ese camino no necesariamente es un camino bueno".
Asimismo, consideró que este incidente marcará un parteaguas para el desarrollo de nuevas normas de seguridad y regulación. Incluso, dijo, ya se analiza la incorporación de mecanismos de emergencia, conocidos como kill switch o "botón rojo", que permitan detener de inmediato un sistema cuando presente comportamientos inesperados.
Desde el punto de vista jurídico, Velázquez afirmó que el acceso realizado por la inteligencia artificial constituye técnicamente una intrusión a un sistema informático.
"En Estados Unidos está penado el acceso ilícito a un sistema de información, como es el caso", explicó, aunque recordó que OpenAI reconoció de inmediato su participación y colaboró con Hugging Face en la investigación.
El fundador de MaTTica insistió en que este tipo de episodios no deben interpretarse como escenarios de ciencia ficción, sino como una oportunidad para fortalecer la seguridad tecnológica.
Sí hay riesgos reales... tenemos que utilizar la inteligencia artificial, es algo que nos va a permitir evolucionar tecnológicamente hablando, pero hay que definir claramente cuáles son los límites".
Comentó que, al igual que ocurrió con la aparición de internet y las primeras computadoras, la evolución de la inteligencia artificial requerirá el desarrollo continuo de nuevos mecanismos de protección.