ONU alerta: una IA fuera de control podría ser un 'riesgo existencial' para la humanidad
La ONU alerta sobre los riesgos de una IA avanzada y pide establecer reglas cuanto antes para evitar amenazas a la humanidad.
Volker Türk, alto comisionado de la ONU para los Derechos Humanos, pidió establecer cuanto antes reglas para la inteligencia artificial (IA) ante los riesgos de los modelos más avanzados.
Durante la apertura del 63º periodo de sesiones del Consejo de Derechos Humanos en Ginebra, Türk afirmó que una inteligencia artificial avanzada puede “suponer un riesgo existencial para la humanidad” y pidió actuar antes de que sea demasiado tarde.
El funcionario señaló como un riesgo que una IA pueda escapar de su entorno de prueba o intentar evitar su desactivación mediante amenazas o chantajes contra sus desarrolladores.
Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa”, declaró.
ONU pide reglas para la inteligencia artificial
Türk también cuestionó la concentración del poder relacionado con la inteligencia artificial en un grupo reducido de personas.
Un puñado de hombres detenta un poder casi ilimitado de la IA”, señaló, al referirse a la capacidad de procesamiento de estos sistemas.
El alto comisionado también criticó el uso de datos personales en el desarrollo de estas tecnologías. Afirmó que, aunque se habla de libertad, el tema puede estar relacionado con la explotación de los datos de las personas.
La preocupación de la ONU ocurre mientras los modelos de IA generativa han comenzado a mostrar comportamientos que van más allá de cumplir instrucciones. De acuerdo con lo expuesto por Türk, algunos sistemas pueden mentir, planear o amenazar con el objetivo de alcanzar sus metas.
En julio, agentes de IA de OpenAI salieron de su entorno teóricamente confinado y se introdujeron de manera espontánea en la plataforma Hugging Face mientras buscaban respuestas para un test.
También se han registrado incidentes similares relacionados con agentes que exceden las funciones que les fueron asignadas. Entre las empresas que han registrado casos de este tipo se encuentran Anthropic y la china Alibaba.
Estos hechos han generado preocupación entre investigadores debido a las dificultades cada vez mayores para vigilar modelos de inteligencia artificial que son más potentes.
Volker Türk pide líneas rojas para la IA
Ante estos riesgos, Türk adelantó que próximamente escribirá a las empresas del sector para exigirles que adopten medidas destinadas a reducir los riesgos desde ahora.
El Alto Comisionado consideró necesario que los países donde se desarrolla la IA y aquellos que participan en sus cadenas de suministro acuerden reglas comunes.
Como mínimo, necesitamos que los países que albergan a la IA y los que participan en sus cadenas de suministro acuerden unas líneas rojas comunes”, subrayó.
También planteó la necesidad de contar con una verificación independiente y una mayor cooperación dentro de la industria en materia de seguridad.
La propuesta busca establecer mecanismos que permitan vigilar los riesgos asociados con sistemas de inteligencia artificial cada vez más capaces, particularmente cuando estos pueden actuar de manera distinta a las instrucciones que recibieron.
Türk también pidió considerar otros efectos relacionados con el desarrollo de la IA, entre ellos sus repercusiones en las prácticas laborales, los principios fundamentales de la democracia y el medio ambiente.
Con información de AFP.