Freno a la IA: California exigirá un "botón de apagado" de emergencia a los gigantes tecnológicos
California emite la orden ejecutiva N-9-26 exigiendo un botón de apagado de emergencia y auditores independientes obligatorios en laboratorios de IA
California, en Estados Unidos, busca mejorar la regulación de la Inteligencia Artificial (IA), y proponen incorporar un botón de apagado en los modelos de frontera, y también, auditores independientes en los laboratorios tecnológicos, que desarrollan esta tecnología.
Gavin Newsom, gobernador de California, pide aumentar la supervisión de la inteligencia artificial, con un mecanismo de seguridad integral. En este caso, solicitó la colaboración de externos nacionales, quienes deberán entregar recomendaciones, en un plazo de dos meses, como se lee en la orden ejecutiva N-9-25.
La orden también propone que los laboratorios de IA, como Anthropic, OpenAI y Google, obligatoriamente incorporen personal de verificación independiente, que periódicamente realice evaluaciones y auditorías.
Además, se contempla que los informes de transparencia y las evaluaciones de riesgo, sean auditadas y validadas de manera independiente.
Otro aspecto importante de la propuesta, es crear un mecanismo de apagado de emergencia para los modelos de frontera. El “botón de emergencia”, tendrá que ser verificado de manera continua por las entidades independientes.
El gobernador Newsom propuso ampliar la definición de “incidentes de seguridad críticos”, que las empresas están obligadas a reportar, para incluir situaciones de pérdida de control de los sistemas de IA, como ocurrió con Huggin Gace, y otros como los de los agentes de IA de Anthropic, Google y OpenAI.
Además de afinar el papel de California como centro de innovación de IA, Newsom busca impulsar una legislación que equilibre el crecimiento económico con la seguridad y privacidad del consumidor.
En California están 32 de las 50 principales empresas privadas de IA del mundo.
La propuesta de Newsom sobre un botón de apagado sigue a los trabajos que ya ha empezado a hacer OpenAI al respecto, como se conoció a principios de septiembre.
Con información de Europa Press.