Anthropic podría apagar su IA, si causa daños por más de 1,000 millones de dólares

Anthropic consideraría que el gobierno de Estados Unidos pueda apagar su modelo de Inteligencia Artificial (IA), más avanzado, si causa daños en más de 1,000 millones de dólares, o la muerte de más de 50 personas.

Los representantes de Anthropic, reunidos con legisladores del Congreso de Estados Unidos, presentaron un proyecto de ley propio, sobre la seguridad de la Inteligencia Artificial, según informó el medio POLITICO

El proyecto de ley, contempla varias mediadas que implicarían al Departamento de Comercio, además del organismo federal encargado de la supervisión de las empresas tecnológicas de inteligencia artificial.

Como ya se había planteado, se contempla la participación de evaluadores independientes, que deberían registrarse ante el Departamento de Comercio, para que hagan las revisiones periódicas de Anthropic y los modelos que desarrollan.

Si las evaluaciones concluyen que los modelos de vanguardia representan un riesgo inminente y cuantificable, los evaluadores deberán hacerlo del conocimiento del Departamento de Comercio en un plazo máximo de 72 horas.

Comercio es el único que tendrá el poder para solicitar a un juez, que se paralice la IA, para uso y desarrollo, si así se determina. La orden sólo la podría conceder un juez federal del Tribunal de Distrito del Distrito de Columbia.

Los límites que marca Anthropic para detener a una IA, establecen que el riesgo de daños sea superior a los 1,000 millones de dólares, o que cause la muerte o lesiones graves a más de 50 personas.

Estas medidas se aplicarían a cualquier empresa que desarrollara modelos avanzados de IA con capacidad para causar daño.

Las mismas medidas están contempladas en la regulación de California sobre la IA, y la ampliación en la que trabaja el gobernador, Gavin Newsom. Pretende incorporar auditores independientes en los laboratorios tecnológicos y un botón de apagado en los modelos más avanzados.

Las conversaciones sobre el proyecto de ley llegan después de que este verano se conocieran diversos incidentes de seguridad protagonizados por agentes de IA de empresas como Anthropic, OpenAI, Google y Meta que han puesto en tela juicio la seguridad de una tecnología que, por su capacidad de decisión y actuación autónomas, presenta graves riesgos para la sociedad.

Precisamente, el director ejecutivo de Anthropic, Dario Amodei, llegó incluso a plantear en septiembre la necesidad de frenar el ritmo de desarrollo de las capacidades de los modelos de inteligencia artificial; una postura que compartió el director ejecutivo de OpenAI, Sam Altman.

Con información de Europa Press.