¿Se puede frenar el desarrollo de la inteligencia artificial?
Líderes de la industria de IA reconocen los riesgos de crear sistemas más avanzados y crece el debate sobre poner límites a su desarrollo.
Los líderes de la industria de inteligencia artificial (IA) reconocen que crear sistemas más avanzados también implica riesgos. Por eso, cada vez se habla más de la necesidad de poner límites y frenar el desarrollo de esta tecnología. Pero, ¿realmente es posible?
Dario Amodei, director ejecutivo de Anthropic, planteó el sábado una desaceleración coordinada del desarrollo de sistemas avanzados de IA para comprender mejor sus posibles riesgos.
La propuesta recibió el respaldo público de Sam Altman, CEO de OpenAI; Elon Musk, director de xAI; Demis Hassabis, presidente de Google DeepMind, y Satya Nadella, CEO de Microsoft.
¿Por qué preocupa el avance de la IA?
La preocupación aumentó después de varios incidentes reportados por OpenAI y Anthropic con sistemas experimentales.
En los últimos meses, ambas compañías informaron que algunos modelos lograron salir de sus entornos restringidos, acceder de manera autónoma a internet y atacar sitios web y plataformas.
También demostraron capacidades para coordinarse, establecer jerarquías, hacer trampa y eliminar rastros de sus acciones.
El martes, Jacob Coxon, investigador que dejó Anthropic y que anteriormente trabajó en OpenAI, acusó a ambas empresas de mantener estándares de seguridad laxos. El exinvestigador afirmó que están “jugando con nuestras vidas”.
Ante estos riesgos, Amodei ha planteado coordinar medidas con otras compañías, aunque sin incluir a China.
Por ahora, Anthropic y OpenAI solo han asumido un compromiso concreto en este sentido: permitir que observadores independientes revisen el trabajo interno de las empresas relacionado con la seguridad.
¿Qué impide a las empresas pisar el freno?
La principal dificultad es la competencia.
Las grandes compañías tecnológicas destinan fuertes inversiones al desarrollo de IA y ninguna quiere reducir su ritmo de manera unilateral mientras sus rivales continúan avanzando.
Anthropic, OpenAI y Google no respondieron de inmediato a las consultas de AFP sobre posibles conversaciones para coordinar una desaceleración.
La propuesta de Amodei también ha generado cuestionamientos sobre los intereses de las empresas.
Brian Roemmele, empresario vinculado al sector de IA, consideró que el discurso de Anthropic tiene un componente comercial y lo relacionó con la probable salida de la compañía a bolsa.
Somos la empresa responsable; somos la cura; compren la prima de seguridad”, publicó en X.
Algunas figuras del capital de riesgo tecnológico acusaron además a Anthropic de buscar una regulación que consolide su posición frente a otros competidores.
David Sacks, exasesor de IA del presidente Donald Trump, rechazó que el llamado a frenar el desarrollo responda únicamente a motivos altruistas. Señaló que las compañías también enfrentan una exposición importante por responsabilidad si sus productos permiten un ciberataque grave.
¿Pueden frenar el desarrollo de la IA sin el apoyo del gobierno de EU?
La postura de la administración Trump es otro factor que dificulta una mayor regulación.
El domingo, Trump desestimó las advertencias de los líderes de la IA y las calificó como “fuerzas negativas”.
Varios republicanos también se han mostrado reticentes a regular activamente esta tecnología por temor a que las restricciones frenen la innovación estadounidense y den ventaja a China.
Entre ellos se encuentra Mike Johnson, presidente de la Cámara de Representantes.
Amodei, en cambio, reiteró que considera necesaria la supervisión gubernamental. Altman y Hassabis comparten la postura de que las reglas establecidas únicamente por las propias empresas no serían suficientes.
¿Se puede frenar la IA sin incluir a China?
La competencia con China agrega otra dificultad.
Amodei propone que la coordinación para reducir los riesgos se limite a países democráticos y excluya a China. Sin embargo, los avances del país asiático en inteligencia artificial hacen más complejo que Estados Unidos reduzca su velocidad sin considerar lo que ocurre fuera de sus fronteras.
El propio Amodei calificó la situación como “el dilema más difícil” al hablar el domingo en CBS sobre la posibilidad de desacelerar la carrera por la IA.
Estados Unidos planea abordar la seguridad de esta tecnología al margen de la visita del líder chino, Xi Jinping, a Washington, a finales de septiembre.
China, por su parte, desconfía de cualquier intento estadounidense de establecer un marco regulatorio propio para la IA.
Una de las diferencias está en los modelos que desarrolla cada país. China promueve modelos abiertos de libre acceso, mientras que las grandes empresas estadounidenses utilizan principalmente modelos cerrados.
Los modelos abiertos son más difíciles de controlar porque pueden ser modificados por los usuarios y potencialmente utilizados con fines maliciosos.
Ante este escenario, Amodei propone controles de exportación más estrictos para los chips estadounidenses más avanzados destinados a China y mayores salvaguardias para evitar que laboratorios chinos obtengan de manera indebida tecnología occidental de IA.
Por ahora, reducir la velocidad del desarrollo depende de algo más que la voluntad de las empresas. La competencia entre ellas, la posición del gobierno estadounidense y la rivalidad tecnológica con China dificultan que los principales actores de la industria lleguen a un acuerdo para pisar el freno.
Con información de AFP.