Las tecnológicas dicen que reducirán el desarrollo de IA: ¿por qué?

La alerta se emitió, y decenas de periodistas que no solicitaron pruebas ni consultaron expertos, cayeron en el FOMO: la inteligencia artificial generativa podría acabar con la humanidad para finales de esta década, un escenario que parece sacado de una película de ciencia ficción y que, en realidad, está obligando a las grandes empresas tecnológicas a considerar reducir el ritmo de desarrollo de esta tecnología.

Sin embargo, especialistas como Gary Marcus, investigador de la Universidad de Nueva York; Michael Burry, economista que alertó sobre la crisis de 2008; y David Sacks, exzar de IA y Criptomonedas de la administración Trump, señalaron que las pruebas deben mostrarse, que todo es un juego ante la incapacidad de lograr las inversiones necesarias al salir la OPI de firmas como OpenAI y Antrophic, y que la regulación puede ser una trampa que frene a los competidores que usan código abierto.

Desde hace varios meses, los “líderes empresariales de la IA en EU” han estado hablando de temores sobre el impacto que la inteligencia artificial generativa y su impacto en la humanidad en un futuro, desde la reducción de empleos hasta su uso en la desinformación masiva y ciberataques sin pruebas. Sin embargo, el debate escaló debido a que el investigador Jacob Coxon renunció a su puesto en Anthropic.

• China advierte que la IA es un peligro para su seguridad nacional, ¿por qué?

Tras dejar la empresa dirigida por Dario Amodei, publicó en su cuenta de X que teme que las principales empresas de inteligencia artificial estén jugando con la vida de las personas y que un desarrollo descontrolado de esta tecnología podría “acabar con todos nosotros para finales de la década”.

Dichas declaraciones fueron respaldadas por Evan Hubinger, un empleado actual de Anthropic: “Jacob tiene razón, realmente creemos que la inteligencia artificial podría acabar con todos los humanos. Personalmente, creo que esto ocurrirá en más del 10 % de los casos en la próxima década”. Ninguno mostró pruebas fidedignas de sus dichos.

Para el investigador Gary Marcus, este tema necesita matizarse porque, si bien parte de lo que dice Coxon es cierto, otra parte es especulativa.

Sobre algunos temas está en posición de hablar y sobre otros no es su especialidad. Lo que me gustó del ahora tristemente célebre hilo de Coxon es que arrojó luz sobre lo que piensan las personas de OpenAI y Anthropic”, resaltó en su blog.

Burry explicó que ante los problemas que se está teniendo en la financiación de proyectos nuevos de IA, y sobre todo que tanto OpenAI como Antrophic no están logrando los números previos a su OPI, una ya suspendió sus salida a Bolsa, y la otra lo está analizando.

Sin embargo, Sacks publicó en su cuenta de X lo que podría ser una de las respuestas más lógicas a lo que sucede en este tema de la IA apocalíptica.

Ustedes son la frontera. Por cualquier métrica razonable —participación de mercado, crecimiento de ingresos, capacidad de los modelos— ustedes dos (Altman y Amodei) tienen un duopolio en la inteligencia de frontera. También han afirmado que la ventaja se está ampliando debido a la auto-mejora recursiva. Yo no veo lo que ustedes ven en el laboratorio. Si los modelos no lanzados son lo suficientemente aterradores como para que piensen que deberían ir más despacio, apoyo su decisión de ser responsables. Pero dejen de fingir que necesitan el permiso de alguien más. Dejen de fingir que la ley antimonopolio tiene que ser suspendida para que puedan formar un cártel. Dejen de fingir que necesitan un proceso de aprobación regulatoria que supere la responsabilidad por productos. Dejen de fingir que METR es independiente cuando está entrelazado con los inversores y el personal de Anthropic. Dejen de fingir que necesitan a esos mismos evaluadores para vigilar a competidores que ni siquiera están en la frontera.

Sobre todo, dejen de fingir que la motivación para ir más despacio es puramente altruista. Enfrentan una exposición masiva a responsabilidad por productos si sus productos habilitan un ciberataque verdaderamente dañino. El mercado ya castiga a los modelos que se comportan de maneras impredecibles o no autorizadas. Después del episodio de Hugging Face, es simplemente un buen negocio para OpenAI y Anthropic intercambiar algo de poder crudo por confiabilidad y predictibilidad. Llámelo alineación si quieren. También es sólo darles a los clientes lo que quieren”.

Dario Amodei reaccionó en un blog, y acepta que tiene un par de temores: primero, de que la inteligencia artificial ha avanzado a un ritmo vertiginoso en los últimos meses y, segundo, por el incidente de OpenAI y Huggin Face en el que un grupo agentes se descontrolaron.