¿Por qué la empresa Anthropic pide detener el desarrollo de IA? Este riesgo advierten
Anthropic pide a otras empresas y gobiernos, que se haga una pausa en el desarrollo de IA
Anthropic, empresa de inteligencia artificial, pidió que se detuviera el desarrollo global de la IA, cada vez más poderosos. ¿Por qué?
La empresa advierte que los modelos de IA con más potencia, dan indicios de que podrían escapar del control humano.
Según el informe de Anthropic, la desaceleración mundial en el desarrollo de IA de última generación sería “probablemente una buena idea”.
Sin embargo, dijo que si solo una empresa frena, la competencia podría adelantarse en la carrera.
"Creemos que sería bueno para el mundo tener la opción de disminuir o pausar temporalmente el desarrollo de vanguardia de la IA para permitir que las estructuras sociales y la investigación sobre alineamiento sigan el ritmo del avance de la tecnología", señaló.
La propuesta es, no solo para empresas, incluye países, sobre todo, China y Estados Unidos, para llegar a un acuerdo de detenerse de manera unánime, bajo reglas que todos puedan verificar, dijo Anthropic.
"Sin un mecanismo global de coordinación, las empresas y los gobiernos tendrán que tomar decisiones difíciles sobre seguridad mientras enfrentan presiones competitivas y geopolíticas", señaló.
Empresas de la industria y funcionarios de La Casa Blanca, rechazan la propuesta de la empresa, pues consideran que sólo se enfocan en los peores escenarios, y exagera los riesgos, con lo que busca frenar a sus rivales, con el pretexto de seguridad.
El Gobierno de Estados Unidos, ha reconocido el poder del modelo Mythos de la empresa. Esta tecnología, no se ha puesto a disposición del público en general, por sus capacidades para ciberseguridad.
Actualmente, se utiliza en un pequeño grupo de organizaciones.
Funcionarios de Estados Unidos y ejecutivos de grandes empresas, argumentan que, al disminuir el desarrollo de la IA, se le daría ventaja a China.
Sin embargo, el presidente Donald Trump dijo que en su reciente visita a China se discutió la posibilidad de cooperar con el gigante asiático en asuntos de seguridad de la IA.
También, Trump firmó una orden ejecutiva, que permitirá al gobierno realizar evaluaciones preliminares de los modelos de IA más poderosos de empresas en Estados Unidos, antes del lanzamiento.
¿Qué podrían hacer los humanos para evitar los riesgos de la IA?
Para Anthropic, este problema es comparable con los tratados de control de armas nucleares, pero destacó que es difícil de abordar, debido a que el entrenamiento de IA, es más fácil de ocultar que las armas nucleares, y la tentación de seguir adelante sin decirlo abiertamente.
La empresa planea reunir a funcionarios, científicos, grupos de defensa y empresas de IA que compiten, para determinar cómo podría funcionar un sistema de este tipo.
La IA se acelera de manera dramática su propio desarrollo, lo que crearía un ciclo de retroalimentación, que eventualmente, llevará a lo que llaman los investigadores, "superación recursiva”, según datos internos de Anthropic.
La advertencia va sobre un sistema de IA que pueda enseñarse a sí mismo, para ser más inteligente.
"Aún no hemos llegado a ese punto, y la superación recursiva no es inevitable", señala el informe. Pero podría llegar antes de que la mayoría de los gobiernos e instituciones estén preparados para afrontarla, agregó.
"Las pruebas sugieren que el papel humano se está reduciendo en cada paso del proceso de desarrollo de la IA", advirtió Anthropic.
Con información de AFP