CEO de Nvidia dice que hay 0% de probabilidades de que la IA acabe con el mundo, ¿por qué?

El CEO de Nvidia, Jensen Huang, dice que “hay un 0% de probabilidades” de que la Inteligencia Artificial (IA), acabe con el mundo y la humanidad a finales de esta década. ¿Por qué?

En las últimas semanas, expertos en inteligencia artificial, han advertido sobre los riesgos de esta tecnología. Destaca el director ejecutivo de Anthropic, Dario Amodei; el director ejecutivo de OpenAI, Sam Altman; y un antiguo trabajador de Anthropic, Jacob Coxon, que hicieron un llamado para retrasar el desarrollo de esta tecnología.

Los tres expertos alertan que la IA autónoma con capacidades cada vez más avanzadas, y que no siga las instrucciones de humanos, puede llegar a ser "lo suficientemente inteligente como para matarnos", según advirtió Coxon.

"Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década", señaló.

El CEO de Nvidia, Jensen Huang, dijo que estas advertencias son “narrativas apocalípticas”, que sólo buscan asustar a las personas.

"El 2030 no va a ser el fin del mundo. Hay un 0% de probabilidades de que lo sea."

Nivida, es la principal empresa proveedora de chips para IA en servidores y computadoras, que impulsan el desarrollo, entrenamiento e inferencia de los modelos.

Para inicios de septiembre, la empresa anticipó un crecimiento de ingresos de “aproximadamente el 70%”, para el ejercicio fiscal (2027-2028), como consecuencia del auge de la demanda de IA, que impulsa el desarrollo de infraestructura a nivel mundial.

Huang asegura que “el éxito” de Nvidia, está directamente relacionado con el despliegue seguro de sus productos y servicios. "Si no continuamos haciéndolo, nuestro valor disminuirá", dijo.

¿Qué hay detrás de las advertencias con la IA?

Hay dos problemas relacionados con las capacidades avanzadas de la IA: la desalineación y la automejora recursiva.

• La desalienación refiere al comportamiento de la IA que no se ajusta a lo esperado, basado en valores, intereses o intenciones humanas.
• La automejora recursiva, es la técnica que permite a un sistema de IA que diseñe y desarrolle de forma autónoma a su sucesor.

Anthropic propone evaluar el ritmo de desarrollo de la IA, basados en tres puntos críticos que permitan revisar lo avanzada que está la autoconstrucción de una nueva versión de la IA, la capacidad de la empresa para supervisar e intervenir en las acciones que realicen los agentes en sus sistemas, y la capacidad de cómputo necesaria para desarrollar los modelos más capaces.

Con información de Europa Press.