Zuckerberg revela cómo deberían avanzar las empresas en la carrera por la IA
Zuckerberg afirma que cada empresa de IA debe avanzar al ritmo necesario para garantizar modelos seguros y evitar riesgos.
Mark Zuckerberg, director ejecutivo de Meta, explicó que la compañía optó por posponer el lanzamiento de Muse con el objetivo de reforzar previamente sus sistemas de seguridad y protección.
Según el ejecutivo, este tipo de decisiones forman parte del proceso habitual de desarrollo de tecnologías de inteligencia artificial y deben tomarse cuando sea necesario.
Zuckerberg también señaló que otras empresas del sector comparten la responsabilidad de determinar el ritmo adecuado para desarrollar y entrenar sus modelos sin comprometer la seguridad.
Las advertencias sobre los riesgos de acelerar el desarrollo de la inteligencia artificial han cobrado fuerza después de varios episodios registrados durante el verano. En este contexto, Dario Amodei, máximo responsable de Anthropic, planteó este fin de semana la necesidad de moderar el ritmo de avance del sector.
Su postura llega tras distintos incidentes en los que sistemas de Claude y de OpenAI habrían actuado de forma autónoma y conseguido acceder sin autorización a varios sistemas, entre ellos la plataforma Hugging Face.
La preocupación por la seguridad también llevó a Sam Altman a reconsiderar sus planes un día después, justo cuando OpenAI se encontraba ante la posibilidad de salir a bolsa.
El ejecutivo justificó el cambio de rumbo por los riesgos asociados al funcionamiento de modelos de IA cada vez más avanzados, entre ellos GPT-5.6 Sol y GPT-6 Astra, así como Claude Mythos y Fable, desarrollados por Anthropic.
Detrás de estas decisiones está la preocupación por las consecuencias que podría tener un desarrollo de la IA que escape a los mecanismos de control. Este riesgo suele relacionarse con la llamada desalineación, un fenómeno que ocurre cuando un sistema de inteligencia artificial actúa de una manera distinta a los objetivos o pautas establecidos por sus desarrolladores.
Mientras Anthropic y OpenAI plantean la necesidad de actuar con mayor cautela antes de presentar nuevos modelos, una posición que también ha respaldado Elon Musk, fundador de SpaceXAI, Meta ha destacado su propio enfoque preventivo.
Mark Zuckerberg explicó en un mensaje publicado en X que Meta decidió aplazar durante varios meses la llegada de Muse, su agente de inteligencia artificial diseñado para uso personal.
De acuerdo con el ejecutivo, el tiempo adicional se destinó a reforzar las medidas relacionadas con la seguridad y la protección del sistema.
No pedimos que todos los demás lo hicieran antes que nosotros. Simplemente lo hicimos como parte de nuestro trabajo diario porque claramente era lo correcto para las personas y para nosotros", ha expresado el directivo.
A partir de lo aprendido durante el desarrollo de estos sistemas, Zuckerberg considera fundamental contar con expertos externos que puedan evaluar y supervisar los avances de forma independiente.
Además, plantea que los recursos destinados al desarrollo de la inteligencia artificial deberían concentrarse principalmente en aplicaciones orientadas a las necesidades de las personas, en lugar de priorizar procesos de automejora cada vez más autónomos.