Alertas por IA son por temas geopolíticos y no por ciencia: especialista

Las alertas encendidas entorno a los riesgos derivados de un descontrolado desarrollo de la Inteligencia Artificial solo obedece “más a temas geopolíticos que a la ciencia”; y es que hasta la fecha no existe “un riesgo fuera de control”.

Así lo puntualizó el doctor Alexandro López González, coordinador de la Ingeniería en Inteligencia Artificial de la Universidad Iberoamericana Ciudad de México, quien detalló que, debido a las condiciones geopolíticas actuales en el mundo, permean estas “exageradas” opiniones que hablarían de un riesgo para la humanidad.

Están un poquito exageradas las opiniones que hay sobre que la inteligencia artificial va acabar con el mundo, con la humanidad. Corresponden más a algunos temas geopolíticos económicos que realmente a la ciencia, que a la ingeniería”.

El experto detalló que actualmente existen dos preocupaciones principales entorno al desarrollo de la IA; la primera sería sobre la “automejora recursiva” y que podría superar las capacidades humanas en cierto punto.

Esto sigue siendo más que nada teórico porque hoy por hoy los modelos no se mejoran solos en todos los ámbitos. Si generas un modelo de IA que sirve para hacer búsquedas en internet, puede mejorarse para hacer mejores búsquedas; pero ese mismo modelo no te serviría para hacer análisis económico, no te puede programar, no te puede hacer una programación de viaje. Entonces, sí existe esa mejora auto recursiva, pero todavía no de propósito general”.

Mientras que el segundo punto es el “alineamiento”, es decir, cuando a la IA se le dan ciertas indicaciones que llega a ignorar por sus propios intereses; al respecto, dijo que no hay hasta el momento alguna evidencia de que esto haya ocurrido, ya que incluso en el caso de OpenAI, y la vulnerabilidad que sufrió Hugging Face por un hackeo, apuntó, “no es que decidiera hacerlo, estaba hecha para eso”.

La IA no se salió de control desde el punto de vista de que estuviera haciendo otra cosa y decidiera, de forma autónoma, hackear una página de internet. No, simplemente estaba hecha para eso. […] Hoy, todas las inteligencias artificiales cumplen para lo que están planeadas. ¿Cuál es el detalle? Que ha habido algunos errores o situaciones curiosas. Todavía no pasa eso de que sea un riesgo fuera de control”.

En entrevista con Pascal Beltrán del Río para la Primera Emisión de Imagen Radio, el doctor López González consideró necesario impulsar una correcta reglamentación gubernamental, más que apostar por la autorregulación de las empresas desarrolladoras de tecnología, y que vaya dedicada por un buen uso a nivel ético.

Ahí es una cuestión de reglamentación gubernamental. Es difícil, como plantea Darío Amodei o Sam Altman, de OpenAI y de Anthropic, que las empresas tengan que regularse a ellas mismas. La gran realidad es que esto no va a pasar; ellos no van a hacer regulación porque están enfocados en la generación de valor para sus accionistas, para las personas que generan dinero.

Lo que sí se necesita es una reglamentación gubernamental hacia las empresas para que puedan o no desarrollar ciertas IA. La reglamentación debería enfocarse en elegir lo humano, que realmente beneficie al humano más allá de que sea utilizada para fines malignos, como armas, detección de blancos, ciberataques, etcétera”.

Respecto a la competencia tecnológica que mantiene Estados Unidos contra China, el coordinador de la Ingeniería en Inteligencia Artificial de la Ibero dudó que el gobierno de Donald Trump ceda frente a la apertura que muestra la administración oriental, “la innovación científica funciona cuando es compartida, son secretos empresariales si no se comparten”.

Estados Unidos está muy enfocado en ganar esta carrera. China lo está viendo como algo de poder suave. […] Creo que no vamos a lograr un consenso entre estas potencias debido a que, principalmente, Estados Unidos lo está viendo como un ámbito de hegemonía tecnológica; pero creo que el camino por el cual China está trabajándolo, de abrir los modelos, siempre es una buena idea”.

Finalmente, Alexandro López González consideró que “llegar al punto que alcance a la ciencia ficción no es probable”; y consideró que las alertas rojas encendidas solo tendrían objetivos económicos hacia el futuro.

Cuando salen los expertos a decir que ya estamos cerca, que el siguiente año o dentro de cinco, en realidad son cantidades sacadas de la nada, están basadas en absolutamente nada. Mi recomendación sería que pongan un poquito de atención porque mucho es ruido y tiene fines políticos y económicos.

Por ejemplo, Anthropic, que está haciendo esa narrativa, es probable que cuando salga a la bolsa, su acción sea muy alta porque tiene un modelo muy poderoso, pero nadie lo ha demostrado, no han presentado pruebas de lo poderosos que son sus modelos. OpenAI está en las mismas condiciones”.