Exinvestigador de OpenIA advierte que empresas de IA no actúan de manera responsable, ¿por qué?
Señala que ninguna empresa debería desarrollar de manera responsable una IA, que sea capaz de superar a los humanos
Un exinvestigador de OpenAI advierte que las empresas de Inteligencia Artificial (IA), no actúan de manera responsable. Acusó a Anthropic y OpenAI de “jugar con nuestras vidas”. ¿Por qué?
Jacob Coxon, trabajó en los últimos tres años en preentrenamiento, en la etapa en que los modelos de IA absorben grandes cantidades de información, en OpenAI y luego en Anthropic.
"Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas", escribió en su cuenta de X.
"Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de marketing", agregó.
La renuncia de Coxon se da en el contexto de que Anthropic se prepara para salir a la bolsa. La agencia AFP solicitó declaraciones a las empresas, pero no respondieron de inmediato.
Evan Hubinger, responsable de seguridad en Anthropic, le dio la razón a Coxon. Comentó en el post de X: "Creemos realmente que la IA podría matar a humanos".
De manera personal dijo que el riesgo se estima en “más de un 10%”, dentro de la próxima década.
Otros líderes de la industria señalan que la IA se aproxima a la “automejora recursiva”, donde un modelo podría diseñar a su propio sucesor, y esto sin controles humanos.
Coxon señala que ninguna empresa debería desarrollar de manera responsable una IA, que sea capaz de superar a los humanos, sin intervención del gobierno, o una desaceleración coordinada.
"En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (...) a pesar del riesgo", afirmó Coxon.
Recién en febrero, Anthropic retiró de su carta de seguridad, el compromiso de suspender el desarrollo de modelos, sin no controlaba sus riesgos.
Para finales de julio, más de mil trabajadores de la industria, que incluye al director ejecutivo de Anthropic, Dario Amodei, pidieron al gobierno de Estados Unidos, preparar un mecanismo de frenado.
El domingo, el jefe científico de OpenAI, Jakub Pachocki, escribió que "el momento actual llama por extrema precaución" y coordinación internacional.
¿Cuáles son los temores por las capacidades de la IA?
Coxon advierte que no hay que subestimar a esta tecnología, pues son sistemas sobrehumanos que serán capaces de hackear cualquier cosa, revolucionar cualquier campo y adquirir poder y recursos reales. Además, esta tecnología no ha desacelerado su progreso.
Señala que, si bien los ejecutivos a cargo de la IA saben de los riesgos inminentes, hablan de manera clamada y sensata, pero realmente expresan miedo en privado.
Por el lado de Anthropic, no responden a las advertencias, porque están más preocupados por ganar la carrera y llegar primero. Señala que piensan que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, pese al riesgo.
Con información de AFP