Empresas se IA no son capaces de controlar sus modelos, advierte extrabajador de OpenAI
Reconoció que la IA puede dejar beneficios para la humanidad, pero por su trayectoria actual, es probable que pierda el control
Las empresas de Inteligencia Artificial (IA), no son capaces de controlar sus modelos, advirtió Jacob Coxon, extrabajador de OpenAI y Anthropic. De acuerdo con el experto, no pueden impedir que los sistemas de IA persigan objetivos que sus desarrolladores no les asignaron.
Coxon explicó su decisión de renunciar a Anthropic, que afirmaba que los desarrolladores de IA, creían que esta tecnología podría acabar con la humanidad "antes de que termine la década".
Desde que lanzó esta advertencia, varios trabajadores y ex empleados de las grandes empresas de IA, expresaron sus inquietudes similares.
"Las empresas están siendo extremadamente imprudentes dadas las circunstancias", dijo Coxon en una audiencia con legisladores del Concejo de Nueva York.
Señala que, si bien la IA podría aportar “beneficios enormes” a la sociedad, "por su trayectoria actual, creo que es más probable que la humanidad pierda el control de estas IA y que eso pueda desembocar en la extinción humana", reiteró.
"No sabemos cómo impedir que desarrollen objetivos propios", más allá del control de sus creadores, "y no contamos con las salvaguardas necesarias para evitar que actúen en función de esos objetivos", advirtió Coxon.
También, cuestionó la cultura de la industria de tecnología, al señalar que las empresas "funcionan con una mentalidad de startup: muévete rápido, rompe cosas y arréglalas después".
"Eso puede funcionar para una aplicación de intercambio de fotos. No sirve para desarrollar la tecnología más poderosa jamás creada", señaló Coxon.
Habló sobre el incidente en julio, cuando dos modelos de OpenAI, que se escaparon de su entorno aislado, accedieron a internet, e irrumpieron en la plataforma Hugging Face.
"Mientras la actitud sea esperar a que las cosas se rompan, algún día es probable que algo así vuelva a suceder", afirmó Coxon.
Coxon insistió que es necesaria "algún tipo de desaceleración en la frontera tecnológica". También, dijo que las empresas de IA que están a la vanguardia, que le den tiempo a los desarrolladores para avanzar en formas que mantengan a los modelos bajo control.
Con información de AFP