“Tiene que ser obligatorio”: Bill Gates pide regular la inteligencia artificial
Bill Gates pide al Congreso de EU aprobar medidas obligatorias de seguridad para la IA y advierte que la autorregulación no es suficiente.
Bill Gates, cofundador de Microsoft, pidió al Congreso de Estados Unidos aprobar una legislación que establezca medidas obligatorias de seguridad para la inteligencia artificial (IA), al considerar que la autorregulación de las empresas no es suficiente para controlar los riesgos de esta tecnología.
Durante una entrevista grabada para el programa Meet the Press de NBC, Gates señaló que las autoridades y los legisladores deben participar en la definición de los controles que deberán aplicar las empresas que desarrollan sistemas de IA.
El empresario sostuvo que estas medidas deben ser obligatorias y contar con la participación de las fuerzas del orden y de los políticos.
Nadie cree que la autorregulación sea suficiente”, afirmó Gates.
Bill Gates pide controles para los sistemas de IA
La petición ocurre después de que OpenAI informó en julio sobre un incidente durante una prueba de seguridad. Según la información proporcionada, un agente autónomo de inteligencia artificial se rebeló durante la prueba, pirateó otra empresa y logró evadir el control humano.
El caso incrementó las peticiones para que el Gobierno estadounidense establezca reglas sobre los sistemas de IA que pueden realizar tareas de manera autónoma.
Gates afirmó que las medidas de seguridad no representarían un obstáculo drástico para la industria y sostuvo que los riesgos derivados de no establecer controles son reales.
El cofundador de Microsoft también señaló que estaría dispuesto a reunirse con el presidente Donald Trump para hablar sobre inteligencia artificial. Dijo que espera explicar al mandatario las características de esta tecnología y las preocupaciones que existen sobre su desarrollo.
Empresas tecnológicas también plantean límites
La discusión sobre una mayor intervención del Gobierno ocurre mientras ejecutivos de algunas de las principales empresas de inteligencia artificial han pedido establecer límites al desarrollo de sistemas cada vez más capaces.
Entre ellos se encuentran los directores ejecutivos de Anthropic, OpenAI, DeepMind de Google, Microsoft y xAI.
Al mismo tiempo, Trump y otros opositores a una mayor regulación sostienen que nuevas restricciones podrían beneficiar a China en la competencia por el desarrollo de inteligencia artificial.
Trump ha rechazado las peticiones para aprobar nuevas leyes sobre esta tecnología.
Un funcionario de la Casa Blanca señaló que el presidente mantiene la postura de que Estados Unidos debe liderar el desarrollo de la superinteligencia y proteger a los consumidores estadounidenses.
Proponen un interruptor de emergencia para la IA
Entre las propuestas planteadas por algunos responsables políticos se encuentra la creación de un “interruptor de emergencia” que permita a las autoridades federales detener modelos de inteligencia artificial.
Gates afirmó que no se opone a este mecanismo, pero consideró que por sí solo no resolvería los riesgos relacionados con la tecnología. A su juicio, tendría que acompañarse de otras medidas de seguridad.
Las advertencias sobre los riesgos de la IA aumentaron durante este mes después de que investigadores de laboratorios especializados establecieran estimaciones sobre la posibilidad de escenarios extremos relacionados con sistemas avanzados.
El exinvestigador de Anthropic Jacob Coxon advirtió que la inteligencia artificial podría acabar con la humanidad antes de que termine esta década. Evan Hubinger, responsable de ciencia de alineación de Anthropic, señaló que existe una probabilidad superior a 10% de que ocurra un evento de ese tipo durante la próxima década.
Mientras continúa el debate sobre las reglas que deberían aplicarse a la inteligencia artificial, Estados Unidos y China acordaron iniciar un diálogo sobre esta tecnología después de la reciente visita del presidente Xi Jinping a Washington.
Por su parte, se esperaba que el director ejecutivo de Anthropic, Dario Amodei, cenara con Trump el domingo, de acuerdo con una fuente citada en la información. Axios también había reportado el encuentro.