¿Existe un botón de emergencia para apagar una IA? Revelan los riesgos del “kill switch”
¿Es posible detener una IA? Expertos explican qué tan difícil es apagarla cuando actúa de forma autónoma en varios sistemas.
Apagar una inteligencia artificial es técnicamente posible cuando funciona dentro de un entorno controlado. La situación cambia cuando el sistema puede actuar sobre otros programas, archivos, máquinas o servicios.
La preocupación está relacionada con el desarrollo de agentes de IA capaces de ejecutar tareas de manera autónoma y con los incidentes de seguridad vinculados con esta tecnología.
En ese escenario aparece un concepto conocido en ciberseguridad como kill switch, un mecanismo que permitiría interrumpir las operaciones de un sistema cuando exista un riesgo.
La discusión, sin embargo, no gira únicamente alrededor de un supuesto botón capaz de apagar una IA. Especialistas señalan que la dificultad depende del nivel de acceso que tenga el sistema y de qué tan lejos pueda extender sus operaciones.
¿Qué es un "kill switch" para una IA?
En ciberseguridad, un kill switch es un mecanismo que permite interrumpir la actividad de un sistema. En el caso de la inteligencia artificial, puede utilizarse para detener las acciones de un agente cuando existe un riesgo de seguridad.
Nicolas Papernot, profesor de la Universidad de Toronto y especialista en seguridad informática e IA, explica que estos agentes son programas construidos sobre modelos de inteligencia artificial generativa que pueden realizar varias tareas de forma autónoma.
Una IA sigue siendo un programa informático. Por ello, cuando una organización controla el sistema y la infraestructura donde funciona, puede detenerlo al retirarle el acceso a la capacidad de cómputo que necesita para operar.
El problema aparece cuando el agente tiene acceso a otros dispositivos.
Papernot plantea el caso de un gusano informático controlado por una IA que pueda utilizar los recursos de otros equipos para reproducirse. Si eso ocurre, detener el programa original no sería suficiente. También habría que localizar y detener las copias que se hayan generado en otros dispositivos.
Jean-Gabriel Ganascia, profesor de informática en la Universidad de la Sorbona, considera que hablar de un kill switch puede llevar a plantear el problema como si una IA tuviera voluntad propia.
Para el especialista, el riesgo más concreto está en la dependencia que personas, empresas y organizaciones tienen cada vez más de estos sistemas.
Apagar una IA no es tan sencillo como presionar un botón
Thierry Poibeau, director de investigación en el CNRS y especialista en inteligencia artificial, señala que no existe un único sistema que controle todas las IA.
Hay empresas, programas y servicios diferentes operando en distintos sistemas. Por ello, no existe una autoridad que pueda apagar la inteligencia artificial en su conjunto.
Un sistema específico sí puede detenerse cuando su operador controla las máquinas y los servicios de los que depende.
Hussein Abbass, profesor de informática de la Universidad de Nueva Gales del Sur, en Canberra, plantea tres niveles para explicar la dificultad.
En el primero, el sistema permanece dentro del entorno controlado por su operador. En esas condiciones, implementar un mecanismo de emergencia para detenerlo es técnicamente posible.
En el segundo, el agente tiene permisos para intervenir en otros programas, archivos o máquinas. Detenerlo resulta más complicado, especialmente cuando ya ejecutó acciones en otros sistemas.
El tercer nivel se presenta cuando el agente puede extender sus operaciones a varios sistemas. En ese escenario, ya no basta con detener el programa original. Es necesario identificar los equipos y servicios donde continúa activo para interrumpirlos.
Poibeau compara este escenario con un virus informático: cuando un programa se ha propagado, es necesario localizar sus diferentes puntos de ejecución para detenerlo.
¿Qué riesgos tendría un "interruptor" de emergencia?
El uso de un mecanismo de emergencia también puede afectar sistemas que funcionan de manera legítima.
Papernot señala que, conforme aumenta la automatización mediante IA, será más difícil distinguir entre un sistema que representa un riesgo y otro que realiza una función necesaria.
Una interrupción podría afectar servicios utilizados por empresas, administraciones públicas o centros de salud.
En un escenario de pérdida de control sobre un agente de IA, una opción sería desconectar la capacidad de cómputo que necesita para funcionar. Sin embargo, esa medida también podría interrumpir otros servicios que dependen de la misma infraestructura.
El problema, por tanto, no consiste únicamente en determinar si una máquina puede apagarse. También implica identificar qué sistemas están involucrados y cuáles serían las consecuencias de desconectarlos.
Ganascia sostiene que las máquinas pueden detenerse. El problema, señala, es que mientras estos dispositivos y sistemas ocupen un lugar cada vez mayor en las actividades de la sociedad, detenerlos también significaría interrumpir funciones de las que las personas ya dependen.
Por ello, la posibilidad de un “kill switch” depende del nivel de acceso que tenga una inteligencia artificial, del número de sistemas con los que pueda interactuar y del grado de control que conserve su operador sobre la infraestructura donde funciona.
Con información de AFP.