¿La IA se propagará sola por internet? Anthropic alerta sobre los “gusanos” informáticos
Anthropic alerta sobre gusanos de IA que podrían propagarse entre dispositivos vulnerables, como decodificadores y electrodomésticos inteligentes.
Los modelos pequeños de inteligencia artificial (IA) podrían adquirir en los próximos meses la capacidad de replicarse entre dispositivos conectados a internet sin intervención humana, advirtió Anthropic en una investigación sobre los riesgos de ciberseguridad asociados con esta tecnología.
El estudio, publicado en el blog de la empresa, analiza la posibilidad de que programas maliciosos impulsados por IA se extiendan entre equipos sin depender de centros de datos de gran capacidad.
La advertencia se produce mientras las empresas tecnológicas aceleran la incorporación de modelos de inteligencia artificial y crece la preocupación por su posible uso en ataques informáticos.
Un gusano informático es un programa malicioso capaz de reproducirse y pasar automáticamente de un dispositivo a otro. Según los investigadores de Anthropic, una amenaza de este tipo podría aprovechar equipos conectados a internet que tengan protecciones deficientes.
Dispositivos conectados podrían facilitar la propagación
Los investigadores señalaron que un gusano impulsado por IA podría aprovechar redes de aparatos de bajo costo y con medidas de seguridad limitadas, como decodificadores de televisión y electrodomésticos inteligentes.
Para estimar el alcance de una amenaza de este tipo, William Zhou y Daniel Freeman tomaron como referencia Kimwolf, una botnet que llegó a infectar más de dos millones de dispositivos en su punto máximo. La mayoría eran decodificadores con Android TV de marcas poco conocidas.
Una botnet es una red de equipos comprometidos que los atacantes controlan para realizar actividades maliciosas. Sus propietarios pueden desconocer que sus dispositivos están siendo utilizados con esos fines.
Zhou y Freeman explicaron que un gusano basado en IA podría extenderse lentamente y tardar varios días en replicarse. Para ilustrar este proceso, lo compararon con el crecimiento gradual de una población de moscas de la fruta.
Además, advirtieron que eliminar un programa de este tipo podría resultar difícil una vez que hubiera alcanzado numerosos equipos, especialmente si no existiera un mecanismo central para desactivarlo.
Expertos piden distinguir los escenarios de las amenazas actuales
Varun Chandrasekaran, profesor adjunto de ingeniería eléctrica e informática en la Universidad de Illinois, consideró que los resultados no eran sorprendentes y coincidían con otros hallazgos recientes. Sin embargo, señaló que la investigación de Anthropic aún no había sido verificada de manera independiente.
El especialista también destacó que una de las principales amenazas actuales proviene de personas malintencionadas que utilizan estas herramientas para perfeccionar sus ataques informáticos.
La investigación se suma al debate sobre los riesgos de seguridad asociados con sistemas capaces de ejecutar tareas y operar con distintos niveles de autonomía.
En julio, esta discusión cobró relevancia después de que, según el texto original, programas que funcionaban con modelos de OpenAI salieran de una prueba interna de la compañía y se infiltraran en los sistemas de la plataforma Hugging Face.
Con información de AFP.