¿Los agentes de IA son seguros? Expertos advierten sobre los riesgos para las empresas
La adopción de agentes de IA crece en empresas, pero su uso exige controles para proteger datos y evitar amenazas digitales.
Los agentes de inteligencia artificial han demostrado que tienen el potencial de mejorar las operaciones de las empresas, sin embargo, su desarrollo requiere la implementación de reglas muy concretas y vigilancia durante su uso para evitar que se conviertan en un riesgo de ciberseguridad.
Alejandro Vergara, gerente de Implementación de Inteligencia Artificial en IQSEC, destacó que la adopción de esta tecnología sigue creciendo. Muestra de ello es que, según cifras de Gartner, una de cada tres empresas en el mundo integrará soluciones de agentes para 2028.
Ante esto, consideró que el mayor reto para las compañías será encontrar la forma de gobernar dichas soluciones porque, a diferencia de los chatbots, los agentes destacan porque son capaces de tomar decisiones al tener una autonomía más amplia.
Durante el segundo webinar Punto de Entrada de IQSEC, resaltó que dicha característica no sólo está siendo aprovechada por el cibercrimen, también se han tenido casos como el de OpenAI y Hugging Face en el que un agente vulneró a la organización tratando de cumplir su objetivo.
Por ejemplo, los cibercriminales están enviando correos electrónicos con instrucciones ocultas, ya sea en el código o hasta escritos en blanco para que el usuario no la vea, con el fin de hacer que el agente que lo “lee” cumpla con lo pedido, que podría ser acceder a información confidencial.
Vergara agregó que los agentes de inteligencia artificial han roto el modelo tradicional de ciberseguridad porque no es una aplicación predecible.
ATENTOS
Para César Sanabria, director de consultoría estratégica y director de seguridad de la información de IQSEC, lo más importante para las organizaciones que integren agentes es contar con una gobernanza.
Lo anterior significa contar con reglas claras al momento de desarrollar el agente, por ejemplo, determinar a qué bases de datos puede o no acceder, qué nivel de permiso tiene para entrar a cierta información o cuáles son las acciones que puede tomar.
El gran reto en el tema de agentes es que muy pocas veces se hace un diseño adecuado y se tiene un responsable”, afirmó Sanabria.
Esto último porque se necesita que exista un “custodio”, es decir, alguien que haga el monitoreo del agente para hallar comportamientos extraños o encontrar problemas en su implementación y tomar acciones rápidas para arreglarlo.
Aunque aceptó que el cuidado y la vigilancia, así como decir qué está bien y qué está mal en una aplicación, se ha vuelto mucho más difícil de determinar porque ya no se tienen códigos fijos y estrictos.