ServiceNow: empresas usan agentes de IA sin gobernanza y ponen en riesgo su seguridad
mpresas implementan agentes de IA sin controles adecuados, lo que eleva los riesgos de seguridad, advierte el director de seguridad de ServiceNow.
Las empresas alrededor del mundo están implementando agentes de inteligencia artificial sin tener las políticas de gobernanza adecuadas, lo que puede derivar en un riesgo de seguridad.
Los incidentes relacionados con agentes de inteligencia artificial que han ocupado titulares este año son una advertencia de lo que puede suceder cuando se despliega esta tecnología sin los controles adecuados”, advirtió el director de Seguridad de la Información de ServiceNow, Ben de Bont.
Al presentar los resultados del estudio Desplegada, pero sin gobernanza: el estado de la seguridad agéntica, recordó que nueve de cada diez organizaciones globales ya han sufrido un incidente de seguridad relacionado con esta tecnología durante el último año y sólo 3 % de éstas logró contenerlo en menos de 24 horas.
Esto es grave al considerar que los agentes están dejando atrás las pruebas piloto y se incorporan en sistemas críticos en lugares como hospitales, aeropuertos, plantas de producción, instituciones financieras y otros entornos donde una sola acción sin supervisión puede tener graves consecuencias.
EL RIESGO
De Bont destacó que, según el estudio, menos de la mitad de las organizaciones encuestadas utilizan marcos de gobernanza durante el despliegue de los agentes de inteligencia artificial.
A esto se suma que sólo 44% de los equipos incorpora elementos de seguridad en el desarrollo de un agente antes de crearlo.
Esto significa que, en la mayoría de los casos, los permisos y las salvaguardias se implementan de forma improvisada y a posteriori. Es un enfoque reactivo por definición”, resaltó el director.
Otro punto preocupante es que únicamente 57% de los equipos de seguridad dispone de un registro completo y preciso de todos los agentes en producción y cuenta con procesos para hacer seguimiento de los cambios realizados en éstos, mientras que 29% ha encontrado agentes que nunca habían sido registrados y cuya existencia se desconocía.
Pese a este escenario, 49% de las empresas utiliza actualmente entre 100 y 999 agentes de inteligencia artificial, a lo que se añade que 35% utiliza más de mil.
UN MAYOR CONTROL
Por lo anterior, De Bont recomendó adoptar plataformas como Autonomous Security de ServiceNow que ayuda a las empresas a pasar de una seguridad reactiva y fragmentada a una seguridad gobernada de forma autónoma.
También incluye reglas y salvaguardias necesarias para adoptar de forma segura la inteligencia artificial agéntica, por ejemplo, con un mecanismo de desactivación inmediata.
EL DATO
Sobre el estudio:
- Se realizó por ServiceNow en colaboración con Phronesis Partners
- Encuestó a más de 3 mil 700 altos responsables de la toma de decisiones en seguridad y tecnología, con cargos de vicepresidente o superiores
- Se aplicó en 20 países
- Los encuestados representan a organizaciones medianas y grandes
- 97% de los encuestados declaró ingresos anuales de 250 millones de dólares o más