Empresas adoptan agentes de IA, pero trabajadores desconfían de estos sistemas
Las empresas se enfrentan al reto de la falta de confianza de los trabajadores, para operar la tecnología de IA
Las empresas alrededor del mundo confían en que la adopción de agentes de inteligencia artificial impulsará su negocio, sin embargo, se están enfrentando a retos inesperados como la falta de confianza de parte de los trabajadores técnicos en poder administrar y controlar estos sistemas.
De acuerdo con el estudio Brecha de confianza en los datos y la inteligencia artificial, realizado por Veeam, 88% de las organizaciones de los 600 ejecutivos globales consultados ya utilizan o están probando agentes de inteligencia artificial.
A pesar del optimismo alrededor de dicha tecnología, sólo 7.0% de los encuestados siente que está realmente preparada para aprovechar esa tecnología y sólo 28% confía en su capacidad para detectar cuando estos sistemas operan fuera de los parámetros aprobados.
“La mayoría de las organizaciones no tienen un problema de adopción de inteligencia artificial, sino un problema de confianza”, explicó el CEO de Veeam, Anand Eswaran.
Al presentar el estudio, detalló que la primera fase de la inteligencia artificial se caracterizó por la inversión en infraestructura, la experimentación y la aceleración.
La siguiente fase está marcada por la implementación de agentes de inteligencia artificial, los cuales pueden tomar decisiones de manera autónoma y, por lo mismo, pone en duda si se puede garantizar que todos los datos estén seguros y regulados, que se cumpla con la normativas y que sean resilientes.
Diferente visión
La investigación encontró que 65% de los directores generales cree que cuentan con un conjunto completo de soluciones de inteligencia artificial, pero sólo 48% de los responsables técnicos comparte esa visión.
A esto se añade que 52% de los directores generales considera que lideran activamente la gestión de datos, pero sólo 41% de los responsables de seguridad de la información y 38% de los directores de sistemas de información están de acuerdo.
Para Eswaran esto demuestra una importante brecha de percepción entre la dirección y los equipos operativos encargados de generar resultados en materia de inteligencia artificial.
Añadió que la rápida adopción de la inteligencia artificial combinada con una visibilidad incompleta y una responsabilidad poco clara es lo que está creando las condiciones propicias para que se produzcan fallos difíciles de detectar, explicar y controlar.
De hecho, entre las organizaciones que utilizan esta tecnología sólo una minoría es capaz de determinar en cuestión de minutos a qué sistemas ha accedido, qué acciones ha llevado a cabo, en qué decisiones ha influido y qué datos ha utilizado el sistema.
“Apenas el 40% de los líderes se muestra muy seguro de poder aislar y revertir con precisión un fallo de una inteligencia artificial autónoma”, resaltó el CEO de Veeam.
Responsabilidad clara
Ante este escenario, la recomendación es que dentro de la organización hay una responsabilidad claramente definida.
Esto porque se estima que hay un 24% más de probabilidades de detectar comportamientos anómalos de la inteligencia artificial en las empresas donde los responsables de la seguridad de la información asumen los riesgos, en comparación a las organizaciones que recurren a una responsabilidad compartida.
La tecnológica confía en que se puede implementar un liderazgo responsable sólido que armonice la gobernabilidad, la seguridad, la privacidad, el cumplimiento normativo y la resiliencia.
