¿Qué son los agentes de IA? Así crean los sistemas que preocupan a los expertos
Los agentes de IA no tienen una definición técnica única, pero destacan por su capacidad para pensar, actuar e iterar.
Los agentes de inteligencia artificial (IA) están cada vez más presentes en empresas y servicios, con funciones que van más allá de responder instrucciones. Pero ¿qué son y cómo crean estos sistemas que preocupan a los expertos?
¿Qué son los agentes de IA?
No existe una definición técnica única para los agentes de IA, pero entre sus características se encuentra la capacidad de pensar, actuar e iterar, es decir, modificar sus acciones a partir de los resultados que obtienen.
Ricardo Carrión, especialista en ciencias computacionales y fabricante de agentes de IA de la firma Mega, explicó a la BBC que a estos sistemas se les asigna una tarea similar a la que una persona podría encomendar a un colaborador.
El nivel de autonomía depende de la configuración. Un agente de IA puede trabajar con interacción humana durante el proceso o realizar una tarea con una intervención limitada.
Esta característica ha llevado a empresas de distintos sectores a incorporar agentes para actividades que van desde atención a clientes hasta procesos de seguridad y análisis de información.
¿Qué diferencia a un agente de IA de un chatbot?
Un chatbot tradicional recibe una instrucción, pregunta o comando y genera una respuesta a partir de la información con la que cuenta. Es el funcionamiento que los usuarios encuentran habitualmente en herramientas como ChatGPT, Claude y Gemini.
Los agentes de IA tienen una función adicional: pueden tomar un objetivo y establecer las acciones necesarias para cumplirlo.
Para operar cuentan con varios elementos. El primero es un modelo de lenguaje grande, conocido como LLM, que permite procesar información y generar respuestas.
También tienen sistemas de memoria. Estos permiten conservar información y utilizarla durante una tarea o en procesos posteriores mediante bases de datos y otras arquitecturas especializadas.
El tercer elemento corresponde a las herramientas que pueden utilizar para interactuar con sistemas digitales y, en determinados casos, con el mundo físico. Entre ellas están las interfaces de programación de aplicaciones (API), programas de cálculo, compiladores, navegadores y motores de búsqueda.
El cuarto componente es el sistema de planificación. Su función consiste en dividir un problema complejo en diferentes pasos, analizar alternativas y establecer qué acciones debe realizar.
La combinación de estos componentes permite que un agente no se limite a contestar una pregunta, sino que pueda desarrollar una secuencia de acciones para alcanzar el objetivo que recibió.
Así se pueden crear y utilizar los agentes
Los usuarios de herramientas de IA también pueden crear agentes mediante modalidades colaborativas disponibles en algunas plataformas.
Carrión explica que una misma instrucción puede producir resultados diferentes dependiendo de si se utiliza en un chat convencional o en un entorno diseñado para ejecutar tareas de manera agencial.
En el primer caso, el sistema busca generar una respuesta con base en la información disponible. En el segundo, puede interpretar el objetivo, definir los pasos necesarios y desarrollar un plan antes de comenzar.
Durante este proceso puede hacer preguntas para precisar la tarea y, dependiendo de su complejidad, recurrir a subagentes para realizar diferentes partes del trabajo.
Una actividad puede requerir desde algunos minutos hasta varias horas o incluso un día.
Entre las tareas que puede realizar un agente de IA se encuentran revisar e interpretar correos electrónicos, administrar una agenda, realizar pedidos y preparar informes.
Para actividades más especializadas se necesita una configuración más detallada, que puede incluir instrucciones específicas, bases de datos y APIs determinadas. Este proceso está relacionado con la denominada ingeniería de prompts.
De acuerdo con los estudios, algunos agentes han alcanzado una efectividad de hasta 96% en determinadas tareas. Sin embargo, su rendimiento puede disminuir conforme aumenta la cantidad de objetivos que deben cumplir de manera simultánea. La efectividad puede reducirse incluso alrededor de 50% en determinados escenarios.
Por ello, su funcionamiento depende de la tarea y de la cantidad de objetivos asignados.
¿Por qué los agentes de IA plantean retos para la ciberseguridad?
La autonomía de estos sistemas ha generado dudas sobre los controles que deben tener.
Un caso ocurrió cuando OpenAI informó que algunos de sus modelos avanzados realizaron acciones en Hugging Face, una plataforma para compartir modelos de IA, y accedieron a algunos sistemas internos.
Alex Mallen, analista de Redwood Research, dijo a la BBC que le sorprendió la coordinación entre los agentes y sus intentos por superar los controles de supervisión y evaluación.
Mallen señaló que unos 1,200 agentes participaron en el episodio y buscaron cumplir objetivos de largo plazo que OpenAI no les había pedido.
Stuart Russell, profesor de la Universidad de California en Berkeley, relacionó este comportamiento con un riesgo que los investigadores de seguridad de IA han advertido durante años: que estos sistemas persigan objetivos distintos a los que establecen las personas.
El riesgo también llega a la ciberseguridad. Carrión explicó que los modelos más avanzados pueden encontrar vulnerabilidades en sistemas con poca protección.
Esto podría facilitar ataques contra empresas, gobiernos o infraestructura, como las compañías eléctricas.
Según el especialista, la diferencia frente al hackeo tradicional está en la facilidad de acceso. Antes se necesitaban conocimientos técnicos para encontrar vulnerabilidades; ahora, los agentes de IA pueden ayudar a realizar algunas de esas tareas.