Project Perception: Microsoft usa IA para frenar ciberataques automatizados
Microsoft usa IA con Project Perception para detectar y corregir vulnerabilidades ante el avance del cibercrimen automatizado.
El cibercrimen está aprovechando la inteligencia artificial para escalar y automatizar sus ataques, por eso, Microsoft desarrolló la plataforma Project Perception que utiliza esa misma tecnología para investigar y corregir continuamente las vulnerabilidades de seguridad de las empresas.
Ahora vivimos en un mundo donde pasamos de ataques asistidos por inteligencia artificial a ataques operados por inteligencia artificial y, ahora, a una inteligencia artificial autónoma capaz de atacar”, explicó la vicepresidenta ejecutiva de Microsoft Security, Hayete Gallot.
Esto último haciendo referencia a que ya se han detectado casos como JadePuffer, un agente de inteligencia artificial capaz de realizar un ataque de ransomware, o la vulneración de Hugging Face por parte de los modelos de OpenAI en un entorno de pruebas.
Ante esto, Gallot consideró que se necesita desarrollar una nueva infraestructura basada en los cimientos de seguridad de la industria y las herramientas tecnológicas actuales, de tal manera que pueda analizar grandes cantidades de contexto y adaptarse a medida que evolucionan los entornos, siendo el resultado Project Perception.
Es un sistema de seguridad basado en agentes diseñado para que los defensores se protejan usando inteligencia artificial con la misma escala y velocidad que lo hacen los atacantes”, detalló en conferencia.
¿CÓMO FUNCIONA?
De acuerdo con Gallot, esta plataforma busca entender cómo un atacante ve el mundo, cómo un defensor evalúa el riesgo y cómo se pueden mejorar las protecciones con el tiempo.
Para lograrlo, se encarga de reunir señales, contexto, modelos y agentes especializados en un sistema de defensa en aprendizaje continuo a través de tres clases de agentes especializados.
Los primeros son los agentes del equipo rojo, los cuales identifican posibles caminos de compromiso antes de que un atacante pueda explotarlos.
Le siguen los agentes del equipo azul que investigan, razonan sobre el contexto y determinan qué representa un riesgo significativo.
Mientras que los agentes del equipo verde toman medidas correctivas y refuerzan las defensas en todo el entorno.
Al trabajar juntos, estos agentes forman un sistema de circuito cerrado que descubre, evalúa y mejora de manera continua la postura de seguridad de una organización”, afirmó la vicepresidenta ejecutiva de Microsoft Security.
Lo anterior es posible porque la tecnológica integró el modelo MAI-Cyber1-Flash dentro de MDASH para crear una plataforma multiagente para la identificación y remediación de vulnerabilidades en software.
Gallot resaltó que dicho conjunto ofrece 96% en la evaluación CyberGym y se ubica más de 12 puntos por encima de Mythos de Anthropic, a lo que se añade que permite casi 50% de ahorro respecto a la configuración actual de MDASH en el mercado.
Uno de los clientes de Microsoft que ya está utilizando Project Perception es la institución financiera de Reino Unido, Nationwide, la cual ha sido capaz de identificar amenazas y realizar acciones de remediación.
Los directivos de Nationwide resaltaron que dicha tecnología ha servido para apoyar al área de ciberseguridad al potenciar sus habilidades, no a reemplazarlas. Gallot indicó que Project Perception estará disponible en vista previa pública a partir del próximo 3 de agosto.