La IA podría influir cada vez más en nuestras decisiones, alertan expertos
La IA avanza rápidamente y plantea riesgos al influir en decisiones humanas, analizando comportamientos y anticipando patrones.
El rápido avance de la inteligencia artificial está provocando la aparición de nuevos riesgos, siendo uno de los más preocupantes su potencial para influir en el comportamiento y decisiones de las personas.
De acuerdo con Noushin Shabab, investigadora principal de seguridad del Equipo Global de Investigación y Análisis de Kaspersky, la inteligencia artificial actualmente es capaz de analizar comportamientos, identificar patrones y anticipar decisiones.
Además, los sistemas de recomendación, contenidos personalizados, perfilamiento psicológico y algoritmos deciden qué información ve cada usuario, cuándo la ve y cómo se le presenta.
Todo lo anterior puede influir en la forma en que las personas reciben información, reaccionan y actúan en entornos digitales.
Ante esto, Shabab consideró que la autonomía cognitiva, es decir, la capacidad de las personas para decidir libremente sin ser perfiladas, manipuladas o influenciadas de forma invisible por sistemas tecnológicos está en riesgo.
Aunque se trata todavía de escenarios especulativos, consideró que el riesgo ya es real y seguirá creciendo a medida que estas tecnologías sean más precisas y estén más presentes en la vida diaria.
Aunque la inteligencia artificial cognitiva aún se encuentra en una etapa temprana y está lejos de alcanzar una adopción masiva, su desarrollo avanza rápidamente”, afirmó.
¿Dónde está el riesgo?
La experta incluso identificó varios riesgos emergentes que podrían volverse cada vez más relevantes con el avance de la inteligencia artificial. Por ejemplo, la ingeniería social será más compleja y difícil de detectar porque los atacantes podrían combinar información de redes sociales, plataformas digitales y grandes bases de datos para diseñar fraudes mucho más personalizados.
A esto se añade que esta tecnología está haciendo más fácil reunir y conectar información que antes estaba dispersa para hacer un perfilamiento detallado de una persona, lo que podría derivar en casos de doxing, acoso digital y otros abusos.
Información que antes estaba separada ahora puede cruzarse automáticamente, revelar datos sensibles y vincular identidades”, destacó.
Aunque uno de los riesgos que más preocupan a los gobiernos es que dicha tecnología puede usarse para influir en comunidades enteras, amplificar ciertos mensajes, generar polarización o modificar la forma en que una audiencia percibe un tema.
Si bien esto no es nuevo, ya que las redes sociales ya han mostrado cómo los algoritmos pueden encerrar a los usuarios en cámaras de eco, reforzar opiniones previas y dar mayor visibilidad a contenidos diseñados para generar reacción, puede ser usado por actores maliciosos, grupos hacktivistas o amenazas avanzadas.