¿Cómo evitar fraudes por clonación de voz con inteligencia artificial?
El 21 por ciento de los ciberataques actuales utilizan inteligencia artificial para clonar voces. Especialistas detallan cómo identificar extorsiones financieras, verificar contactos bancarios y proteger datos personales.
El uso de herramientas de inteligencia artificial generativa para la suplantación de identidad y extorsión financiera concentra el 21 por ciento de los ataques actuales de ciberseguridad. Los perpetradores clonan voces y rostros para exigir capital mediante llamadas o mensajes que simulan situaciones de apremio, afectando a ciudadanos y corporativos.
Ricardo Darling, vicepresidente de Ciberseguridad en Centro Telecom, y Patricio Castrejón, director comercial de Xira, explicaron en entrevista para ¡Qué tal Fernanda! de Imagen Radio las implicaciones de los fraudes con inteligencia artificial.
¿Qué hacer ante una solicitud urgente de dinero?
El primer indicador de un intento de extorsión es el sentido de urgencia en la comunicación. Darling indicó que frente a un audio o llamada que incita a realizar una acción inmediata, el usuario debe detener el proceso, colgar el dispositivo y verificar la autenticidad del contacto mediante canales alternos.
Esa primera intención de urgencia te tiene que llamar la atención y lo demás pues es: cuelga y vuelve a marcar. Cuelga y verifica la fuente por otros medios, ya sea el teléfono o ya sea un correo electrónico, o mejor contacto personal”.
Castrejón coincidió en la necesidad de omitir las instrucciones cuando carecen de una notificación previa de las instituciones comerciales. El especialista sugirió establecer un control personal sobre los medios oficiales de comunicación para responder ante los requerimientos de los proveedores. ¿Cómo verificar contactos bancarios y proteger datos personales?
Castrejón puntualizó que diversas instituciones financieras habilitaron funciones en sus plataformas digitales para transparentar los canales de contacto. El directivo enfatizó el uso de herramientas de validación, como los esquemas de "llamada segura" en aplicaciones móviles, para evadir a los extorsionadores.
La sustracción de información para diseñar fraudes ocurre por la acción directa de los usuarios en espacios públicos. Darling advirtió sobre las prácticas de recolección en centros comerciales, donde las personas entregan antecedentes familiares y financieros a cambio de participar en esquemas promocionales.
Nuestra información personal es altamente valiosa y nos pertenece, entonces tenemos que ser muy cuidadosos a quien se la compartimos. Todo eso puede ser usado y será usado seguramente en tu contra para suplantar tu identidad”.
Controles de validación obligatorios para empresas
A nivel corporativo, los ciberdelincuentes suplantan a los directores generales en plataformas de mensajería para ordenar transferencias a los ejecutivos de finanzas. Ante la técnica, Darling recomendó implementar hasta tres filtros de validación internos antes de liberar el flujo de capital.
Voy a hacer una transferencia sobre todo de determinados montos, bueno pues necesito la firma del director financiero, del CFO, y quizás del director general. Esa es la primera cosa, y la segunda una validación... muchos tienen ERPs a través de los cuales van autorizando”.
Las firmas requieren ejecutar análisis periódicos de vulnerabilidades en su arquitectura de red. Darling detalló que el método exige contratar hackers éticos para ubicar fallas desde el componente técnico y reparar los riesgos operativos en un margen de tiempo reducido.
La evolución del fraude obliga a los corporativos a utilizar modelos generativos para contrarrestar las ofensivas. El especialista expuso que los sistemas defensivos monitorean la red corporativa, comparan la actividad con vectores documentados y frenan la intrusión en tiempo real.
Las inteligencias empiezan a por un lado detectar y por otro lado tratar de salirse del parámetro, y es algo que incluso pues ya han alertado los expertos de que en 3 años vamos a tener un problema si no regulamos”.
El papel del factor humano en la toma de decisiones
Castrejón advirtió que la tecnología generativa ya cuenta con la capacidad de replicar los medios de autenticación biométrica, incluyendo huellas y lectura de iris. Por consiguiente, sugirió limitar la operación de la inteligencia artificial a la ejecución de tareas meramente informativas.
La inteligencia artificial, si es voz o si es texto o lo que sea, nada más debe de utilizarse para informar. Para tomar decisiones, siempre que haya un human in the loop, un humano que pueda estar detrás de una toma de decisiones”.
Darling respaldó la directriz al establecer la urgencia de mantener una gobernanza sobre los datos suministrados a los modelos. Para dimensionar el riesgo de delegar el control absoluto, el vicepresidente cuestionó la viabilidad de entregar las operaciones financieras a un algoritmo automatizado.