ONU alerta: la IA debilita la democracia global; impulsa manipulación geopolítica
ONU alerta que la inteligencia artificial amenaza la democracia global al alterar la percepción pública y debilitar la confianza ciudadana.
Los sistemas democráticos a escala global enfrentan un riesgo sin precedentes debido al avance de las nuevas tecnologías. El primer informe del Panel Científico sobre Inteligencia Artificial de la Organización de las Naciones Unidas (ONU) reveló ayer que esta herramienta está alterando “deliberadamente” la percepción de la realidad compartida, debilitando la confianza de los ciudadanos y amenazando los derechos humanos.
El organismo alertó que la proliferación de contenidos falsos se ha consolidado como una estrategia corporativa y geopolítica, donde “la desinformación es rentable y persuasiva”, lo que urge un marco regulatorio internacional.
Durante el primer Diálogo Global sobre Gobernanza de la Inteligencia Artificial celebrado en Ginebra, Suiza, diversos especialistas advirtieron sobre los peligros de dejar la regulación en manos de unos cuantos actores tecnológicos.
Los esquemas actuales carecen de la transparencia necesaria para garantizar la seguridad de los usuarios frente a la manipulación masiva de datos. Al respecto, la experta internacional Rebecca Finaly fue tajante al señalar que “un estándar de seguridad establecido por unos pocos no permite rendir cuentas y no es seguro”.
ENGAÑOS
Los hallazgos del Panel de la ONU confirman un incremento alarmante en la capacidad de convicción que poseen los algoritmos generativos actuales. A pesar de los esfuerzos de las firmas tecnológicas por mitigar los fallos, el reporte evidenció que entre 15% y 40% de las respuestas de los modelos de esta tecnología contienen afirmaciones engañosas.
De acuerdo con el documento emitido por las Naciones Unidas, “el auge de los deepfakes y la desinformación responde a una estrategia deliberada”, lo que impacta de forma directa en los procesos electorales y la estabilidad institucional del planeta.
El escenario se vuelve todavía más complejo cuando entran en juego los intereses de los Estados y su control sobre los canales de comunicación tradicionales.
ENTRENAMIENTO A MODO
El informe del panel científico del organismo detalla que los algoritmos de aprendizaje tienden a validar y replicar las narrativas oficiales de los regímenes autocráticos si no existen contrapesos informativos, ya que “el control estatal de los medios de comunicación podría influir en las respuestas de la IA a través de los datos con los que se entrena”.
Esta correlación fue comprobada mediante un análisis empírico realizado por el comité científico de la ONU en 37 países. La investigación demostró que los sistemas tecnológicos muestran un sesgo hacia el autoritarismo informativo, concluyendo que “los grandes modelos de lenguaje valoran de forma más favorable a los países con un mayor control sobre los medios de comunicación”.
Ante esta realidad, el organismo internacional hizo un llamado urgente a la comunidad global para estructurar un frente común que supervise el desarrollo y los criterios de entrenamiento de estos sistemas.
Pacto mundial para proteger a los menores
La Organización de las Naciones Unidas (ONU) puso en alerta internacional el avance desmedido de la tecnología y demandó la creación urgente de un acuerdo global que blinde la integridad de la infancia.
El secretario general del organismo, António Guterres, lanzó una contundente advertencia al asegurar que “ningún niño debe convertirse en un conejillo de indias de una IA no regulada”, marcando una postura firme frente al desarrollo de estas herramientas digitales.
El diplomático portugués delineó una estrategia urgente de tres ejes rectores enfocada en la responsabilidad empresarial. Como primer punto normativo, Guterres planteó un esquema estricto de prevención en el que “las empresas demuestren que sus sistemas son seguros para los menores antes de ponerlos a su disposición”, revirtiendo la tendencia actual de lanzar productos masivos sin auditorías previas de impacto social.
El segundo pilar del pacto internacional aborda de manera directa los delitos digitales más graves que se han potenciado con los generadores de contenido sintético. El secretario general de la ONU demandó una postura de “tolerancia cero con la generación de imágenes de abuso sexual infantil mediante IA”, un problema que ha encendido los focos rojos de los sistemas judiciales en múltiples países debido a la facilidad con la que se pueden replicar y falsificar materiales explícitos.
Como tercer componente del acuerdo, las Naciones Unidas buscan mitigar las crisis de salud mental y el aislamiento derivado del uso de algoritmos predictivos en la juventud. La propuesta estipula la obligación técnica de “que los sistemas redirijan a los niños hacia ayuda humana cuando detecten señales de angustia o riesgo de autolesión”, convirtiendo a la tecnología en un filtro de contención y prevención en lugar de un catalizador de conductas de riesgo.
Este encuentro de alto nivel en territorio suizo no es un esfuerzo aislado, sino que forma parte de la estrategia aprobada en el Pacto Digital Global de 2024 para impulsar la gobernanza internacional de esta tecnología. Las delegaciones participantes coincidieron en que el vacío legal actual requiere de un marco ético global vinculante que obligue a las corporaciones tecnológicas a priorizar los derechos humanos por encima de la monetización de datos y el enganche digital.
Las cuatro maneras de igualar al mundo
- El tiempo. Un equipo muestra cómo la IA detecta señales tempranas de cáncer en imágenes médicas. Un algoritmo entrenado analiza en segundos y prioriza según su nivel de riesgo. La promesa no es reemplazar al oncólogo, sino llegar donde no hay oncólogo.
- La integridad. En un stand de UNODC, funcionarios de varios ministerios siguen con atención una demostración sobre el uso de IA para rastrear el lavado de dinero y la corrupción: sistemas que cruzan millones de transacciones, detectan patrones imposibles de ver a ojo humano y encienden alertas sobre flujos financieros sospechosos.
- El acceso. Otro proyecto aborda la más básica de las desigualdades: la conexión misma. Iniciativas para llevar internet a centros educativos en zonas remotas —mapear con IA qué escuelas siguen sin conexión y planificar cómo alcanzarlas— atacan la raíz del problema.
- El criterio. En varias sesiones se discute cómo educar para el pensamiento crítico en tiempos de IA: cómo formar a estudiantes —y a ciudadanos— capaces de convivir con máquinas que escriben, responden y persuaden, sin delegar en ellas su capacidad de discernir.