Las elecciones actuales han evolucionado hacia un complejo enfrentamiento donde la tecnología, especialmente la inteligencia artificial (IA) generativa, juega un papel clave. Esta tecnología, que permite la creación de contenidos realistas y persuasivos, impacta en el panorama electoral al facilitar la desinformación y el fraude, afectando tanto a la opinión pública como a la economía de los votantes.
En 2024, la preocupación crece por el uso de la IA generativa en las elecciones de EE.UU., con herramientas como deepfakes y modelos de lenguaje (LLM) a disposición de actores estatales y ciberdelincuentes que buscan influir en el proceso.
Examinamos a continuación el papel de estas tecnologías en los ataques de manipulación y posibles estrategias de defensa.
Deepfakes: manipulación política y fraude económico
Los deepfakes, que superponen rostros y voces de manera realista, han avanzado hasta convertirse en un recurso fundamental para influir en los procesos electorales y cometer fraudes. Existen dos tipos de actores que los utilizan: los Estados nación, para desacreditar a candidatos rivales, y los ciberdelincuentes, quienes suplantan la identidad de figuras públicas para legitimar estafas, desde falsas criptomonedas hasta campañas fraudulentas de recaudación.
Ejemplos recientes los encontramos en las elecciones de Polonia y el Reino Unido, donde deepfakes de líderes influyeron en la opinión pública. En EE.UU., también se han registrado audios y vídeos falsificados de políticos con el fin de manipular a los votantes.
LLM: phishing y segmentación de votantes
Además de los deepfakes, los LLM como ChatGPT o Llama permiten generar contenido escrito de manera coherente y en múltiples idiomas. Esto es utilizado para lanzar campañas de phishing y manipulación dirigidas, segmentando mensajes según las preferencias políticas de los usuarios en redes sociales.
Los ciberdelincuentes pueden analizar la actividad en redes para identificar afinidades políticas y lanzar desinformación personalizada o solicitudes de donaciones fraudulentas. En épocas de elecciones, esta estrategia es aún más efectiva, aprovechando la polarización social para amplificar el alcance de sus mensajes.
Fraude financiero y suplantación de identidad
La capacidad de crear contenido falso permite a los delincuentes suplantar la identidad de figuras políticas, no solo para influir en la opinión pública, sino también para aprovecharse económicamente de los votantes. Usando deepfakes, se pueden generar vídeos de políticos solicitando apoyo financiero o promoviendo inversiones fraudulentas. Este esquema ha afectado incluso a figuras reconocidas como Elon Musk y Donald Trump, quienes han sido falsamente representados en vídeos promoviendo criptomonedas y otros activos falsos.
Suplantación de identidad en tiempo real
Además de los deepfakes pregrabados, los delincuentes ahora cuentan con herramientas de suplantación en tiempo real, disponibles en mercados clandestinos a precios accesibles. Éstas, permiten manipular videollamadas en directo para suplantar la identidad de políticos o funcionarios y, aunque esta tecnología suele ser menos precisa que los deepfakes pregrabados, puede resultar efectiva en ataques individuales, como el intento de suplantación de un diplomático ucraniano que casi engaña a un senador estadounidense en 2024.
La capacidad de realizar deepfakes en tiempo real eleva la sofisticación de estos ataques, lo que hace que los votantes y los empleados de campañas políticas sean especialmente vulnerables a la manipulación y el fraude económico durante las elecciones.
Estrategias para protegerse de la manipulación
La gran pregunta es cómo defenderse de estos ataques en períodos electorales. Si bien los avances en IA han facilitado la creación de deepfakes, también están surgiendo herramientas para detectarlos. Iniciativas como la marca de agua de la C2PA buscan etiquetar contenido sintético para rastrear su origen, mientras que empresas tecnológicas como OpenAI, Meta, Google y Amazon están desarrollando soluciones en esta línea.
Además, existen herramientas gratuitas que ayudan a identificar deepfakes en tiempo real, protegiendo a los usuarios de engaños en videollamadas.
Mantenerse alerta en la era de la desinformación
La temporada electoral representa una gran oportunidad para los ciberdelincuentes, y las elecciones de 2024 que hoy celebra Estados Unidos son un objetivo tentador para estos ataques debido a la gran base de votantes y al idioma inglés, común entre los atacantes. La combinación de herramientas avanzadas de IA generativa, deepfakes y LLM está creando un entorno en el que los votantes deben estar constantemente alerta y cuestionar la autenticidad de los contenidos que reciben.
La creciente accesibilidad de estas tecnologías sugiere que su uso en actividades maliciosas será cada vez más común. En este contexto, la mejor defensa es la precaución. Si un mensaje parece demasiado bueno para ser cierto o proviene de una fuente no verificada, es recomendable desconfiar. La batalla contra la manipulación de la IA en las elecciones apenas ha comenzado, y será fundamental que votantes, gobiernos y empresas de tecnología trabajen juntos para proteger la integridad del proceso democrático en el futuro.
David Sancho y Vincenzo Ciancaglini, investigadores de amenazas de Trend Micro
