La política siempre fue una pelea por la atención, la confianza y el relato. Lo nuevo es que hoy una campaña puede inventar caras, voces y escenarios que cuesta distinguir de la realidad. Los deepfakes y el clonado de voz ya no son curiosidades de internet, se han convertido en herramientas para competir por el voto. Eso cambia totalmente las reglas del juego. Importa menos qué dice un candidato y más qué tan difícil resulta separar la realidad de la ficción.
Los ejemplos se acumulan y no son pocos casos:
• En Brasil, una supuesta influencer llamada Julia Cortez, presentada como una joven de 22 años, estudiante de biomedicina o hija de japoneses, reunió cientos de miles de seguidores en pocas semanas. Su vínculo con la campaña de Bolsonaro nos mostró algo de fondo: la IA no solo clona candidatos, también puede inventar portavoces que parecen espontáneos y atraen multitudes.
• En México, la candidata Xóchitl Gálvez presentó oficialmente a “XochitI.A.”, un avatar hiperrealista de sí misma para emitir mensajes semanales y videos informativos.
• En Estados Unidos, el equipo del republicano Mike Collins difundió un video de IA que lo mostraba como modelo de pasarela sin camisa, imitando estéticas publicitarias de campañas de jeans para viralizar su contenido.
• En Venezuela, el supuesto canal House of News usó presentadores generados con Synthesia para simular prensa extranjera confiable y leer guiones sobre supuestas mejoras económicas. La operación “Spamouflage” usó avatares de supuestos reporteros estadounidenses para diseminar videos críticos.
• El Partido Nacional de Nueva Zelanda empleó imágenes de ciudadanos simulados —un delincuente sin rostro, trabajadores estresados— para ilustrar problemas sin contratar actores. Y Alternativa Para Alemania recurrió a Midjourney para crear multitudes enojadas o escenarios caóticos que refuerzan sus propuestas contra la inmigración.
Los ejemplos siguen y siguen, pero la primera conclusión es más que incómoda, la adopción de estas tecnologías es inevitable y ya no se trata de si las campañas usarán IA generativa, sino de cómo y con qué límites.
Y la razón es simple, la IA reduce sustancialmente los costos, aumenta la velocidad de respuesta y permite una personalización que el activismo tradicional es totalmente incapaz de igualar.
India lo demuestra a escala industrial. Un mensaje grabado una vez puede convertirse en millones de videos personalizados, traducidos y adaptados a contextos locales e hipersegmentados.
México evidencia que un avatar puede automatizar la producción de contenido sin depender de la apretada agenda del candidato.
Estados Unidos y Nueva Zelanda revelan que la IA también sirve para el humor, la viralidad y la comunicación visual de bajo costo.
Pero la misma herramienta que amplía la voz puede secuestrar la decisión del elector. El riesgo central no es que la IA exista, sino que se use para engañar. El ejemplo de Brasil con la influencer Julia Cortez muestra cómo se puede construir una identidad aparentemente orgánica para influir sin revelar el truco que está por detrás.
Sin embargo House of News va más allá y ejemplifica el aspecto más peligroso del fraude digital; simular prensa extranjera confiable para instalar narrativas falsas; y Spamouflage traslada ese mismo riesgo al ámbito de la geopolítica; avatares que se hacen pasar por periodistas extranjeros para intervenir en la conversación interna de otro país.
Cuando el elector no sabe que ve un actor digital o un escenario sintético, no está evaluando propuestas, está reaccionando a una puesta en escena. Y si además el contenido se personaliza (como en la India), el mensaje puede adaptarse para activar emociones, miedos, sesgos o fobias. La personalización masiva puede ser muy eficaz para informar, pero también para manipular.
El debate, entonces, ya no se plantea como “IA sí o IA no”. La pregunta correcta ahora es ¿qué límites éticos separan la persuasión legítima de la manipulación?
Una campaña puede usar un avatar para explicar propuestas, traducir discursos a otros idiomas o generar contenido satírico, siempre que el elector sepa qué está viendo contenido simulado. El problema aparece cuando se oculta la naturaleza de dicho contenido, se suplanta una identidad real sin consentimiento o se simula una fuente independiente (llámese prensa, ciudadano o experto) con el fin de fabricar credibilidad.
La transparencia no es un adorno: es la condición que permite que la IA sea una herramienta de comunicación y no un mecanismo de fraude.
Y es que hay una diferencia clave entre “crear” y “suplantar”. Generar un avatar declarado del candidato, como XochitI.A., es una extensión de la campaña. Crear un falso canal de noticias es una suplantación. Crear imágenes de ciudadanos simulados para ilustrar problemas, como hizo el Partido Nacional Neozelandés, es aceptable si no se presentan como pruebas documentales, en cambio crear multitudes falsas para exagerar una realidad, como en el caso de AfD, ya es una flagrante manipulación cuyo objetivo es hacer pasar una hipérbole por evidencia.
Tengamos claro además que el límite ético no está en la estética de la IA, sino en la intención y en la divulgación, ¿se busca informar, satirizar o engañar? ¿Se dice que es IA? ¿Se respeta el consentimiento de la persona clonada? ¿Se imita a una fuente independiente para robarle autoridad?
Porque con estas prácticas estamos generando un riesgo estructural, la desconfianza generalizada. Si los electores saben que existen deepfakes, pueden empezar a dudar de todo, incluido lo auténtico. Este beneficio de la duda usado de forma malintencionada permite que un candidato real niegue un video verdadero acusándolo de falso; y es aquí donde la IA ya no solo fabrica mentiras, también manufactura coartadas para desacreditar verdades.
Por eso, la alfabetización mediática y la verificación se vuelven parte fundamental de la infraestructura electoral. No basta con regular, hay que educar. Los ciudadanos necesitan herramientas para preguntar quién produjo el contenido, cuándo, con qué fuente y si existe una declaración explícita de “synthetic media“.
La regulación debe ser proporcionada y debe ser clara. Etiquetar obligatoriamente el contenido político generado o alterado por IA, prohibir la suplantación de candidatos reales sin consentimiento, exigir que los avatares de campaña se identifiquen como tales, sancionar la simulación de medios de comunicación independientes, y establecer responsabilidades para las plataformas que amplifican contenido sintético no etiquetado.
Ahora bien, al mismo tiempo, regular en exceso podría también empujar la producción hacia zonas opacas o hacia actores externos. La clave es la transparencia por diseño, que el contenido sintético nazca con una marca verificable y que esa marca sea fácil de encontrar e identificar para el votante.
Las campañas que quieran sacar la máxima ventaja sin romper límites éticos deberían adoptar una regla simple: usar la IA para ampliar el acceso a la información, no para falsificar la realidad. Un avatar puede responder preguntas en varios idiomas; un clon de voz puede permitir que un candidato con problemas de salud siga comunicando, un video personalizado puede explicar una propuesta con el nombre del votante. Todo eso es legítimo si se declara.
Los deepfakes y el voice cloning son herramientas poderosas; pueden incluir, traducir, personalizar y mantener vivo el debate. También pueden engañar, suplantar y erosionar la credibilidad de todo el sistema. La diferencia entre ambos resultados está en las decisiones humanas: qué se declara, qué se oculta, a quién se imita y con qué intención.
La IA ya es parte de la política. La tarea pendiente es construir reglas, legales, éticas y culturales, para que el elector siga siendo el que decide, y no el que es decidido por una simulación.
