Por CiudadanIA
La imagen parece perfecta: los gestos, la voz, incluso los movimientos característicos de una persona. Pero no es real. En la era de los deepfakes —retratos digitales generados por inteligencia artificial—, la línea entre lo verdadero y lo fabricado se vuelve cada vez más difusa. En Argentina, ya se registran los primeros casos de este fenómeno, mientras que en Estados Unidos se aprobó recientemente la ley TAKE IT DOWN, que obliga a las plataformas digitales a eliminar contenidos íntimos no consentidos en menos de 24 horas. Esta norma representa un primer paso frente a uno de los desafíos más complejos de la era digital: la manipulación.
El caso que impulsó la ley es emblemático. Emma Sánchez, estudiante universitaria de Texas, fue víctima de la inserción de su rostro en videos íntimos falsos que circularon por Telegram. Durante semanas intentó sin éxito que fueran eliminados. Su testimonio ante el Congreso de EE.UU. visibilizó una problemática creciente: según el Cyber Civil Rights Initiative, en 2024 se registraron más de 143.000 denuncias de deepfakes sexuales. La ley establece multas de hasta 150.000 dólares por víctima y penas de prisión para los responsables, además de exigir a las plataformas una respuesta inmediata. Sin embargo, esta legislación no contempla otros usos de la tecnología igualmente preocupantes, como su aplicación con fines políticos.
Manipulación política
En las semanas previas a las elecciones en Nueva Hampshire, un audio falsificado del senador Marco López se viralizó en WhatsApp. La grabación simulaba su voz con declaraciones discriminatorias hacia inmigrantes. Aunque fue desmentido, el impacto inicial fue considerable. Investigaciones del MIT Media Lab advierten que los deepfakes políticos se difunden un 70% más rápido que las noticias reales y generan un 45% más de interacciones.
En América Latina también se registraron episodios de desinformación con deepfakes. En Brasil, un video falso del ministro de Economía generó una corrida bancaria. En Argentina, horas antes de las elecciones en la Ciudad de Buenos Aires, cuentas vinculadas a La Libertad Avanza difundieron un video manipulado en el que Mauricio Macri y Silvia Lospenatto anunciaban, falsamente, su renuncia a la contienda electoral.
Recientemente, el diputado nacional por Córdoba, Rodrigo De Loredo, publicó un deepfake con la imagen del gobernador Martín Llaryora, en el que se lo mostraba criticando al Gobierno nacional por la quita de subsidios. Tras el repudio generalizado, De Loredo argumentó que se trataba de un «recurso irónico o artístico», destacando la precisión con la que se imitaba la voz y la imagen del mandatario.
Debate pendiente
El marco regulatorio aún es insuficiente. Mientras Estados Unidos avanza con normas como TAKE IT DOWN, la Unión Europea discute si los deepfakes políticos deben incluirse en su Ley de Servicios Digitales. La respuesta al problema parece requerir una estrategia en tres niveles:
- Legislación específica que contemple daños concretos sin vulnerar derechos fundamentales.
- Educación digital masiva, orientada a identificar irregularidades en los contenidos, como expresiones faciales rígidas o sombras inconsistentes.
- Responsabilidad tecnológica, que obligue a las plataformas a rastrear y etiquetar contenidos sintéticos.
El uso político de los deepfakes plantea una nueva dimensión de la desinformación. Su eficacia radica en fracturar la confianza en los hechos verificables y erosionar la credibilidad de los actores públicos. La circulación de videos falsos poco antes de los comicios en CABA y otras experiencias recientes muestran cómo esta tecnología puede ser utilizada para manipular percepciones en momentos clave del proceso democrático.
El debate no se limita al plano tecnológico. Las implicancias culturales de normalizar estas prácticas como estrategias de campaña son profundas. En contextos de polarización extrema, los deepfakes se convierten en herramientas para desplazar el debate racional y reforzar la lógica del escándalo.
Argentina, como muchas otras democracias, enfrenta el desafío de proteger el espacio público de estas nuevas formas de manipulación. Frente al avance de tecnologías capaces de simular la realidad con altísima precisión, se vuelve indispensable reafirmar el valor de los hechos, la transparencia y la responsabilidad en la comunicación política.