El proceso electoral que concluyó con la definición de una nueva realidad política en la Ciudad Autónoma de Buenos Aires inauguró una novedad de primer orden que debe despertar todas las alarmas, porque implica un riesgo para el normal funcionamiento del sistema democrático.
Esa novedad fue el uso de tecnología de inteligencia artificial (IA) para incidir en la expresión de la voluntad popular con información política falsa de un grado hasta ahora inexistente.
Las mentiras y falsedades como instrumento de deslegitimación política existieron desde mucho antes del descubrimiento de la IA y su creciente impacto en la interacción social. Pero el uso inapropiado de herramientas de inteligencia artificial generativa permite ahora una aceleración de las capacidades de desinformación mediante la creación de contenidos ultrafalsos (deepfakes) de audio y video de alta resolución.
Compartidos en redes sociales con una estrategia de viralización adecuada, esos contenidos falsos circulan más rápido que los verdaderos.
En la tarde del sábado pasado, mientras regía la veda electoral en la ciudad de Buenos Aires, una cuenta anónima difundió en la red social X un video apócrifo elaborado con IA, en el cual el expresidente de la Nación Mauricio Macri anunciaba que la principal candidata de su partido en las elecciones porteñas, Silvia Lospennato, declinaba su postulación. El contenido, refutado de inmediato, fue no obstante reproducido por millones de usuarios.
Aunque de autores desconocidos, la cuenta que presentó el video es una de las pocas que sigue en redes la secretaria General de la Presidencia, Karina Milei. El video falso fue replicado por otras cuentas que operan con seudónimos, vinculadas a militantes y a funcionarios del Gobierno nacional.
La primera reacción gubernamental fue a través del jefe de Gabinete, Guillermo Francos, quien rechazó la difusión de esos contenidos y aclaró que no salieron de cuentas oficiales del Gobierno. Sin embargo, el presidente Javier Milei tuvo una reacción distinta. Durante la jornada electoral, descalificó a Macri por denunciar el video falso. Horas después de la elección, sostuvo que el hecho se trató de una broma y dijo que perseguir a sus autores implicaría cercenar la libertad de expresión.
Aunque la clonación de voz e imagen a través de inteligencia artificial no está tipificada como delito, su utilización para violentar el derecho que toda persona tiene a esos rasgos de su identidad jamás puede ser admitida ni justificada. Menos aún si la falsificación tiene como objetivo desconocer la legislación electoral. Esa responsabilidad legal les cabe a quienes elaboran los contenidos apócrifos y a quienes los reproducen.
Más allá de lo normativo, las instituciones y la sociedad civil deben estar preparadas para enfrentar el incremento y la sofisticación en la calidad de los contenidos ultrafalsos. No sólo por la desinformación que generan, sino porque su difusión corroe la confianza social en cualquier tipo de información pública.
Y, en el caso de la información política, socava un insumo clave de la ciudadanía para ejercer con plena libertad su derecho inalienable a la elección democrática.
