Gabriel Sosa Plata*
La iniciativa de reforma política presentada por la presidenta Claudia Sheinbaum incorpora por primera vez una referencia directa al uso de inteligencia artificial en los procesos electorales. La propuesta va en el sentido de que todo contenido relacionado con elecciones que haya sido generado o alterado mediante inteligencia artificial deberá estar claramente etiquetado por su emisor.
Esto es, si un video, un audio o una imagen fue manipulado con herramientas de IA, la ciudadanía tiene derecho a saberlo.
La iniciativa también plantea que concesionarios de radio y televisión y plataformas digitales deberán identificar,advertir y evitar la difusión de materiales que no estén etiquetados.
La propuesta se inscribe en una tendencia internacional que busca introducir mecanismos de transparencia tecnológica frente a la expansión de los llamados contenidos sintéticos. Sin embargo, como suele ocurrir con la regulación digital, el problema no queda del todo resuelto.
Partamos de lo obvio: la manipulación audiovisual mediante inteligencia artificial (los llamados deepfakes) ya forma parte del arsenal político contemporáneo.
Por ejemplo, durante el ciclo electoral global de 2024, que involucró votaciones en más de 60 países, organismos internacionales y autoridades electorales registraron el uso creciente de contenidos generados con IA para simular declaraciones, fabricar imágenes o manipular discursos políticos.
México no fue la excepción. Diversos monitoreos documentaron decenas de piezas de contenido político alteradas con inteligencia artificial en ese año. Ninguna fue decisiva por sí misma, pero sí mostraron la facilidad con la que hoy pueden fabricarse materiales audiovisuales más o menos convincentes.
En ese contexto, la idea de exigir etiquetas que adviertan cuando un contenido ha sido manipulado con IA suena bien, de entrada. De hecho, varios países están explorando caminos similares.
Es el caso de la Unión Europea, donde se ha optado por un enfoque basado en transparencia y gestión de riesgos. Bajo el Digital Services Act y el nuevo marco europeo de inteligencia artificial, las plataformas deben advertir cuando un contenido sea sintético o manipulado, además de implementar medidas para mitigar riesgos electorales.
El Reino Unido ha avanzado por otra vía: exigir que la publicidad política digital incluya una identificación clara del promotor del mensaje. La idea es que el ciudadano pueda saber quién está detrás de cada campaña o pieza de propaganda.
En Brasil, el Tribunal Superior Electoral adoptó reglas específicas contra los deepfakes en campañas y creó estructuras institucionales para combatir la desinformación electoral.
Incluso en Estados Unidos, donde la regulación tecnológica suele avanzar con mayor lentitud, algunas agencias federales ya comenzaron a prohibir el uso de voces sintéticas generadas con IA en llamadas automatizadas con fines políticos.
El mundo está intentando regular el fenómeno, pero nadie ha encontrado todavía la fórmula perfecta.
En el caso de nuestro país, el debate no se concentra tanto en la obligación de etiquetar contenidos (un principio que goza de amplio consenso), sino en la parte que obliga a medios y plataformas a “evitar la difusión” de materiales no identificados.
La diferencia puede parecer semántica, pero en realidad es sustantiva.
Una cosa es exigir transparencia al emisor del mensaje y otra muy distinta es trasladar a plataformas digitales y concesionarios de radio y televisión la responsabilidad de decidir qué contenidos pueden circular y cuáles no durante un proceso electoral.
Ese tipo de obligaciones suele generar lo que en regulación digital se conoce como “sobrerreacción preventiva”. Es decir, ante la posibilidad de sanciones, las plataformas tienden a retirar contenidos incluso cuando existe duda razonable sobre su naturaleza. Así que el remedio puede terminar siendo más restrictivo que el problema que intenta resolver.
Hay otra realidad tecnológica a considerar más allá del debate legal: gran parte de la desinformación política no circula en espacios abiertos como redes sociales públicas, donde los contenidos pueden monitorearse con relativa facilidad, sino en grupos privados, mensajería cifrada y redes de reenvío, donde la capacidad regulatoria del Estado es prácticamente inexistente.
A esto se suma otro problema: los sistemas automatizados para detectar deepfakes todavía tienen márgenes importantes de error. De esta manera, distinguir entre sátira, parodia, manipulación creativa o desinformación deliberada no siempre es sencillo ni siquiera para expertos humanos.
Por eso organismos internacionales han insistido en que cualquier regulación sobre inteligencia artificial y elecciones debe equilibrar tres principios simultáneos: integridad electoral, libertad de expresión y debido proceso.
¿Esto se cumple con la iniciativa de la presidenta?
No necesariamente.
Advertir a las audiencias sobre contenidos manipulados puede fortalecer la deliberación democrática y el derecho a la información, pero delegar decisiones ambiguas de moderación política a plataformas privadas, en cambio, puede abrir la puerta a errores, arbitrariedades o silencios incómodos.
A esto se agrega otro problema mayor: la enorme dificultad o imposibilidad de regular a las grandes plataformas digitales, ya que su capacidad de influencia en el debate público, al igual que su poder de cabildeo para evitar regulaciones que afecten sus intereses, es enorme.
Así que los retos nos rebasan política y económicamente.
La experiencia internacional muestra que incluso las democracias con mayor capacidad regulatoria han tenido dificultades para establecer controles efectivos sobre estas plataformas. Por eso la regulación de la inteligencia artificial en campañas electorales debe ser un paso necesario, pero será insuficiente.
Concierto UAM Radio 94.1 FM
Y tal como comentamos la semana pasada, este 11 de marzo, la radiodifusora de la Universidad Autónoma Metropolitana (UAM) celebra sus primeros 15 años de vida. Entre las actividades de aniversario, el viernes 13 ofrecerá un concierto en la UAM-Unidad Xochimilco, en el que participarán Brillo, Grtsch y Las Musas Sonideras. La cita es a las 14:00 horas. ¡Muchas felicidades!
