Cómo la IA gen está trasformando la democracia

La IA ha sido un tema tecnológico candente durante la última década, pero la IA generativa, y en concreto la llegada de ChatGPT en 2022, ha impulsado la IA a los titulares de todo el mundo y ha lanzado una oleada de innovación y adopción de la IA sin precedentes. La Inteligencia Artificial (IA) es una tecnología en constante evolución y crecimiento que ha revolucionado muchos aspectos de nuestra vida cotidiana. A medida que la IA ha ido avanzando, han surgido preocupaciones sobre sus posibles peligros y sus efectos en nuestra sociedad. Hay una gran preocupación sobre su capacidad para tomar decisiones autónomas sin la intervención humana. Esto plantea preguntas sobre la responsabilidad ética y legal de las decisiones tomadas por las máquinas. Además, existe la preocupación de que la IA pueda ser utilizada para fines maliciosos, como la creación de armas autónomas o la manipulación de la información en línea

La automatización del fanatismo político es un fenómeno complejo que se ha intensificado en los últimos años, especialmente con el auge de las redes sociales y la propagación de la información a través de algoritmos, que no son otra cosa que programas informáticos (bots) que ejecutan acciones repetitivas de forma automática, cada vez más sofisticados, está logrando algo que ni la propaganda tradicional ni la censura autoritaria habían conseguido plenamente: transformar la indiferencia en una herramienta política efectiva. La ciudadanía, abrumada por un entorno en constante crisis de credibilidad y una crisis real de «las cosas del comer», renuncia gradualmente a su responsabilidad cívica, aceptando la manipulación como inevitable o resignándose a la apatía. La verdad es irrelevante. Aquí hay algunos puntos clave para entender este tema:

Definición del Fanatismo Político: El fanatismo político se refiere a una devoción excesiva hacia una ideología o partido político, que puede llevar a rechazar cualquier crítica o punto de vista diferente. Esto puede manifestarse en la polarización extrema de opiniones, promoción de la intolerancia y, en algunos casos, violencia.

• Automatización a Través de Algoritmos: Las plataformas de redes sociales utilizan algoritmos para personalizar el contenido que los usuarios ven, lo que permite reforzar creencias existentes. Cuando un usuario interactúa con contenido relacionado con su ideología, los algoritmos tienden a mostrar más de ese tipo de contenido, creando una «cámara de eco» que puede intensificar el fanatismo.
• Desinformación y Fake News: La automatización también ha facilitado la difusión de desinformación y noticias falsas. Estos contenidos a menudo son diseñados para provocar reacciones emocionales extremas, lo que puede alimentar el fanatismo. La rapidez y el alcance con el que se propagan estas noticias contribuyen a moldear percepciones y actitudes radicales.
• Condiciones Psicológicas: El fanatismo político a menudo está relacionado con necesidades psicológicas, como la búsqueda de identidad y pertenencia. Los algoritmos pueden explotar estas necesidades al crear grupos y comunidades en línea donde las opiniones son homogéneas y las diferencias son atacadas.
• Efectos en la Sociedad — Polarización: La automatización del fanatismo político puede llevar a una mayor polarización en la sociedad, donde los grupos opuestos se ven cada vez más como enemigos.
• Radicalización: Puede facilitar la radicalización de individuos que se sienten marginados o desilusionados con el sistema político.
• Violencia: En casos extremos, el fanatismo puede llevar a actos de violencia, como se ha visto en varios contextos políticos alrededor del mundo.
• Posibles Soluciones: Educación Mediática: Fomentar habilidades de pensamiento crítico y alfabetización mediática puede ayudar a los individuos a discernir mejor la información.
• Regulación de Plataformas: Una mayor regulación sobre cómo funcionan los algoritmos de las redes sociales podría reducir la propagación de contenido dañino.
• Fomento del Diálogo: Promover espacios de diálogo inclusivo y respeto por la diversidad de opiniones puede contribuir a mitigar el fanatismo.

En resumen, la automatización del fanatismo político es un fenómeno que resulta de la interacción entre tecnología, psicología y dinámicas sociales. Entender sus mecanismos es fundamental para abordar sus efectos negativos en la convivencia y la democracia.

La política, ese arte milenario de convencer mediante la palabra, escenificada y con hipérboles, pero siempre la palabra, agoniza bajo el asedio de una tecnología que no quiere persuadir, sino que fabrica realidades paralelas hechas a medida para ser creídas. A pesar de que el debate parlamentario (si es que se puede llamar debate y no bronca) sigue en pie, la IA generativa está convirtiendo ese circo imperfecto en una distopía posmoderna. Hubo un tiempo en que la mentira en política tenía un corto recorrido, ahora nuestros representantes -o al menos una parte de ellos- han decidido que de todos los usos maravillosos que podían aportar estas nuevas herramientas, ha quedado reducido a crear ridículos vídeos y noticias fake que más tarde tienen que borrar por pura vergüenza ajena; como por ejemplo el de la Isla de las tentaciones. La democracia, en este contexto, ha dejado de ser una herramienta efectiva para garantizar el bienestar social. Ya no es un sistema de gobierno: es un Reality show editado en tiempo real por máquinas.

Varias resoluciones de las Naciones Unidas han reafirmado la necesidad de controlar este despropósito, ya que «los mismos derechos que tienen las personas fuera de la línea deben ser protegidos fuera de ella» Queda bien claro que se hace necesario actuar contundentemente ante la intromisión de estas tecnologías en el día a día democrático, pero el dilema es el siguiente: la IA evoluciona exponencialmente más rápido de lo que pueden hacerlo nuestras instituciones democráticas que son habitualmente lentas, burocráticas y deliberativas.

Pero, por otro lado, si no ponemos ningunas reglas al juego ponemos, aún más, en riesgo la esencia democrática. Esta situación actual nos debe llevar a actuar con premura en evitación de perder definitivamente la capacidad de discernir entre lo real y lo manipulado lo que nos llevaría a vivir atrapados en compartimentos de falsas realidades algoritmizadas. Esta disyuntiva no es nueva, de hecho, ya la debatieron nuestros representantes europeos. El resultado fue la adopción del acta AI, o lo que es lo mismo la Ley de la Inteligencia Artificial. Este texto entró en vigor el 1 de agosto de 2024, y se posicionaba como un intento de regular la IA, y sobre todo sus efectos adversos.

El Acta IA y la Paradoja de Regular lo Irregulable El Reglamento IA ofrece, en su art. 3.1. 44e), una definición del concepto deepfake entendido como «contenido de audio, imagen o vídeo manipulado o sintético que parecería falsamente auténtico o veraz, y que presenta representaciones de personas que parecen decir o hacer cosas que no dijeron ni hicieron, producido mediante técnicas de IA, incluidos el aprendizaje automático y el aprendizaje profundo».

La cuestión es: si esta regulación ya está en vigor, ¿por qué seguimos viendo videos de acontecimientos y personajes públicos en los que se manipula un video original para alterar lo que el objetivo dice o hace de tal acontecimiento o personaje (deepfakes de vídeo) intercambiando el lugar o el rostro del objetivo con el lugar o el cuerpo de otra persona. La respuesta está precisamente en los detalles del Acta IA y en la manera en que los expertos han analizado sus limitaciones.

 Según el Acta IA, los contenidos generados por IA, como los deepfakes, se clasifican generalmente como de riesgo limitado lo que implica obligaciones de transparencia, como la inclusión de marcas de agua o etiquetas que indiquen su origen artificial. Ahora bien, ¿realmente esto puede ayudar para evitar el colapso del ágora digital del que hablábamos? Lo dudo bastante. Estas medidas de transparencia suelen ser fácilmente eludibles o ignoradas deliberadamente, especialmente en plataformas descentralizadas o grupos privados donde la supervisión efectiva es casi imposible. La IA está permitiendo a cualquier persona, sea cual sea su nivel de programación (y hay que decirlo, de alfabetización) poder crear una imagen que, a pesar de ser burdamente falsa para una ilustrada mayoría, expanda el caos. No se trata únicamente de mentir, sino de crear contextos donde la verdad se convierte en algo irrelevante o indiscernible.

Para rescatar el ágora digital necesitamos combinar el ámbito legislativo con una educación digital sólida, una conciencia ciudadana capaz de cuestionar y filtrar constantemente la avalancha algorítmica. La democracia, para sobrevivir en esta nueva era,necesita algo más que leyes: requiere ciudadanos preparados, críticos, informados y activos y, como no, voluntad política. Y eso, queridos amigos, es lo más complicado de encontrar. La herencia que hemos dejado a nuestros hijos es aterradora: hemos pasado de la posverdad a la posrealidad, donde ni siquiera necesitamos creer las mentiras. Ahora estamos sembrados en la duda constante, siendo imposible cualquier atisbo de pensamiento crítico.