El uso de la inteligencia artificial (IA) en las campañas políticas es una realidad. En Uruguay el tema ganó protagonismo en la última semana por dos acontecimientos que sucedieron con pocos días de diferencia: por un lado, la transmisión de un falso debate en Santo y seña entre el candidato colorado Andrés Ojeda y la imagen de su par frenteamplista, Yamandú Orsi, creada con IA, y, por otro, la denuncia del colorado de una supuesta “campaña sucia” en su contra impulsada por el comando de campaña del Frente Amplio, a partir de la proliferación de videos en plataformas en los que se busca desprestigiarlo.
A pesar de la discusión puntual, en el ámbito político el debate sobre el uso de la IA es incipiente. En esta legislatura se presentaron dos proyectos de ley vinculados con la temática, uno impulsado por el oficialismo y otro por la oposición. El primero, redactado por el diputado nacionalista Rodrigo Goñi, buscó regular por la vía penal la generación y difusión de contenidos “materialmente engañosos mediante imágenes, sonidos o videos”, con la intencionalidad de generar un daño. El segundo, elaborado por el frenteamplista Gustavo Olmos, proponía evitar la “difusión y circulación de desinformación deliberada” y, para ello, determinaba medidas de transparencia y rendición de cuentas a las grandes plataformas de redes sociales, así como también establecía sanciones penales.
Los dos proyectos fueron cuestionados por integrantes de la sociedad civil que se especializan en el tema porque eran “totalmente desproporcionados” con respecto a lo que se quería regular. Patricia Díaz, integrante de Datysoc, sostuvo que el de Goñi era “peor” porque directamente recurría a una figura penal para regular discursos. En el segundo caso, si bien Olmos utilizaba conceptos de la Relatoría Especial para la Libertad de Expresión, mantenía las figuras penales relacionadas con la circulación de contenidos en internet o en medios.
Ninguno de los proyectos fue aprobado ni fue parte de las prioridades de las distintas bancadas parlamentarias. Para distintos expertos en la materia, antes de caminar hacia una regulación, es necesario pensar en la alfabetización mediática, en los usos que le damos a la IA y en nuestro contexto.
La alfabetización de la ciudadanía
Primero lo primero: ¿a qué le llamamos inteligencia artificial? El término se utiliza desde los años 50 y se inscribe dentro de las ciencias de la computación. A grandes rasgos, se podría definir a la IA como “aquella que se asemeja en algunos aspectos a la humana, y por tanto la asociamos a procesos o funciones cognitivas relacionadas con la percepción, la memoria, la asociación, el aprendizaje, la comunicación, el razonamiento y la resolución de problemas, pero implementada mediante máquinas y lenguajes de computación”, problematiza el libro Construyendo inteligencia artificial para la educación 2024, elaborado por el Plan Ceibal.
Emiliano Pereiro, uno de los autores del libro y jefe del área de Pensamiento Computacional e Inteligencia Artificial de Ceibal, contó a la diaria que actualmente se habla de IA para referirse al proceso de machine learning, que es el aprendizaje automático de un software en función de ciertos datos que se le proporciona. “El hombre ha creado herramientas para automatizar procesos desde que somos sapiens y lo vamos a seguir haciendo; obviamente, están llegando a un grado de complejidad interesante, pero no es inteligencia, es un software muy sofisticado que puede resolver algún tipo de problema”, puntualizó.
Para Pereiro, lo que estamos viendo ahora en las campañas políticas es sólo la punta del iceberg. “Esto llegó para quedarse, recién estamos viendo el uso de una IA que todavía es bastante rudimentaria y va a haber muchísimo más uso”, adelantó. Por eso, la clave está en poder “educar a nuestros ciudadanos” para que puedan discernir sobre la herramienta, y mencionó, a modo de ejemplo, el trabajo que realiza Ceibal de alfabetización con niños y niñas de sexto año que actualmente están entrenando modelos de machine learning y debatiendo a partir de la experiencia. “Por supuesto que es lo que tenemos que hacer con la población en general. Es un tema que tendríamos que tener en la agenda: cómo vamos a formar mínimamente a nuestra población, porque esto es algo que va a seguir in crescendo”.
La alfabetización, entonces, debe primero buscar explicar “qué es la IA, qué hay por detrás cuando hablamos de IA, qué es y qué no, cómo funciona, cuáles son las limitantes que tiene y después trabajar fuerte desde el lado del uso ético y responsable de la IA”, señaló.
Los usos: el debate ético pendiente
Javier Blanco, doctor en Ciencias de la Computación por la Universidad de Eindhoven (Países Bajos) y director de la maestría Tecnología, Política y Cultura de la Universidad Nacional de Córdoba, mencionó dos ejemplos sobre el uso de la IA en las campañas políticas. En enero, en Estados Unidos, los ciudadanos de New Hampshire recibieron llamadas automáticas de una persona que simulaba ser el presidente Joe Biden y llamaba a no votar en la elección primaria local con el argumento de que luego eso impediría su voto en la elección de noviembre.
Unos años atrás, en 2017, Jean-Luc Mélenchon, candidato presidencial de Francia, utilizó un holograma con su imagen para transmitir en simultáneo su discurso en siete ciudades diferentes. Blanco se refiere a estos dos casos para hablar del uso de la IA y cómo “puede ser pensada como un engaño o como una forma de comunicación, que a la vez podría estar fortaleciendo la democracia. Depende mucho también de quién lo hace y con qué objetivos”.
A su entender, el debate pendiente que hay que dar es el ético, porque “hay muchas zonas grises”. Y agrega que “hace falta una nueva ética del discurso” que genere nuevos consensos sobre lo que se puede o no hacer. “Este es el gran atraso que tenemos desde el campo popular de las izquierdas, donde me identifico políticamente. Nos falta iniciativa política para jugar este juego con honestidad, pero a la vez con inteligencia y con curiosidad”.
Blanco sostiene que el uso de la IA cambia la democracia “en muchos sentidos”. “La tensiona y le propone desafíos nuevos. La democracia en todo el mundo está en crisis y, de alguna manera, los vínculos tecnológicos per se no conculcan la democracia ni son antidemocráticos, por el contrario, abren nuevas posibilidades. El hecho es que no las conocemos bien como sociedad y son opacas. Entonces, la tecnología tiene que ser parte de la escena política, porque si no lo asumimos, debilitamos mucho a la democracia”.
Sobre la dimensión ética de la IA, Pereiro entiende que es necesario “buscarle usos razonables, éticos y responsables” y, en la misma línea, opinó que es “una herramienta que puede ayudar a mejorar muchísimo la productividad diaria [de las personas] en todas las áreas del conocimiento. Obviamente, para la política también, depende de cómo se use. Se abre un mundo que no es perfecto y mucho menos, y por supuesto que siempre hay que estar controlando, [pero] hay que pensar este uso como un copiloto en todas las áreas de nuestra acción humana”.
La regulación: mirar nuestro propio contexto
El docente de la Universidad Nacional de Córdoba apunta que existen “dos grandes escuelas” en materia de regulación: “La europea, que hace hincapié en regular de forma particular estos temas, y la estadounidense, que es más de usar las regulaciones que hay para otras cosas”, como el derecho a la imagen o la protección de datos personales. Blanco agrega que, de todas formas, “las regulaciones son una parte, pero son insuficientes, porque la evolución de estos sistemas es tan rápida y tan efectiva que toda regulación queda vieja, entonces más que regular, es necesario entender cómo es la situación y, por otro lado, actuar políticamente”.
La integrante de Datysoc, por su parte, sostiene que “la Relatoría para la Libertad de Expresión ha sido muy clara: el derecho penal tiene que ser la última medida a tomar y debe evitarse”. Señaló que en los informes de la Relatoría se detallan todos los efectos secundarios que se generan por la utilización de estas figuras penales, como la autocensura y el miedo al momento de expresarse. Sin embargo, señaló que cada vez hay más figuras penales contra el discurso.
Para Díaz, es necesario avanzar en un “adecuado etiquetado” que advierta que la imagen, el video o el audio fue creado con IA. “Si un candidato miente, hace una jugada sucia, genera un video o un audio falso de otro candidato, ¿no es información relevante para la ciudadanía y debería quedar en línea enmarcada como falsa? Los bloqueos, la censura y las bajas no son la solución”, advirtió.
Díaz entiende que lo primero es trabajar en la alfabetización mediática con la ciudadanía y luego exigir la obligación del etiquetado a las grandes plataformas, en lugar de promover la “criminalización y eliminación”. A diferencia de lo que ha sucedido en los procesos electorales en otros países en los últimos años, en Uruguay todavía no se han detectado campañas coordinadas de desinformación y, por lo tanto, Díaz entiende que hay que mirar los procesos que se están dando en Europa o en Brasil en materia de regulación de IA, pero sin perder de vista que Uruguay debe “regular en su propio contexto”.