El martes el Tribunal Superior Electoral (TSE) de Brasil definió la regulación de inteligencia artificial (IA) en las elecciones de 2024 y la prohibición de las noticias falsas o deepfakes en las campañas políticas, informó Folha de São Paulo.
Según las regulaciones, que fueron propuestas por la magistrada Cármen Lúcia y aceptadas por todos los integrantes del TSE, la IA sólo se podrá utilizar con la presencia de etiquetas de identificación de contenido sintético multimedia, o sea por divulgación “explícita y destacada”.
Además, chatbots y avatares no se podrán utilizar para simular interacciones entre el usuario y la persona candidata ni con otras personas reales.
Lúcia explicó la necesidad de evitar “un elector al que se le ponga un chip y viva la ilusión de que eso es el ejercicio de la libertad de voto”.
Las noticias falsas o deepfakes van a estar completamente prohibidas en las campañas políticas.
Estas publicaciones manifiestamente engañosas fueron definidas por los ministros como aquellos “contenidos sintéticos en formato de audio, video o una combinación de ambos, que han sido generados o manipulados digitalmente, incluso con autorización, para crear, reemplazar o alterar la imagen o la voz de una persona viva, fallecida o ficticia”.
En diciembre, el alcalde de la ciudad brasileña de Manaos, David Almeida, fue víctima de un deepfake en el que su voz fue emulada y falsamente atribuida a él, insultando a docentes.
Aunque la Policía Federal todavía está investigando quién fue el responsable del audio, ya está claro que fue resultado del uso de herramientas de IA.
Alexandre de Moraes, presidente del TSE, reconoció que surgieron varios problemas con la IA durante las elecciones argentinas, en las que se utilizó deepfakes para falsificar y editar discursos, incluso cambiando los movimientos de los labios de los oradores.
Según informó Correio Braziliense, Moraes dijo que Lúcia, quien presidirá el TSE durante las elecciones municipales que se celebrarán en octubre de este año, “tendrá que combatir las noticias falsas y las milicias digitales creadas por inteligencia artificial”.
Sobre la IA y las noticias falsas, Moraes dijo: “Eso puede conducir a un problema enorme e incluso cambiar el resultado de las elecciones” y agregó: “Tenemos que garantizar a los votantes que les llegue todo tipo de información. Pero no este tipo de información criminal”.
Según explicó la cadena O Globo, el TSE también estableció normas para combatir la desinformación, entre ellas que los proveedores pueden recibir castigos si no retiran los contenidos ilegales del aire.
Otras medidas incluyen la orientación de jueces para asegurar la aplicación de las decisiones de retirar los contenidos ilegales, qué plataformas tienen que tomar medidas para prevenir o reducir la circulación de “noticias falsas”, que estas plataformas deben transmitir información que aclare datos descontextualizados y que los proveedores pueden ser considerados responsables si no eliminan del aire el discurso de odio o antidemocrático.
La semana pasada, 20 empresas tecnológicas, entre ellas Google, Microsoft, Meta y OpenAI, firmaron un acuerdo en el que afirmaron su compromiso para luchar contra el uso fraudulento de la IA en todos los procesos electorales que tendrán lugar en más de 40 países este año, según explicó Europa Press.
El acuerdo se llama AI Elections Accord y tiene el propósito de combatir el uso indebido de la IA y de noticias falsas y de garantizar que “los votantes conserven el derecho a elegir quién los gobierna”, sin interferencias de la IA.