Predecir cómo la inteligencia artificial (IA) generativa podría influir en la democracia es un desafío, ya que sus posibles usos siguen siendo mayormente desconocidos y parecen ilimitados. Si bien las herramientas de IA, diseñadas para tareas específicas como la conciliación de registros de votantes, ya se están utilizando en varios países, el impacto de la IA generativa es difícil de prever. Esta tecnología no es una aplicación más, como una plataforma digital, sino que se trata de una tecnología fundamental, parecida al surgimiento del internet. Tendrá un impacto directo en la democracia, ya que transformará la mecánica de las elecciones y la gobernabilidad, y también influirá de manera indirecta al poner en riesgo las bases de la información, la confianza y la opinión pública.

En términos de impacto directo, la IA generativa podría revolucionar la formulación de políticas públicas al permitir una comprensión más precisa y matizada de los posibles resultados. Organizaciones como Climate Change AI, por ejemplo, ya utilizan esta tecnología para investigar cómo planificar “carreteras, redes eléctricas y tuberías de agua considerando la frecuencia y gravedad de los fenómenos climáticos extremos”. Los organismos encargados de hacer cumplir la ley lo emplean para la vigilancia y la policía predictiva. Recientemente, los abogados y los jueces han comenzado a usar IA generativas como ChatGPT para ayudarlos a presentar casos e incluso a emitir fallos judiciales.

Mientras tanto, aumentan las preocupaciones sobre cómo la IA generativa afectará las elecciones. Al menos 45 países celebrarán elecciones en 2024, incluidas carreras electorales de importancia mundial en Estados Unidos y la Unión Europea.

Si bien la IA ya está ayudando a optimizar la administración electoral, la IA generativa podría introducir nuevos sesgos e incertidumbres. En el sistema electoral de Estados Unidos, que está altamente descentralizado, hay 10.000 jurisdicciones, y cada estado tiene sus propios registros de votantes que se deben actualizar constantemente cuando los votantes se mudan, fallecen o pierden la elegibilidad. Se utilizan sistemas de IA especializados en este proceso, y aunque pueden hacer que sea más eficiente, la evidencia inicial sugiere que los algoritmos usados para mantener los registros de votantes tienen problemas para coincidir nombres asiáticos y podrían tener prejuicios en contra de minorías en general. Se han identificado sesgos similares en el empleo de IA para la verificación de firmas, un requisito usual para las boletas por correo.

La influencia de la IA podría extenderse más allá de la mera administración de las elecciones; también podría usarse para ayudar a dar forma a las reglas y estructuras electorales, afectando la competitividad de las elecciones, el grado de polarización política, la participación electoral y los incentivos de los candidatos. Hasta el 90% de los distritos del Congreso de Estados Unidos se consideran “seguros” desde una perspectiva partidista, lo que significa que el resultado suele ser predecible y favorece a los republicanos o a los demócratas. Ahora hay docenas de aplicaciones que ayudan a los legisladores a trazar los límites de los distritos. Si bien los programas de IA generativa avanzada podrían usarse para mejorar la equidad y la representatividad del sistema político de los Estados Unidos, también podrían permitir con la misma facilidad una manipulación partidista aún más represiva por parte de los titulares políticos, que proteja aún más a los partidos y candidatos de una competencia genuina.

Más allá de la redistribución de distritos, la IA generativa podría facilitar otras reformas estructurales. Los países europeos, por ejemplo, usan una combinación de votación cerrada y preferencial. Por el contrario, Estados Unidos utiliza distritos de un solo miembro en los que el ganador se lo lleva todo. Los reformadores que buscan promover la moderación y reducir la polarización debaten los méritos de reformas como la votación por orden de preferencia, las primarias abiertas y la representación proporcional. Sin embargo, el impacto potencial de estos cambios en diversos entornos y contextos políticos, y sus posibles efectos de interacción cuando se combinan, siguen sin estar claros. La IA generativa podría arrojar luz sobre estas dinámicas complejas, mejorando nuestra capacidad para estimar los efectos a largo plazo de las reformas electorales.

Si bien estos cambios influirían en la mecánica de la democracia, los efectos indirectos son quizás más preocupantes. Es probable que la IA altere los mercados laborales, con todas las consecuencias políticas asociadas. También puede remodelar los ecosistemas de información en los que confían los gobiernos, los candidatos y los votantes. La IA generativa podría resultar un activo valioso para los periodistas, agilizando tareas como resumir audiencias gubernamentales, organizar contribuciones de diversas fuentes e incluso ayudar en la redacción y edición de artículos. Así como también podría resultar en el despido de más periodistas.

Las plataformas de redes sociales podrían usar IA para moderar el contenido en línea, combatiendo la difusión de desinformación electoral y evitando a los moderadores de contenido humano la tarea a menudo traumática de filtrar el contenido más ofensivo de internet. Pero es casi seguro que la IA generativa también exacerbará la crisis de desinformación actual, lo que facilitará la creación de contenido altamente personalizado y persuasivo que se pueda probar, ajustar, adaptar y orientar en todos los medios. En abril, el Partido Republicano lanzó su primer anuncio de ataque generado por IA contra el presidente estadounidense Joe Biden. No es descabellado imaginar un panorama político inundado de anuncios producidos a bajo costo (o incluso pódcasts) utilizando las voces o imágenes de fuentes confiables y diseñados para manipular audiencias específicas, utilizando historias personales en línea para identificar y explotar vulnerabilidades psicológicas. Queda por ver si esto es un cambio de juego.

La capacidad de la IA generativa para crear desinformación persuasiva en varios idiomas también podría ser una bendición para adversarios extranjeros que antes se veían afectados por la falta de fluidez lingüística y cultural. Al mismo tiempo, los defensores de la democracia podrían usar estas herramientas para desarrollar mensajes antiautoritarios más persuasivos dirigidos a las comunidades más vulnerables. Sin embargo, tal como están las cosas, las voces democráticas son superadas en número y armas.

Dicho esto, aunque la IA puede generar contenido, aún requiere distribuidores como Facebook para llegar a una audiencia. Los laboratorios de IA y las plataformas de redes sociales deben trabajar juntos para desarrollar mecanismos efectivos para prevenir la propagación de desinformación.

Es importante tener en cuenta que estos modelos fundamentales de aprendizaje de idiomas están tan sesgados como el corpus de la historia humana en el que se forman. Como tal, favorecen las culturas con una mayor cantidad de materiales escritos y digitalizados (el inglés y el cantonés son los idiomas preferidos), y las historias de los conquistadores están sobrerrepresentadas. Dichos sesgos pueden ser peligrosos, particularmente en un momento en que la polarización política está aumentando en las democracias liberales y el 40% de los estadounidenses niegan el resultado de las elecciones presidenciales de 2020.

En esencia, la democracia depende de la confianza de los ciudadanos en los líderes y las instituciones para representar sus intereses. Pero la confianza es frágil y debe salvaguardarse. Si bien la IA generativa podría ofrecer beneficios significativos en campos como la medicina, la producción y la educación, se debe considerar su impacto en la democracia. De lo contrario, socavará, en lugar de fortalecer, el gobierno del pueblo.

Kelly Born, ex directora del Centro de Política Cibernética de la Universidad de Stanford, es directora de la iniciativa Democracia, Derechos y Gobernanza en la Fundación David y Lucile Packard. Copyright: Project Syndicate, 2023.