Uruguay y la soberanía algorítmica: cuando una firma no alcanza

El 2 de setiembre Uruguay estampó su nombre en el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial (IA), Derechos Humanos, Democracia y Estado de Derecho. Fuimos el primer país latinoamericano en hacerlo. La foto en Estrasburgo, con nuestro embajador Enrique Emilio Loedel Soca en la ceremonia de firma, acompañado por el secretario general adjunto, Bjørn Berge, o sonriendo junto a funcionarios europeos, se multiplicó en redes. Nos sentamos a la misma mesa que la Unión Europea, Estados Unidos y Japón. Bien. Pero quedarnos sólo en la foto sería un error: lo difícil empieza ahora, cuando haya que transformar esa firma en leyes, controles y políticas efectivas que protejan a la gente común.

El tratado es histórico: obliga a evaluar el impacto de los sistemas de alto riesgo antes de aplicarlos, prohíbe usos incompatibles con la democracia –como el puntaje social chino o la vigilancia masiva– y exige transparencia en algoritmos y datos.

Este tratado busca impedir que caigamos en una sociedad de control. También demanda una autoridad para auditar y sancionar a quienes utilicen IA, ya sean actores públicos o privados. Para ello se requiere compromisos concretos que implican crear capacidades de supervisión.

En Uruguay esto se traduciría en evitar que un software decida, sin dar explicaciones, si podés acceder a un crédito, a una vivienda o a un plan estatal según tu “nota” de obediencia.

La paradoja es que el gobierno quiere que sea la Agencia de Gobierno Electrónico y Sociedad de la Información y el Conocimiento (Agesic) la que regule y fiscalice la IA. Es decir, que quien diseña y promueve políticas digitales se supervise a sí mismo. Ahí es donde me detengo. Creo que Uruguay debería aprender de su propia tradición institucional: la democracia se ha blindado gracias a organismos autónomos como la Corte Electoral, el Banco Central o las unidades reguladoras. Pedirle a Presidencia que se controle a sí misma es debilitar esa tradición.

Esta agenda fue heredada en Uruguay del gobierno anterior. En 2023, el Parlamento le dio a la Agesic el mandato de elaborar una estrategia nacional de datos e IA, y en 2024 se abrió un comité interinstitucional que sentó a la misma mesa a organismos públicos, académicos y organizaciones de la sociedad civil. De ese trabajo salió un documento que en noviembre de 2024, todavía con Luis Lacalle Pou en la presidencia, fue aprobado como política de Estado de largo plazo. La firma del tratado internacional durante la administración de Yamandú Orsi aparece como una consolidación de ese camino, pero también como un recordatorio de lo mucho que falta en casa.

El mundo ofrece ejemplos claros de cómo se está resolviendo este tema. La Unión Europea separó el desarrollo del control: creó autoridades nacionales independientes y una Oficina Europea de IA con sede en Bruselas. En Canadá se discute la figura de un comisionado con facultades sancionadoras, inspirado en su oficina de privacidad. En Estados Unidos las funciones se reparten entre agencias especializadas, con un rol central del Instituto Nacional de Estándares y Tecnología y de la Federal Trade Commission. Japón, en cambio, delega la supervisión en un instituto técnico que depende del Ministerio de Economía, sin alcanzar el mismo nivel de independencia institucional. La tendencia internacional, salvo la excepción japonesa, es clara: evitar la confusión de papeles entre promotor y vigilante. Uruguay, en cambio, insiste en un modelo híbrido que se antoja más cómodo para el poder que efectivo para la ciudadanía.

El riesgo no es teórico: pensemos en un algoritmo que define quién accede a un subsidio o a un plan de vivienda social. Si reproduce prejuicios, puede excluir a familias por vivir en un barrio “incorrecto” o no tener historial crediticio. Otro sistema podría condicionar las noticias que vemos o las ofertas de empleo que recibimos. Sin un árbitro independiente, esas distorsiones pasan de ser errores a convertirse en injusticias estructurales. Lo mismo puede ocurrir en procesos electorales –donde la microsegmentación de anuncios manipula la opinión pública–, en la moderación de contenidos o en la distribución de beneficios públicos. Firmar sin institucionalidad robusta es como pedirle al mismo técnico que sea también el juez del partido.

Porque ser pioneros no consiste sólo en estampar una firma; implica construir instituciones capaces de proteger derechos y democracia en la era de los algoritmos, garantizar que el uso de la IA beneficie a la ciudadanía y no se convierta en una herramienta de discriminación o control social. La soberanía algorítmica se juega en casa, y la verdadera medida del éxito será nuestra voluntad de asumir ese desafío con seriedad y visión de futuro.

Leticia Borrazás estudió Historia en la Universidad de la República y es directora de Contenido Estratégico de Clickplan, empresa mexicana que impulsa la transformación digital de las empresas.