El gobierno argentino, liderado por Javier Milei, anunció hace una semana el desarrollo de un “Gemelo Digital Social”, una herramienta basada en inteligencia artificial (IA) que promete mejorar la gestión de las políticas públicas. Sin embargo, expertos en tecnología, protección de datos y gobernanza digital consultados por la diaria advirtieron que, sin controles adecuados, el sistema podría utilizarse para clasificar ciudadanos según perfiles de riesgo, discriminar a sectores vulnerables, afectar derechos humanos, producir “procesos de exclusión automatizados sin posibilidad de apelación” y concentrar enormes volúmenes de información sensible.
También señalaron que las consecuencias de una iniciativa de este tipo podrían extenderse más allá de Argentina y tener impacto en Uruguay y el resto de la región. “La consecuencia más inmediata es que la persona no sabe para qué fue evaluada o puntuada. No sabe qué criterios usaron, ni tampoco a quién reclamar”, sostuvo Luis Papagni, ingeniero en sistemas de información y consultor en transformación pública digital.
El exsubsecretario de Innovación Administrativa de la Nación de Argentina alertó, además, sobre la posibilidad de que los sistemas de IA reproduzcan sesgos sociales y territoriales. “El sistema termina decidiendo que vivir en un barrio te hace, estadísticamente, poco confiable”, afirmó. A su juicio, ese tipo de clasificaciones pueden terminar condicionando “el acceso a servicios, a crédito o a la asignación de planes sociales”, generando procesos de “exclusión automatizados sin posibilidad de apelación”.
En la misma línea, Javier Pallero, analista de políticas de la tecnología, señaló que la preocupación surge cuando estas tecnologías se utilizan para construir modelos predictivos sobre individuos o grupos sociales, lo que “podría reproducir injusticias o volver a vulnerar a determinados grupos”. A su juicio, este tipo de herramientas pueden terminar por etiquetar a determinados sectores de la población y condicionar la forma en que el Estado se relaciona con ellos.
“Por un lado, puede ayudar a prever dónde deberían ponerse los recursos para atender un problema, pero por otro lado es también estigmatizante, y coloca a las personas en una situación en la que no pueden cambiar su manera de vivir o no pueden actuar de otra manera. Las etiqueta, las determina, las predetermina a vivir de una forma y a que el Estado las trate de cierta manera”, advirtió. A su criterio, esta tecnología puede determinar si una persona merece o no un subsidio o prestación. “Se puede usar para bien o para mal. El problema de esta herramienta es su carácter invasivo, estigmatizante y perpetrador de sesgos”, afirmó.
En qué consiste
El 22 de mayo, el Ministerio de Capital Humano de Argentina presentó “Gemelo Digital Social”, un sistema de IA definido por la ministra Sandra Pettovello en X como una “herramienta pionera a nivel mundial que permitirá al Estado avanzar hacia un modelo predictivo, incorporando tecnología para el análisis estratégico de datos y la mejora en la toma de decisiones”. Ese mismo día la cartera difundió un video señalando que, “por primera vez, Argentina lidera el futuro social y un cambio de paradigma de las políticas sociales con el uso de IA”.
Consultados sobre en qué consiste este sistema, ambos expertos sostuvieron que es una tecnología de simulación digital, una “maqueta computacional” que existe en ingeniería hace décadas. “Los gemelos digitales son una tecnología que usualmente se utiliza en fábricas, infraestructuras de servicio público, por ejemplo, para simular una red eléctrica, una red de gas, sirve para cuestiones logísticas y para la administración de recursos materiales, pero hasta ahora no se utilizaban para conductas humanas”, explicó Pallero.
En el caso de Argentina, esta tecnología dejaría de aplicarse a infraestructuras o sistemas físicos para centrarse directamente en las personas. Según Papagni, permitiría analizar variables como los “patrones de comportamiento, el historial de consumo, de salud de una comunidad, las relaciones interpersonales, las condiciones económicas y movimientos”, con el objetivo de construir modelos predictivos. A su juicio, esto implicaría la generación de una suerte de puntuación o perfil de riesgo para cada ciudadano.
Por su parte, Pallero recordó que el gobierno chino implementó un sistema de puntaje social. “Eso genera inconvenientes, porque si se baja el puntaje de un individuo como si se tratara de un carné de conducir, eso tiene otras consecuencias para el acceso o no a servicios públicos y prestaciones del Estado”. “El temor es que se hagan modelos predictivos de grupos vulnerables de personas y que, por la forma en que se gestionen los datos utilizados para entrenarlos, resulten discriminatorios o estigmatizantes”, afirmó.
Falta de controles
Por su parte, Papagni consideró que el principal problema que enfrenta Argentina es la “ausencia de un marco jurídico específico”. “La Constitución y la ley de protección de datos personales establecen finalidades concretas para el uso de los datos que los ciudadanos entregan al Estado. Nadie autoriza que esa información sea utilizada para entrenar un modelo de IA, lo cual es altamente riesgoso”, afirmó.
Para Papagni, también existen interrogantes sobre la transparencia, propiedad de los datos y mecanismos de auditoría. “No hay todavía ningún texto, ninguna norma ni documentación oficial que permita saber cómo se va a utilizar esta tecnología. La advertencia principal es prestar atención a la falta de reglas claras para entrenar modelos con datos personales”, indicó.
Asimismo, remarcó que en el caso de una empresa de Estados Unidos que brinda sus servicios a Argentina, dicha tecnológica está obligada por la ley norteamericana a entregar los datos a Washington sin importar dónde estén alojados. “En ese escenario, sin un marco legal claro, los datos de identidad, de salud, financieros de los argentinos, incluidos el comportamiento, los movimientos, las relaciones, absolutamente todo queda en manos de las autoridades de Estados Unidos si ellas lo requieren, sin ningún consentimiento, porque no hay ninguna ley que se lo impida”, agregó.
Además, existe una “ausencia de auditoría algorítmica”. “Si el gobierno puede hacer un anuncio muy rimbombante, con mucho marketing, sin todavía presentar un documento explícito de cómo se va a usar y para qué, es un llamado de atención”, agregó.
¿Qué sucede con los derechos humanos?
Los especialistas coincidieron en que es posible crear este tipo de tecnología y al mismo tiempo respetar los derechos humanos. No obstante, en la situación de Argentina, en donde se desconocen los detalles de la propuesta y se carece de un marco legal, se corre el riesgo de que no se respeten los derechos de las personas.
“Se requieren condiciones que hoy en Argentina no existen; se necesita una ley de soberanía de datos con un régimen de gobernanza algorítmica, con la necesidad de auditorías externas, con la localización de los datos bajo la jurisdicción argentina. El tema es que el marco legal hoy no está preparado para eso”, agregó Papagni.
Por su parte, Pallero consideró que un sistema de predicción social tan ambicioso difícilmente pueda desarrollarse sin afectar derechos fundamentales, debido a la necesidad de procesar información sensible vinculada a salud, situación económica o incluso orientación política. “Sí pueden utilizarse datos agregados y anonimizados para determinadas aplicaciones de IA, pero siempre y cuando se cumpla con una protección de datos personales adecuada”, señaló.
Asimismo, dijo que es necesario contar con leyes actualizadas y protocolos de aplicación, unidas a recursos y poderes necesarios para hacer cumplir las normativas, una situación que no está presente en Argentina, ya que la ley de datos personales se encuentra “totalmente desactualizada”.
La sombra de Palantir y Peter Thiel
Las especulaciones sobre una eventual participación de la empresa estadounidense Palantir se intensificaron tras la reciente visita a Argentina de su cofundador Peter Thiel. Ambos expertos aclararon que no existen confirmaciones oficiales sobre si Palantir participará en la realización de un gemelo digital, aunque consideraron que hay elementos que justifican la hipótesis.
En primer lugar, Pallero sostuvo que es una empresa de gestión de base de datos “muy grande” que usualmente utilizan gobiernos o ejércitos. Recordó que Estados Unidos e Israel contrataron los servicios de esta empresa en el ámbito de la seguridad, mientras que Reino Unido aplica la tecnología de Palantir para su sistema de salud pública.
“Es importante remarcar que Peter Thiel se compró una casa en Argentina, en Buenos Aires, y está planeando quedarse bastante tiempo. Por otro lado, hace poco el gobierno argentino anunció un régimen de incentivo para las inversiones, especialmente dedicado a empresas de tecnologías avanzadas, incluidas empresas de IA”, agregó. En ese escenario, consideró que Palantir es un “candidato fuerte” para cuando el Estado abra el proceso de licitación para implementar esta tecnología.
Ahondando en el tema, Papagni remarcó que, si bien aún no hay información oficial, “las señales son difíciles de ignorar”. “No se puede ignorar la visita de Thiel a la Casa Rosada o que se haya venido a vivir a Argentina. Además, hablaron de convocar a los principales actores del mundo, y en el segmento de los gemelos digitales Palantir es uno de los principales jugadores”, indicó.
Impacto regional y desafíos para Uruguay
Ambos expertos coincidieron en que las implicancias del debate trascienden las fronteras argentinas. Para Pallero, Argentina podría transformarse en un “laboratorio” de prueba para nuevas formas de gestión estatal basadas en IA. “La empresa Palantir está bastante imbuida por la ideología de sus fundadores. Ellos tienen una ideología de corte tecnolibertario, con una visión escéptica respecto de la democracia, y creen en líderes muy fuertes que le dan mucha prevalencia al sector privado. En ese sentido, Milei en Argentina es un gobernante ideal para venir a probar y quizá hacer el intento de cuánto podrían privatizarse los servicios del Estado y cómo podrían incorporarse estas tecnologías”, observó.
Papagni, por su lado, alertó que una implementación sin controles en Argentina podría generar un efecto contagio en América Latina. “Si Argentina lo hace sin regulación, sin auditoría, con un proveedor sujeto a la regulación norteamericana, otros gobiernos podrían sentirse habilitados a relajar sus propios estándares”, subrayó.
En el caso de Uruguay, destacó que existe una institucionalidad “muy sólida” en materia de protección de datos y gobierno digital, pero consideró que aun así podría verse afectado por la presión regional. “Este tema le podría terminar pegando a Uruguay, porque los datos de los migrantes regionales que pasaron por Argentina, los datos de la cooperación en seguridad, de las infraestructuras críticas compartidas, todo eso puede terminar dentro del gemelo digital, con lo cual no solamente está en juego la privacidad de los argentinos, sino de todo aquel que tenga alguna conexión con Argentina”, concluyó.