¿Quién usa nuestros datos y para qué? Esa pregunta comienza a tomar fuerza cada vez más frente a la irrupción de la inteligencia artificial (IA) tras décadas en las cuales los usuarios vienen aportando voluntariamente datos sobre sus hábitos, opiniones e interacciones en Internet .
Expertos consultados por la diaria remarcaron que los datos personales se han convertido en un insumo central de la economía digital y su recolección se viene dando desde hace décadas, en gran medida sin que la ciudadanía dimensione su alcance ni sus posibles usos.
Javier Barreiro, fundador y miembro de la comisión directiva de la organización DAMA y CEO de la empresa IUGO, y Cecilia Rikap, economista e investigadora argentina, coincidieron en señalar que la información generada en plataformas digitales, como búsquedas, interacciones, consumos y comportamientos, alimenta bases de datos cada vez más extensas, utilizadas tanto por empresas privadas como por los mismos Estados.
“Estamos frente a una suerte de robo del siglo porque los datos están siendo convertidos en un active, a pesar de que son generados colectivamente. En la década que estamos empezando, recién se está tomando conciencia de que los datos, los algoritmos y la IA en particular no viven en el aire ni en el cielo, sino que requieren de infraestructura física, en particular de centros de datos”, afirmó Rikap, profesora de Economía en la University College London y directora de investigación del Instituto para la Innovación y el Propósito Público de ese centro.
La especialista, quien asesoró al gobierno de Brasil en materia de IA, subrayó que toda la información generada en Internet puede ser recolectada y transformada en bases de datos, y remarcó que el acceso a esos datos está profundamente “concentrado”.
Aunque individuos, organizaciones y Estados pueden acceder a ciertos niveles de información, nada se compara con el volumen y la integralidad de los datos que concentran las grandes empresas tecnológicas de Estados Unidos y China. Se trata de un bien producido colectivamente pero apropiado de forma privada, como una forma de “extractivismo de datos”.
“Hay un montón de información que se genera directamente a través de las plataformas, como nuestras búsquedas en el motor de búsqueda de Google, las preguntas que se le hacen a ChatGPT, las interacciones y todos los posteos que se realizan dentro de redes sociales. Cada uno de estos ámbitos producen de forma permanente datos, y quienes en última instancia tienen acceso absoluto y exclusivo a todos ellos juntos son solamente las empresas que proveen la plataforma sobre la cual se realizan las búsquedas, los posteos, los intercambios”, explicó.
Aunque vivimos en una sociedad en la cual todos tenemos a nuestro alcance la capacidad de acceder a ciertos tipos de datos, “nunca es comparable con los que pueden acceder la enorme mayoría de las personas, las organizaciones, incluso los propios Estados, comparado con los datos que concentran las grandes empresas de tecnología digital de Estados Unidos y también de China”, advirtió. “A pesar de que los datos son un producto generado colectivamente, es apropiado privadamente por unas pocas empresas”, remarcó.
Por su parte, Barreiro, profesor universitario e ingeniero en computación, indicó que los datos personales que los usuarios vienen entregando desde hace décadas son utilizados principalmente por las grandes plataformas digitales y redes sociales pero también por los Estados, que concentran volúmenes crecientes de información sobre la ciudadanía.
“Con la expansión de la IA, la capacidad de usar y cruzar datos se vuelve cada vez más potente. Hoy, distintas industrias manejan información personal, desde el sector de la salud hasta la banca , donde el avance de la bancarización amplió el número de instituciones que concentran datos sensibles, especialmente vinculados al perfil y a los hábitos de consumo de las personas. En ese contexto, ya no se trata de quiénes usan mis datos: los usan todos, y todos cuentan con historiales muy extensos que permiten múltiples usos, tanto de forma individual como, sobre todo, mediante el cruce de información”, remarcó Barreiro.
Según sus palabras, aunque Uruguay cuenta desde hace tiempo con un marco normativo sólido en protección de datos, persisten “zonas grises” que abren interrogantes, especialmente cuando múltiples sectores –como la banca, la salud o el comercio– acumulan historiales extensos de consumo, comportamiento y perfil de las personas. “El avance de la IA profundiza esos desafíos al potenciar la capacidad de cruzar bases de datos y realizar inferencias cada vez más precisas”, advirtió.
Un dato que, aislado, puede estar anonimizado y protegido, puede dejar de estarlo cuando se integra en sistemas interoperables, aumentando de forma significativa el riesgo de reidentificación.
“La gran mayoría de la ciudadanía no dimensiona la cantidad de datos que entrega al utilizar plataformas digitales. Incluso cabe preguntarse si, en caso de ser plenamente consciente de ello, qué relevancia les asignaría y de qué manera distintos sectores podrían contribuir a fortalecer esa capacidad crítica”, señaló.
¿Quiénes usan los datos?
Consultado sobre quienes usan los datos que los usuarios vienen entregando hace décadas, Barreiro dijo que principalmente son las redes sociales y las plataformas las “grandes consumidoras”, pero también señaló a los gobiernos que recolectan y obtienen “un montón de información” sobre los ciudadanos.
En Uruguay en particular existe “mucha normativa” ya hace muchos años alrededor de estos temas, remarcó el experto. No obstante, dijo que más allá de los resguardos que uno pueda tener, siempre quedan “espacios en blanco” en los que surgen este tipo de preguntas.
Asimismo, sostuvo que se viene recolectando los datos desde que existen los sistemas de información, específicamente a partir del avance de la digitalización, aunque remarcó que podría ser “desde mucho antes”. “Seguramente se intensificó luego de que fue mucho más barato almacenar y exportar datos. Por tanto, deben existir datos míos de hace muchos años almacenados en muchos lugares”, remarcó.
Frente a ese contexto, el especialista consideró que la IA implica “nuevos riesgos”, ya que “la potencialidad de empezar a hacer cruzamientos, inferencias, vínculos entre datos, es mucho más potente que antes”, añadió el experto y completó: “Si bien hay un montón de riesgos, también hay muchos “beneficios” por lo que se debe “desmitificar la IA”.
“Existen múltiples servicios, tanto del Estado como del sector privado, que pueden mejorar la productividad y la calidad de vida de las personas. Desde alertas sobre el vencimiento de trámites o la posibilidad de acceder a beneficios sociales, hasta promociones personalizadas. En el ámbito privado, por ejemplo, los bancos pueden ofrecer mejores alternativas de uso de la tarjeta de crédito en función de los hábitos de consumo, alertando sobre beneficios disponibles que el usuario no está aprovechando. En el plano de la salud, el uso de datos también permite anticipar riesgos de enfermedad a partir del historial clínico y su comparación con modelos de personas con trayectorias similares. Ese tipo de productividad genera múltiples beneficios”, indicó.
En ese contexto, consideró que no se puede garantizar la privacidad en un ecosistema digital, pero se pueden brindar “muchas mitigaciones” para reducir el riesgo.
El riesgo
Por su parte, Rikap sostuvo que el riesgo que enfrenta la sociedad actualmente es que “sólo hable de centros de datos y no observe los recursos que son necesarios para dicho fin, como el consumo de agua o de electricidad, cómo afecta la vida de las comunidades que están alrededor de donde se instalan esos centros de datos y cómo se termina reforzando un proceso de extractivismo, porque por un lado la existencia de centros de datos significa más extractivismo de la naturaleza, pero al mismo tiempo es a través de la instalación de más y más centros de datos que se habilita el extractivismo de datos en la profesión de conocimiento”, añadió.
La economista consideró que este tema implica un “riesgo” para toda la comunidad académica y política, y remarcó que el reto es lograr tener una visión “ecosistémica y en red”.
“Sin centros de datos, no hay economía digital, pero sin datos ni algoritmos no hay economía digital tampoco. Y sin microtareas realizadas por trabajadores muchas veces con trabajo a destajo y otras veces contratados por empresas en países periféricos que sigan contribuyendo a poner las bases de datos a punto para que puedan ser usadas para entrenamiento de IA tampoco habría economía digital”, subrayó.
“La discusión sobre la economía de los datos y de los algoritmos es en última instancia una discusión sobre gobernanza”, remarcó.
Normativa “reactiva”
La normativa de los Estados frente al uso de datos es “más reactiva que proactiva” a la hora de velar por los derechos y las salvaguardas de la sociedad, dijo Barreiro.
“Desde el mundo privado cada vez más hay necesidad de nuestros clientes en tener un buen manejo de datos y en brindar garantías sobre cómo manejamos su información. Hay una necesidad desde el mundo privado de brindar garantías sobre eso porque se posiciona como una ventaja competitiva y hasta incluso como parte de un estándar”, resaltó.
Asimismo, sostuvo que Europa es la que más está impulsando esta discusión y su normativa –con la cual Uruguay se declara “compatible y alineado”– empieza a poner la responsabilidad sobre los actores que guardan los datos.
“Hay una necesidad de ser proactivo en eso. Este tema es relativamente reciente en la historia. Lo que pasó antes es probable que tenga bajos niveles de anonimización o de resguardo seguro. Pero creo que hay una tendencia diferente actualmente”, indicó.
Regulación
Por su parte, Rikap indicó que en sus comienzos, internet fue pensado como un “gran bien común global” de la sociedad, pero posteriormente se “privatizó” con la “ola de las plataformas”. En ese marco, la experta consideró que más allá de una regulación, se debe realizar una discusión más profunda sobre qué tipo de IA se debe tener.
“¿Para qué se están dedicando toneladas de agua, que se consume energía eléctrica, que se dedica a trabajo de parte de mentes que son brillantes y que podrían estar puestas en función de otras necesidades?. Y, además, la pregunta es si [una normativa] podría llegar a ser suficiente. La historia de las redes sociales demuestra que no lo es”, completó.
“El siguiente paso es directamente tener un internet que ya no informa para nada, en el que los agentes de IA puedan recopilar información de forma más rápida y directamente digerir y vomitar algo a los usuarios donde haya todavía menos posibilidad de verificación. Lamentablemente, nos vamos cada vez más dirigiendo hacia un mundo donde el internet está lleno de noticias falsas [...] La realidad es que la tecnología está imponiendo su desarrollo y hay, efectivamente, empresas que están buscando que la tecnología se desarrolle de cierta manera y no de otra”, advirtió.
Rikap sostuvo que los gobiernos y los sistemas jurídicos tienen herramientas para regular las plataformas, y puso como ejemplo la disputa entre el gobierno de Brasil y X, en la que el Ejecutivo del país sudamericano decidió prohibir la plataforma luego de que la empresa se negó en varias oportunidades a dar de baja cuentas vinculadas a fomentar la ocupación de edificios públicos.
“Hay algunas herramientas, aunque son limitadas desde lo técnico y lo social. En los hechos lo que terminó pasando es que en algunas partes de Brasil siguió funcionando X y resultaba imposible encontrar el mecanismo para efectivamente prohibir la plataforma. Desde lo social y popular, estas plataformas son sumamente populares y demandadas en la población. Además, agregaría un tercer elemento: el geopolítico [...] Trump dijo muy claramente que cualquier gobierno que decidiera cobrar impuestos o regular a las grandes empresas de tecnología de Estados Unidos iba a sufrir represalias comerciales”, añadió.
La especialista argentina sostuvo que incluso en algunos acuerdos comerciales que algunos países, como Malasia y Camboya, impulsan con el gobierno de Estados Unidos, se filtró que hay cláusulas que le prohíben a estos Estados regular a las empresas tecnológicas.
“De manera que hoy es todavía más complicado para los gobiernos de la región incluso hacer algo como lo que hizo Brasil, que sigue siendo poco. Es un caso que es reconocido internacionalmente como de vanguardia para bien, pero al mismo tiempo se sabe que es poco, porque no resuelve el problema de cómo son unas pocas empresas las que dictaminan qué información circula, cómo, cuándo y cuál no”, remarcó.
Frente a este escenario, consideró que hace falta crear plataformas alternativas y ecosistemas digitales que estén “totalmente disociados” de las grandes empresas tecnológicas de Estados Unidos y China. “Las empresas de Estados Unidos y China funcionan como dictaduras. No hay ninguna manera de hacer que sus algoritmos sean abiertos, públicos y auditables, que es lo que habría que hacer para poder prevenir la generación y divulgación de contenido falso, entre muchas otras cosas [...] Mientras tanto, unas pocas empresas siguen apropiándose de los datos”, afirmó.
Rol de Uruguay
Con respecto a Uruguay, Barreiro consideró que el país ha tenido históricamente un rol “bastante relevante” en temas de manejo de datos. “Fue de los primeros Estados en tener portales de datos abiertos así como también establecer una normativa potente en protección y apertura de datos”.
Remarcó que el país “siempre ha estado a la vanguardia”, y sostuvo que Uruguay cuenta con una oportunidad concreta, basada en el nivel educativo de su población y en la integración de la sociedad civil en estos debates, para seguir posicionándose de manera “sólida” en la agenda de datos e IA.
“En el Parlamento también existen iniciativas vinculadas al uso de la IA y a su eventual regulación. Uruguay tiene las condiciones para avanzar en la definición de estándares, en particular respecto de cuál debería ser el marco ético mínimo que el país establezca. Esa definición, sin embargo, debe ser necesariamente colectiva y apoyarse en los múltiples lineamientos que hoy existen”, indicó.
El caso de Antel
Mientras tanto, Rikap destacó el caso de Antel como una “pista para expandir la soberanía digital” en América Latina, señalando que este tipo de iniciativa podría integrar un “ecosistema digital alternativo desde lo público”.
“La pata de Antel es fundamental porque no es sólo los centros de datos, sino el tener una fibra óptica de calidad”, remarcó, poniendo como ejemplo la participación de la empresa estatal en el Plan Ceibal, en el cual Antel contribuyó instalando los satélites para que hubiera internet en escuelas.
La experta argentina sostuvo que el ejemplo de Antel puede servir para investigar y repensar los diferentes tipos de empresas públicas.
“Antel aporta al desarrollo del país versus las empresas públicas brasileñas, que terminan vendiendo los propios datos del gobierno para que se almacenen en Amazon Web Services”, remarcó.
Por otro lado, Rikap dijo que en la región se ha intentado producir nuevos modelos de IA latinoamericanos y puso el ejemplo de Latam GPT. Sin embargo, consideró que el problema de dicho modelo es que está siendo financiado por Amazon.
“No se trata de producir un modelo, un servicio digital, sino que los países de América Latina deberían apuntar colectivamente a desarrollar un ecosistema de tecnologías digitales alternativo, al menos para brindar servicios a la función pública, al Estado, a los hospitales, a las escuelas. Es decir que si se quiere utilizar tecnología digital en la escuela, no sea provista por Microsoft, Google, que los chicos no estén buscando en ChatGPT. Ni tampoco en Latam GPT, porque lamentablemente es un modelo que, de nuevo, depende de capas de tecnología que son extranjeras”, advirtió.
Por último, sostuvo que se está dedicando “los esfuerzos a un modelo simplemente por el deseo de tener uno local sin pensar efectivamente cuáles son las necesidades que va a suplir”. “Mucha gente te va a decir que es un modelo que se entrenó con datos de la región y está en castellano. Puede ser, pero ¿para qué se va a usar? ¿Qué problemas sociales, ecológicos, económicos de la región viene a resolver?”, se preguntó.