La inteligencia artificial (IA) avanza a una velocidad que desafía la capacidad de los estados para regularla. En ese contexto, América Latina enfrenta el desafío de construir una agenda propia y evitar quedar relegada a adoptar reglas definidas por otros, advirtió, en diálogo con la diaria, la investigadora mexicana Berenice Fernández Nieto, especialista en gobernanza de la IA y derechos digitales.
“Si bien los espacios donde se toman las decisiones regulatorias, se realiza la investigación y se desarrollan estas tecnologías están dominados por una perspectiva del norte global, también están emergiendo propuestas para impulsar nuestras voces y nuestros saberes en los foros internacionales. Pero sí existe el riesgo de que los modelos de gobernanza reflejen solamente los intereses de un sector o las realidades y capacidades de determinados países y que no respondan a la mayoría”, advirtió Fernández Nieto, quien participó a finales de abril del simposio internacional “Derechos digitales, derechos fundamentales: reflexiones desde América Latina”, organizado por la Universidad Católica.
En ese sentido, la especialista, que cuenta con una maestría en seguridad internacional, inteligencia y estudios estratégicos, cursada en la Universidad de Glasgow, la Universidad Carolina de Praga y la Universidad de Trento, sostuvo que América Latina debe analizar críticamente los modelos regulatorios que surgen desde otras regiones. “Es necesario ser conscientes del poder económico y tecnológico de diversos países y cuestionar desde dónde provienen las propuestas regulatorias, así como los intereses y las realidades a las que responden, porque evidentemente no siempre serán aplicables a contextos específicos como el de América Latina”, afirmó la especialista, que ha trabajado con organismos internacionales y centros de investigación dedicados a los derechos digitales.
Consultada sobre la situación uruguaya, Fernández Nieto consideró que el país ha dado pasos relevantes en materia de estrategia y regulación vinculada a la IA, aunque aún enfrenta desafíos relacionados con el uso de datos biométricos, los mecanismos de vigilancia y el fortalecimiento de las capacidades institucionales para acompañar el desarrollo tecnológico.
Cuando hablamos de gobernanza de la IA, ¿de qué estamos hablando exactamente?
La gobernanza de la inteligencia artificial se refiere a la regulación del diseño, desarrollo y uso de sistemas inteligentes, pero también al desarrollo de capacidades institucionales que aseguren que esta tecnología beneficie a la sociedad.
La gobernanza también incluye la identificación y mitigación de riesgos derivados de los usos no previstos o no esperados de este tipo de tecnología, de manera que su adopción no profundice problemáticas sociales, como la desigualdad económica, la discriminación o la violencia de género en su forma digital.
Es importante agregar que la gobernanza también comprende la formación y el apoyo al talento regional y nacional, así como la educación ciudadana, para que el uso de este tipo de tecnología sea responsable.
¿Cuáles son los principales riesgos de desarrollar IA sin marcos de gobernanza adecuados?
Se corren muchos riesgos, principalmente relacionados con el comportamiento corporativo y del sector privado. Si bien existen lineamientos para regular su actuación, la IA es una fuerza disruptiva que está alterando diversas esferas de la actividad humana.
Por ejemplo, en el caso de Chat GPT y el tratamiento de los datos derivados de la interacción con el modelo. Es importante aclarar que no se trata solamente de los datos de la interacción, porque existe otra problemática aparte vinculada al respeto de la propiedad intelectual.
Pero volvamos a lo que ocurre con los datos que se generan de la interacción. El modelo ya estaba en el mercado y no había las salvaguardas necesarias para la protección de datos de menores. En ese momento, la tecnología avanzó más rápido que la regulación y, por eso, países como Italia decidieron imponer restricciones a Chat GPT hasta que existieran las condiciones necesarias para la protección de los datos de menores y una base legal para el tratamiento de datos por parte de Open AI y otras compañías que ofrecían este tipo de servicios.
Y estos son solamente los riesgos relacionados con la privacidad y la protección de datos. También existen otros riesgos que involucran la profundización de problemáticas sociales, como la discriminación, la segregación, la desigualdad y la perpetuación de estereotipos. Asimismo, hay otros usos que pueden darse a estas tecnologías, como los riesgos biológicos o su inclusión en el ámbito militar. En definitiva, los riesgos son diversos y tan amplios como los propios usos que pueden darse a estas tecnologías.
¿Cómo se puede regular una tecnología que evoluciona mucho más rápido que los procesos legislativos?
Es el mayor reto al que nos enfrentamos hoy en día. Un ejemplo es la Ley de Inteligencia Artificial de la Unión Europea, que es comúnmente referida como la más integral en términos de regulación de esta clase de modelos. Incluso esta ley, reconocida por su enfoque basado en riesgos, llegó tarde a la regulación de la inteligencia artificial generativa, que tuvo que ser incorporada muy poco antes de finalizar el proceso legislativo.
La clave en estos escenarios es la cooperación entre sectores, entre compañías, desarrolladores de sistemas, tomadores de decisiones, gobiernos y sociedad civil para detectar y mitigar a tiempo los efectos no esperados y los usos no planificados de este tipo de tecnología. Se trata también de crear un diálogo entre las partes involucradas y espacios de cooperación a favor de una IA confiable, responsable y centrada en las personas.
¿Los gobiernos de América Latina están preparados para enfrentar estos desafíos? ¿Cuáles son las principales fortalezas y debilidades de la región para desarrollar una gobernanza propia de la IA?
No, no estamos preparados, pero tampoco creo que ningún país o región lo esté. En Asia, Europa, África y Oceanía se está trabajando para regular el sector privado y también para procurar que la adopción social de este tipo de tecnología se haga de forma responsable. En este sentido, nuestra región no es la excepción.
Toda esta innovación acelerada nos tomó por sorpresa y necesitamos desarrollar leyes e instituciones para poder hacer frente a los retos existentes y a los que vendrán. Para ello, tenemos que observar nuestras realidades como región e identificar nuestras prioridades.
Por ejemplo, debemos diseñar y adoptar estrategias para combatir el colonialismo de datos y la dependencia de infraestructura externa, y procurar que el desarrollo de este tipo de tecnología se haga de forma responsable y sostenible. Esto también se relaciona con el establecimiento de centros de datos en la región y con el impacto que pueden tener sobre el medioambiente y las comunidades.
Pero, por otro lado, también tenemos muchas fortalezas. Tenemos talento regional, pequeñas y medianas empresas y proyectos que están compitiendo con grandes gigantes tecnológicos que cuentan con mayores presupuestos. También se están desarrollando programas sociales para promover el uso responsable de las tecnologías y programas escolares para incorporar estas herramientas en el aula.
Tenemos muchas promesas regionales y mucho talento, pero hace falta fortalecimiento institucional, desarrollo de capacidades en el sector público, apoyo a proyectos regionales, construcción de oportunidades de financiamiento e impulso a la cooperación regional, que considero una de nuestras mayores fortalezas. Debemos unirnos como región y apoyar todas las propuestas que puedan surgir de esa cooperación.
¿Cómo pueden incidir los países de América Latina en la construcción de estándares internacionales?
Es una pregunta muy importante y es algo que desde Italia trato de descifrar. Si bien los espacios donde se toman las decisiones regulatorias, se realiza la investigación y se desarrollan estas tecnologías están dominados por una perspectiva del Norte global, también están emergiendo propuestas para impulsar nuestras voces y nuestros saberes en los foros internacionales.
Debemos seguir impulsando esa presencia, porque sí existe un aporte desde América Latina. Brasil, por ejemplo, es muy activo en el ámbito de la gobernanza de internet y la soberanía digital. Chile, por su parte, fue el primer país en constitucionalizar los derechos digitales, y es un orgullo observar el rol activo de su academia y su presencia en los grandes espacios de toma de decisiones.
Considero que debemos seguir fortaleciéndonos mutuamente como región e impulsar nuestra presencia en el mundo, fortaleciendo nuestra participación en organismos como la Unesco.
¿Existe el riesgo de que las reglas sean definidas exclusivamente por las grandes potencias tecnológicas?
Sí existe el riesgo de que los modelos de gobernanza reflejen solamente los intereses de un sector o las realidades y capacidades de determinados países y que no respondan a la mayoría. Por ello, es necesario ser conscientes del poder económico y tecnológico de diversos países y cuestionar desde dónde provienen las propuestas regulatorias, así como los intereses y las realidades a las que responden, porque evidentemente no siempre serán aplicables a contextos específicos como el de América Latina.
Pero también existe otro riesgo: la fragmentación de la gobernanza. Si existen demasiadas perspectivas y propuestas diferentes, puede resultar muy difícil trabajar conjuntamente hacia un desarrollo responsable, ético y centrado en las personas. Por ejemplo, cuando se desarrollaron sistemas de inteligencia artificial generativa capaces de producir imágenes y videos, algunas jurisdicciones decidieron establecer restricciones debido a los riesgos de desinformación y otros usos potencialmente peligrosos, especialmente en contextos electorales o de inestabilidad social. Sin embargo, en otras partes del mundo no existieron esas limitaciones.
Como vivimos en un entorno global donde internet hace que estas tecnologías estén disponibles prácticamente en todas partes, se genera una situación en la que algunas industrias pueden avanzar y obtener beneficios económicos mientras otras quedan rezagadas. Esta fragmentación dificulta el trabajo conjunto, cuando precisamente lo que necesitamos es avanzar hacia una inteligencia artificial ética y centrada en las personas.
En el caso de América Latina, necesitamos apoyar la investigación regional y la industria local para poder definir nuestras propias reglas del juego: la forma en la que queremos gobernar la inteligencia artificial y lo que queremos aportar al debate global sobre el uso y la regulación de estas tecnologías.
Esa es nuestra tarea para los próximos años: impulsar y apoyar que nuestros saberes también sean escuchados en los espacios donde se toman las decisiones.
¿Cómo evalúa los avances de Uruguay en materia de regulación de inteligencia artificial?
Al igual que muchos países de la región, Uruguay está dando los primeros pasos hacia la regulación y el uso responsable de la inteligencia artificial. La Política Nacional de Inteligencia Artificial de 2021, por ejemplo, es una muestra de ello.
Veo que el enfoque uruguayo está muy orientado a la adopción de la inteligencia artificial en la función pública, pero, al mismo tiempo, procura integrar a la sociedad civil, al sector privado y a la academia. La estrategia uruguaya prioriza la soberanía, la ética y la supervisión humana.
Sin embargo, también existen desafíos, como los relacionados con el manejo de datos biométricos y el uso de la inteligencia artificial con fines de vigilancia y reconocimiento facial. Son aspectos que aún deben trabajarse y aclararse, ya que en muchos países existen excepciones vinculadas a la seguridad nacional y es necesario garantizar las salvaguardas adecuadas para proteger los derechos humanos.
No obstante, este no es un desafío exclusivo de Uruguay, sino de toda la región. En términos generales, el caso uruguayo muestra una estrategia clara y un plan centrado en la ética, la soberanía y la supervisión humana, lo cual es muy importante. Pero todavía existen usos de la inteligencia artificial que deben ser regulados y aclarados, procurando siempre que estas tecnologías beneficien a la sociedad y evitando que puedan ser utilizadas con fines de vigilancia masiva.
En general, todavía hay mucho trabajo por hacer, hay que fortalecer las instituciones, desarrollar capacidades y empoderar a la sociedad civil.
Dentro de diez años, ¿qué indicadores le permitirían afirmar que hemos construido una gobernanza de IA exitosa y al servicio de las personas, y no simplemente una adaptación a las decisiones de las grandes plataformas tecnológicas?
Para mí, un indicador fundamental sería la existencia de instituciones y leyes robustas, incluyendo organismos encargados de la regulación, pero también aquellos dedicados a garantizar la transparencia y la rendición de cuentas. Otro elemento central sería contar con una sociedad civil activa.
También consideraría un indicador importante la educación ciudadana y la alfabetización digital, porque contribuyen a construir una ciudadanía resiliente, consciente de los riesgos asociados a la incorporación de la inteligencia artificial en la vida cotidiana y conocedora de sus derechos y de cómo ejercerlos.
Asimismo, observaría el desarrollo del talento regional, el número de programas educativos y proyectos regionales, el financiamiento destinado a estos esfuerzos y la manera en que ese apoyo se traduce en nuevas investigaciones e infraestructura tecnológica.
