La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) trabaja junto a autoridades uruguayas para promover debates en materia de inteligencia artificial (IA) y neurotecnología. En el organismo internacional creen que el país puede ocupar un rol “pionero” en estos temas a nivel mundial.
“Uruguay tiene una gobernanza fuerte y una buena cantidad de empresas que están desarrollando principios y herramientas de IA. Tiene una oportunidad de ser un motor no solamente del desarrollo de IA, sino de la aplicación ética, que es además una de las grandes fuerzas que tiene Uruguay cuando se lo reconoce por sus capacidades democráticas y sus altas calidades éticas (...) Es un momento importante en el que Uruguay puede ocupar un rol central en la discusión global”, indicó, en diálogo con la diaria, Ernesto Fernández Polcuch, director de la oficina regional de Unesco en Montevideo desde 2022 y también representante del organismo ante Argentina, Bolivia, Paraguay y Uruguay. Sostuvo que el país tiene la “capacidad de pensarse a sí mismo” en este tema y destacó las competencias que tienen las empresas y el sector público en materia de IA.
“Agesic (Agencia de Gobierno Electrónico y Sociedad de la Información y del Conocimiento) y las demás instituciones están muy involucradas en pensar cómo esta tecnología puede contribuir al desarrollo del país”, remarcó Fernández Polcuch, que además es especialista en diplomacia científica y en políticas de ciencia, tecnología e innovación. Asimismo, destacó los esfuerzos del país, a través de Ceibal, para promover un debate sobre los impactos de la IA en la educación. “Uruguay también se encuentra en el centro de esa discusión a nivel regional, y los países de América Latina vienen a consultar aquí, y sobre todo a Ceibal, acerca de cómo avanzar en esta agenda”.
El referente del organismo internacional sostuvo que la Unesco está trabajando con el gobierno y el parlamento uruguayo para impulsar una recomendación de ética sobre neurotecnología.
“Uruguay tiene una oportunidad muy linda tanto con la IA como con la ética de la neurotecnología. Ese rol de Uruguay de ser un espacio de diálogo a nivel interno se debe utilizar en la región. Se debe presentar a Uruguay como un espacio donde se puede impulsar el diálogo”, indicó. Unesco impulsa un Consejo Empresarial de Ética de la Inteligencia Artificial. A fines de diciembre, se realizó un encuentro que reunió a empresas, organismos internacionales, banca de desarrollo y a autoridades.
Fernández Polcuch explicó que el objetivo de la iniciativa es generar un espacio de intercambio con las empresas para promover un compromiso ético que respete los derechos humanos y permita posicionar a Uruguay en un rol “pionero” en materia de acuerdos sobre IA que vaya “más allá de declaraciones” emitidas por el Estado.
El referente de Unesco señaló que la propuesta ha despertado “mucho interés” en las autoridades uruguayas y remarcó que la Agesic participa directamente en la iniciativa.
¿En qué consiste el consejo empresarial?
La idea es que no podemos pensar cómo transformar la IA en una más ética sin la voz y la participación central de las empresas. Las empresas son el actor central de la inteligencia artificial y lo que buscamos es crear espacios para intercambiar visiones, experiencias, ir armando recomendaciones, compartir las maneras en las que las distintas empresas aplican y desarrollan esta tecnología de manera ética y, sobre todo, generar un compromiso para que se respeten los derechos humanos, para que la inteligencia artificial sea útil a nivel de toda la sociedad y para darle de esa manera a Uruguay también un espacio pionero de acuerdos sobre IA que va más allá de declaraciones y compromisos solamente del Estado. La idea es que los compromisos sean multisectoriales.
¿Qué temas creen que son claves que estén contemplados en este Consejo Empresarial para Uruguay y para América Latina?
El enfoque que estamos teniendo con el Consejo es que los temas vayan surgiendo de las conversaciones. No queremos fijar la agenda del Consejo, sino que vaya tomando forma en función del diálogo entre las prioridades de las empresas y la necesidad de la sociedad. Nosotros ponemos como marco la recomendación sobre la ética de la IA que Unesco aprobó en el año 2021, cuando todavía casi nadie hablaba de ChatGPT. Fue justo un año antes de que explotara el boom de los modelos de lenguaje. Esa recomendación que aprobaron los países miembros de la Unesco establece algunas líneas de temas de los que nos gustaría que las empresas conversen. Por ejemplo, la transparencia, la inclusión, la protección del ambiente, el tema del agua, los sesgos y su mitigación y, sobre todo, las perspectivas de derechos humanos, la igualdad de género y la inclusión. Esos son los temas que queremos poner sobre la mesa. Ahora, serán las empresas las que van a ir eligiendo algunos de los temas y elaborando sus propias visiones. Es importante remarcar, además, que el proceso recién empieza. Tuvimos una sola reunión en diciembre en la que conversamos con las empresas para ver cuáles estarían interesadas en involucrarse. Todavía el proceso no ha empezado y no se constituyó formalmente el consejo. Por el momento es una conversación.
¿Cuál ha sido la respuesta que han tenido de las autoridades uruguayas y de las empresas?
Por parte de las autoridades uruguayas hay mucho interés. De hecho, Agesic participa directamente tanto del consejo como de la idea. Nosotros le llevamos a Agesic la idea y fue inmediatamente tomada, y, de hecho, esperamos que se convierta en un vínculo entre las empresas y el propio gobierno. Queremos generar ese espacio. La verdad es que con Agesic además hemos preparado un informe previo sobre el estado de la inteligencia artificial ética en Uruguay que nos ayuda a pensar qué es lo que hace falta, qué es lo que hay, cuáles son las fortalezas, cuáles son las debilidades, para que después el consejo también tenga esos parámetros. Lo interesante es que a nivel mundial la Unesco lanzó una propuesta similar que tuvo la participación de grandes empresas internacionales. El consejo fue una especie de aterrizaje de lo que se hizo a nivel global a las empresas que tienen actividades específicas en Uruguay.
¿Cómo definiría la situación en Uruguay?
Uruguay tiene la capacidad de pensarse a sí mismo en términos de IA. Tiene capacidades propias de desarrollo y aplicación de alto nivel de la inteligencia artificial en las empresas y en el sector público. Agesic y las demás instituciones están muy involucradas en pensar cómo esta tecnología puede contribuir al desarrollo del país.
¿Cree que Uruguay podría ocupar un rol pionero en materia de regulación y ética de la IA?
Sí. Prefiero no hablar necesariamente de regulación, sino de acuerdos. A veces la regulación se ve como si fuera una cuestión de un solo lado, que parte desde el Estado. Creo que en este marco lo que se necesita es un compromiso de responsabilidad ética de todos los actores. El Estado no solamente sería el organismo dedicado a la gobernanza de la IA, sino también un usuario y un generador de herramientas. La lógica es crear un espacio en el que no se frene la innovación, sino que se establezcan los marcos para que empresas y Estados puedan trabajar conjuntamente para desarrollar más innovación y aplicarla también de manera ética en todos los espacios en los que se aporte al desarrollo del país. En ese sentido, Uruguay tiene una gobernanza fuerte y una buena cantidad de empresas que están desarrollando principios y herramientas de inteligencia artificial. Tiene una oportunidad de ser un motor no solamente del desarrollo de IA, sino de la aplicación ética, que es además una de las grandes fuerzas que tiene Uruguay cuando se lo reconoce por sus capacidades democráticas y sus altas calidades éticas.
Es un momento importante en el que Uruguay puede ocupar un rol central en la discusión global. De hecho, para América Latina, el año pasado tuvimos aquí en Montevideo la segunda reunión del Comité Regional de Ética en Inteligencia Artificial, que le dio el liderazgo de todo el resto del año a Uruguay para ir avanzando en el diálogo regional con los demás países de América Latina. Este año le pasará la antorcha a República Dominicana, pero mientras tanto ha hecho un trabajo muy importante y ha posicionado realmente a Uruguay en ese espacio líder en la región.
Usted viene trabajando hace años en ciencia y tecnología. ¿Qué distingue al debate sobre IA de otras revoluciones tecnológicas que ha vivido la humanidad?
Creo que hay aspectos que a veces en la conversación cotidiana estamos dejando de lado, que es que la propia IA está transformando la manera de hacer investigación. Está abriendo caminos a cosas que antes pensábamos que no se podían hacer. Yo estudié hace muchos años biología, a finales de los 80. No me recibí, pero estudié, y en aquel momento nos decían que no se podía saber cómo iba a ser el plegamiento de la proteína. Era un estándar; decían: “No se molesten porque eso no se puede”. El año pasado fue Premio Nobel el programa de IA que efectivamente puede predecir cuál es la forma estructural de la proteína en 3D. Esta tecnología cambia tremendamente la forma de hacer ciencia. No es solamente que realiza acciones mucho más rápido: nos está dando herramientas nuevas que van a acelerar descubrimientos en todas las áreas. Frente a esto, es importante que nuestros países no sólo alimentemos a la IA, sino que participemos de los debates y en la construcción de esta tecnología para que no seamos meros usuarios ni proveedores de carga de los modelos. En esto también hay grandes oportunidades para la región.
¿Qué papel deberían tener las universidades y los centros de investigación en esta discusión?
Yo creo que hay dos aspectos fundamentales en la formación de los y las investigadoras. Uno es que todas las disciplinas de ciencia y tecnología necesitan aprender sobre inteligencia artificial, pero también debemos incorporar en la formación las visiones éticas sobre esta tecnología, porque no puede ser que les enseñemos a los estudiantes a desarrollar sistemas y después les digamos que se excedieron en los límites. Tenemos que hablar de cuáles son los principios éticos desde la formación; esto requiere que las universidades revisen también sus planes de estudios y sus formas de ver la formación del investigador. Ya no alcanza solamente con poner una materia sobre IA; hay que crear otra que mire el desarrollo y la aplicación ética.
¿Cómo debería integrarse esta tecnología en los sistemas educativos sin reproducir desigualdades ni generar nuevas brechas?
La IA no solamente tiene impacto a nivel de la ciencia, sino a lo largo de todo el sistema educativo. Desde la Unesco hemos trabajado en una serie de informes acerca de cómo desarrollar las distintas competencias de estudiantes y docentes. Necesitamos docentes que puedan transmitir no solamente el conocimiento teórico sobre la tecnología, sino cómo usarla críticamente, cómo incorporarla a la labor educativa, para qué sirve y para qué no. Muchas veces los estudiantes saben más que los docentes del tema, lo que genera nuevos desafíos en la relación alumno-profesor.
En Uruguay se está trabajando muy bien con Ceibal; justamente hace unos meses organizamos un debate sobre inteligencia artificial y educación. Uruguay también se encuentra en el centro de ese debate a nivel regional y los países de América Latina vienen a consultar aquí, y sobre todo a Ceibal, cómo avanzar en esta agenda. Hay un gran desarrollo por parte de Uruguay, pero a la vez la agenda avanza constantemente, entonces el país debe estar todo el tiempo poniéndose al día.
¿Qué otros temas está trabajando Unesco con autoridades uruguayas en materia de innovación?
Hemos trabajado con los indicadores de ciencia y tecnología. Tuvimos una reunión regional de la Red Iberoamericana de Indicadores de Ciencia y Tecnología en Montevideo. Es un tema que trabajamos desde hace muchos años porque tenemos la convicción de que, para tomar decisiones de política respecto a la ciencia y la tecnología, es necesario tener información basada en datos de calidad. En ese sentido, la Red de Indicadores está ayudando en la nueva institucionalidad de la ciencia y tecnología en Uruguay.
Hemos sido sede de un curso sobre asesoramiento y diplomacia científica con la cooperación española. Hay mucho interés por parte del Estado uruguayo, porque efectivamente esa diplomacia científica tiene, por un lado, todos los componentes de cómo mejorar la ciencia del país sobre la base de la cooperación, pero también cómo mejorar la posición de Uruguay frente a otros Estados a partir del conocimiento y la ciencia. En este tema, las políticas exteriores de cooperación se nutren de la ciencia y la tecnología.
Este año se aprobó una recomendación sobre la ética de las neurotecnologías, que es otro aspecto sobre el que estamos trabajando tanto con el gobierno como con el Parlamento. Parece un asunto muy lejano, pero que en realidad habla sobre la interfaz de la máquina-cerebro. El tema incluye las lecturas del iris y debates, por ejemplo, sobre quién es el dueño de los pensamientos cuando se le puede leer a una persona las reacciones neurológicas. Es necesario poder mantenerlas en privado; uno tiene que poder saber dónde y cómo se guardan esos datos. Respecto de todas esas cuestiones, se ha desarrollado una recomendación de ética de la neurotecnología que también estamos trabajando a nivel de Uruguay para su aplicación en el país.
Uruguay tiene una oportunidad muy linda tanto con la IA como con la ética de la neurotecnología; ese rol de Uruguay de ser un espacio de diálogo a nivel interno se debe utilizar en la región. Se debe presentar al país como un espacio donde se puede impulsar el diálogo y donde se puede aportar seriamente al desarrollo de la temática de la inteligencia artificial ética y de la neurotecnología a nivel regional y mundial. Somos muy optimistas con respecto a este tema.