Desde hace unos días el anuncio de la visita del Papa León XIV a nuestro país ha ocupado, como era de esperarse, titulares de medios de prensa y ha despertado interés en fieles y en quienes no lo son. Interés sobre su posible agenda, qué lugares visitará, recuerdos de quienes vivieron las visitas de Juan Pablo II en la década del 80 y hasta escenas icónicas de nuestro cine como las de El baño del Papa, de César Charlone y Enrique Fernández.
Con menos repercusión mediática, pero sobre un tema que tiene más impacto en nuestras vidas que su propia visita, el Papa León XIV publicó hace unas semanas su Carta Encíclica Magnifica Humanitas, en la que abre un debate sobre las nuevas tecnologías, la relación que tenemos con la inteligencia artificial (IA) y la forma en que repercute en nosotros.
En principio podría pensarse que las novedades del desarrollo tecnológico no serían asunto de una institución como la Iglesia Católica, sin embargo, el proceso de transformación en curso amerita una discusión que nos debemos como sociedad. No estamos solamente frente a una nueva tecnología o proceso productivo, estamos frente a una revolución tecnológica que implica cambios en cómo organizamos la vida, una transformación social que genera nuevas jerarquías sociales y nuevas instituciones que centralizan los procesos de producción y acumulación.
En uno de los primeros capítulos de su encíclica, el Papa afirma que estas nuevas tecnologías “dan a quienes tienen el conocimiento, y sobre todo el poder económico para explotarlo, un dominio impresionante sobre el conjunto de la humanidad y del mundo entero. […] El poder tecnológico adquiere así un rostro inédito, predominantemente ‘privado’, y por ello aún más difícil de discernir, gobernar y orientar hacia el bien común”.
Hoy las grandes tecnológicas están generando un nuevo poder infraestructural privado y disputando este poder con los Estados como no se había visto en ningún otro momento de la historia. Algunas de esas empresas surgieron disputando el papel del Estado en el control del dinero; hoy otras disputan el monopolio del Estado en el uso de la fuerza, desarrollando armas de guerra capaces de definir sobre la vida y la muerte. Si todo queda controlado por una empresa que conduce nuestro tránsito en la vida, ¿quién define nuestra forma de organizarnos como sociedad?
Sobre este aspecto, León XIV dice: “Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades”.
No estamos solamente frente a una nueva tecnología o proceso productivo, estamos frente a una revolución tecnológica que implica cambios en cómo organizamos la vida, una transformación social que genera nuevas jerarquías sociales y nuevas instituciones que centralizan los procesos de producción y acumulación.
No se trata de negar el avance tecnológico, sino de direccionarlo en un sentido que no profundice las desigualdades. Tal poder, fuera del debate y control público, implica procesos de despolitización de lo común.
La encíclica lo dice así: “En un contexto donde la riqueza de las naciones depende cada vez más de conocimientos y tecnologías, cuando estos bienes quedan concentrados en las manos de unos pocos, sin adecuadas formas de intercambio y de acceso, se crea un nuevo desequilibrio que contradice el destino universal de los bienes y alimenta la brecha entre incluidos y excluidos, […] Por eso es indispensable que el uso de la IA —sobre todo cuando involucra bienes públicos y derechos fundamentales— esté acompañado de criterios claros y controles efectivos, inspirados en la participación y la subsidiariedad”.
Esto nos interpela sobre cómo introducimos el uso de la IA para la aplicación de políticas públicas. ¿Aplicamos de forma fetichizada una IA sin importar lo que pase atrás? ¿Sin tener en cuenta los efectos que tiene en la sociedad, sus sesgos, impactos ambientales y los cambios en la forma en que pensamos la educación, el acceso a la salud o el mundo del trabajo?
Normalmente hablamos de “procesamiento de datos en la nube”, pero no hay nada más terrenal que esa “nube”: son centros de procesamiento de datos, bien instalados en la tierra, cuyas dimensiones son cada vez más grandes, y que necesitan mucha energía y tierras raras para funcionar.
Cuando hablamos del impacto ambiental de las nuevas economías digitales debemos discutir toda la cadena de esa industria digital, porque la economía digital es bastante extractivista: de nuestros datos, pero también y, esencialmente, de recursos naturales. Cómo se obtienen esos recursos también impacta sobre el territorio, las comunidades y quienes trabajan allí. Volvemos a coincidir con el Papa: “En el mundo de la IA nada es inmaterial o mágico. […] En algunas regiones del mundo, adolescentes y niños trabajan en condiciones peligrosas en la trituración de los materiales de los que se obtienen las tierras raras. Cuerpos marcados, mutilados, consumidos para que el flujo de los cálculos no se interrumpa. […] La lucha contra las nuevas formas de esclavitud constituye una prueba de fuego decisiva para el discernimiento ético de la IA y la transformación digital”.
Uruguay tiene en este aspecto un marco excepcional y particular, una ventaja que nos diferencia de otros países, particularmente de la región: empresas públicas robustas, con la fortaleza de ser parte de esta revolución tecnológica desde el Estado. El Estado no participa como un mero ente regulador y externo: es parte e impulsor de una política de innovación y desarrollo, por lo tanto, nuestra acción debe ser otra que la de solo reducir costos de un proceso productivo.
Como siempre, hay que ir más allá de la superficie para entender los impactos. En este sentido, la encíclica introduce el concepto de “desarmar” la IA: “Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida. […] No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea”.
En estos momentos el mundo debate sobre la regulación de la IA. En esta discusión debemos construir una visión de soberanía digital —que no implica aislarnos del mundo, sino adaptar las soluciones a nuestra medida—, construir alianzas regionales que nos permitan pensar en soluciones adaptadas a nuestras problemáticas e introducir como región estas discusiones en los organismos internacionales.
Entonces, ¿para qué sociedad promovemos la innovación? La discusión de qué sociedad queremos construir no puede ser evitada, y tiene que ser amplia y profunda. Los anuncios de esta época exigen que arriesguemos posiciones, que desafiemos verdades arraigadas, porque el escenario distópico u optimista va a depender en gran medida de las acciones que seamos capaces de tomar ahora. En esto debemos volver a mirar nuestra historia como país: fuimos ejemplo de innovación en la construcción de nuestro Estado, y nuevamente debemos construir, dialogar e innovar en la forma en que nos paramos ante un nuevo tiempo. Este tiempo nos llama a innovar, no solo desde lo estrictamente tecnológico: innovar en cómo vamos a pensarnos como sociedad. No nos podemos dar el lujo de pensar que el Estado no tiene que estar presente, pero tampoco nos podemos dar el lujo de pensar que el Estado lo tiene que resolver todo.
En el Fedro, Platón le hacía contar a Sócrates una historia del antiguo Egipto: el dios Theuth —que había inventado la escritura— se la presentó al rey Amón. Theuth le decía que la escritura iba a hacer más sabios y memoriosos a los egipcios; pero el rey le respondió lo contrario: que la escritura nos iba a dar la idea de que sabemos, sin saber de verdad, y que iba a atentar contra la memoria, que era la principal tecnología del conocimiento.
En ciertas condiciones, “la innovación puede convertirse en aliada de un trabajo más seguro, más creativo y más digno; cuando faltan, tiende a transformarse en una aceleración de la injusticia”. Por eso es necesario politizar su discusión.
Cada vez que las tecnologías, en particular las de la información y el conocimiento, tuvieron un salto, tuvimos miedo; ahora también, y tenemos que tener la osadía de, frente al miedo, generar nuevas respuestas. Volviendo al Papa: “Pensar que las nuevas tecnologías beneficiarán automáticamente a todos significa ignorar una evidencia: si no se gestionan las transformaciones fijando como objetivo prioritario, desde la fase de planificación, la prevención de nuevas y mayores desigualdades, el progreso tecnológico genera automáticamente desigualdades estructurales. Hoy la justicia pasa también por el acceso a los beneficios de la innovación: cuidados, conocimiento, herramientas y oportunidades”. Cuando se separa la innovación de su dimensión social queda encandilada por lograr unicornios, o hechizados por los cantos de Silicon Valley. La pregunta sigue siendo qué sociedad queremos y cómo nos proponemos alcanzarla.
Pablo Álvarez es vicepresidente de Antel.