La IA según León XIV: Frankenstein nuestro de cada día

Editar

Independientemente de si se es creyente, agnóstico o ateo, las palabras del papa León XIV deberían, por lo menos, llamarnos la atención. No por la ideología que subyace a su pensamiento, sino por lo que evoca con su reflexión y por la agudeza con la que describe algunos fenómenos que no por cotidianos dejan de ser preocupantes y, sobre todo, por la figura que representa quien las dice. Así, en el capítulo III de su Encíclica, titulado Técnica y dominio: la grandeza humana ante las promesas de la IA, León XIV parte de la imagen de la Torre de Babel y de las ruinas de Jerusalén y su reconstrucción gracias al esfuerzo colectivo,¹ para sostener: “Estamos llamados a interrogarnos sobre el gran proyecto de nuestra época: ¿Qué estamos construyendo? [...] No se trata de una decisión sobre nuestro futuro, sino sobre nuestro presente, porque la IA y las demás tecnologías emergentes ya son parte de nuestra vida cotidiana” (Párrafo 90) e inmediatamente aboga por una sociedad más humana y fraterna en la que se pueda interpelar la realidad.

A lo largo de este capítulo y de los capítulos precedentes, León XIV no dice nada nuevo, al menos nada que teóricos como Yuval Noaḥ Harari, Byung-Chul Han u otros no hayan argumentado antes con ahínco y firmeza. La imagen negativa de la inteligencia artificial (IA) puede conducirnos casi inmediatamente a la imagen de la criatura del Dr. Frankenstein. En ambos casos, tanto en la Encíclica de León XIV como en el libro de Mary Shelley, se presenta como condición de posibilidad el hecho de que nuestra propia creación se vuelva en nuestra contra.

Pero esta lectura crítica de la realidad no es novedosa. De hecho, en la década de 1970 surge el concepto de “síndrome de Frankenstein”, vinculado tanto a los movimientos sociales y las protestas de las décadas de 1960 y 1970 como al desarrollo teórico en los incipientes estudios sociales de la ciencia. En ambos casos se procuraba revisar el lugar otorgado a la investigación científico-tecnológica en la sociedad de posguerra. En este caso, el peligro había sido constatado empírica y directamente a través del desarrollo científico-tecnológico de los períodos de guerra y posteriores. El daño y el peligro inminente eran evidentes y tangibles. Quizás por esto mismo, es a partir de entonces que se insiste en la necesidad de que la ciencia y la tecnología no sean concebidas como actividades autónomas y que requieran controles externos que orienten los fines que se persiguen. Avance científico-tecnológico, sí, pero no a cambio de cualquier cosa. A partir de entonces, tanto a nivel social como teórico la visión ingenua sobre la ciencia, la tecnología y su desarrollo fue paulatinamente sustituida por una imagen de la ciencia y la tecnología como actividades sociales e históricamente situadas en las que intervienen no solo intereses epistémicos, sino también, y sobre todo, intereses económicos y políticos.

Entender la ciencia y la tecnología como actividades sociales supone virar el eje del análisis teórico sobre estas. Más allá de los pormenores históricos y teóricos detrás de este desarrollo, conviene subrayar que los estudios sociales sobre la ciencia insisten, entre otras cosas, en la necesidad de contar con políticas públicas que colaboren con una ciencia y una tecnología más accesibles y más transparentes. Esa cuestión no solo supone el desarrollo de políticas en ciencia y tecnología, sino también requiere el desarrollo de políticas educativas orientadas al desarrollo de ciudadanos científicamente cultos y maduros capaces de reflexionar críticamente sobre su realidad, sobre los avances científicos y tecnológicos tanto en términos de potencialidades como de perjuicios. En suma, en los 80, hacer la ciencia y la tecnología “más social” y la sociedad “más científica” era una tarea netamente política.²

¿Qué sucedió en este tiempo? Si bien han sido varios los intentos implementados por distintos países en favor de la democratización de la ciencia y la tecnología, tanto en su orientación como en su uso, el impulso de los 80 se vio opacado por el desarrollo científico-tecnológico de los 90 y los 2000. El avance científico y, sobre todo, tecnológico de los últimos 30 años ha transformado sustancialmente la realidad que nos rodea, otorgándonos cada vez más y más conocimiento, tecnologías y artefactos que hacen nuestra vida “más sencilla”. La sobrenaturaleza de la que hablaba Ortega y Gasset en la década de 1930 se ha materializado en tecnologías de la comunicación, en algoritmos y en agregados que han potenciado y sustituido la capacidad humana.

En principio no podemos decir que esto sea necesariamente perjudicial para la humanidad; no obstante, valiéndonos de la historia reciente, parecería sensato adoptar una posición más cautelosa con respecto al desarrollo de la ciencia y tecnología en general y al desarrollo de la IA en particular. Tomar una posición más cautelosa también con el vínculo que hemos construido con estos nuevos artefactos. Esta cuestión también es señalada por León XIV en el párrafo 94 de su misiva al señalar que “si el desarrollo tecnológico avanza sin una adecuada maduración ética y social, puede suceder que aumenten los medios sin que crezca en la misma medida la humanidad”. Pero ¿qué tan cerca o lejos estamos de alcanzar esta madurez? ¿En qué medida somos conscientes de nuestra vulnerabilidad ante las tecnologías que nos rodean? ¿Qué tanto sabemos de los sistemas algorítmicos de las tecnologías y plataformas que utilizamos a diario? ¿Qué lugar le damos en nuestra vida cotidiana y profesional? En suma, ¿qué tan críticos somos del uso colectivo e individual que hacemos de estas tecnologías?

No son pocos los teóricos que sostienen que, en las relaciones de poder, el primer paso para escapar al yugo de la opresión de cualquier fuerza es reconocer la condición de oprimido y las relaciones que se dan con el opresor.³ Para que esto sea posible, esto es, para que el oprimido logre escapar de su condición, son necesarias al menos dos cosas. Primero, es necesario tomar conciencia de la propia condición y, segundo, poseer un pensamiento crítico que permita lo anterior. Esta cuestión parece alejarse considerablemente de nuestra realidad marcada por discursos distorsionados, alterados y orientados a la manipulación de las personas en favor de intereses particulares.⁴ Las tecnologías vinculadas a la comunicación y los algoritmos que subyacen a su funcionamiento favorecen la endogamia cognitiva que conduce a la construcción de cámaras de eco y, con eso, la eliminación del espacio común como un espacio de encuentro, de reflexión y de crítica. No es novedad que la psicología y su conocimiento sobre cómo nos comportamos sirven de fundamento para el diseño de los algoritmos y son estos los que orientan qué vemos, con quiénes interactuamos y con qué porción de la realidad lo hacemos.⁵ Cada uno vive inmerso en su realidad, ve lo que quiere ver y recibe lo que quiere recibir, vivimos en un sistema en donde el pensamiento lento y crítico están fuera de moda.

En esta misma línea, nuestra realidad, tal como se señala en la Encíclica, es una realidad en la que el control digital y de las plataformas que concentran la mayor parte de la información y conocimiento de nuestro día está en manos de intereses privados. Los estados, en este nuevo escenario tecnocientífico, han perdido terreno en materia deliberativa, de gestión y de poder, al punto de que en muchos casos las empresas poseen más poder que los mismos países en los que estas se desarrollan. Lejos ha quedado esa utopía de los 70 de hacer la ciencia y la tecnología más transparente; de hecho, tal como lo señala muy acertadamente Han en su texto Infocracia, la sociedad de la transparencia es todo menos transparente. La sociedad actual, denominada “sociedad del cansancio”, está dominada por una psicopolítica en la que los individuos nos vemos obligados a ser transparentes por dispositivos opacos, de los cuales sabemos muy poco. Ahora, a diferencia del período de posguerra, el peligro parece no ser tan evidente, así como tampoco parece ser evidente que la IA eventualmente pueda constituirse como un peligro real.

¿Qué futuro nos queda entonces? El futuro que nos queda es el que estemos dispuestos a construir. La IA no es –haciendo uso de la expresión del argentino Santiago Bilinkis–⁶ inteligencia artificial. La IA es inteligencia humana potenciada; de hecho, el origen mismo de la IA es este: potenciar nuestras capacidades para nuestro propio beneficio. En este sentido, la IA no nos es ajena, es de hecho parte constitutiva nuestra. El ser humano del siglo XXI es, junto con su creación, una unidad continua. Tal como lo adelantaba Ortega y Gasset, la tecnología no es solo obra nuestra, sino parte constitutiva de nuestra propia naturaleza, al punto de que es impensable pensar al ser humano sin esta.

La gran novedad de nuestro tiempo no está entonces en el desarrollo mismo de la tecnología, sino en el tipo de tecnología que hemos desarrollado. Por primera vez en la historia, sostiene Harari, hemos desarrollado un dispositivo que puede prescindir de nosotros para su funcionamiento. ¿Somos conscientes de ello?

Independientemente de ser creyentes o no, creo que la encíclica de León XIV es una excelente ocasión para poner sobre la palestra pública una discusión que hace por lo menos un lustro debería haber comenzado. Así, alejándonos de los extremos del tecnooptimismo de Silicon Valley y el tecnopesimismo apocalíptico, parece un buen momento para discutir racional y teóricamente sobre cuál es el camino que queremos seguir con el desarrollo de la IA. No se trata de frenar su desarrollo ni de desmontar la máquina; se trata más bien de favorecer la discusión crítica y fundamentada que dé lugar a una regulación de este tipo de tecnologías. Una discusión que en Uruguay no debería esperar más. Es acuciante discutir sobre los límites y parámetros en los que se desarrollan tecnologías que están transformando nuestra realidad, nuestro trabajo, el modo en que enseñamos y el modo en que aprendemos, las relaciones entre nosotros y, sobre todo, las relaciones de poder.

Así como en la novela de Mary Shelley, el problema no está en la creación del monstruo, sino en haberlo dejado a su suerte. La alternativa es clara. O nos hacemos cargo de nuestra creación y tomamos la responsabilidad del caso discutiendo racional y democráticamente sobre su alcance, sobre sus límites y posibilidades, pero también sobre sus costos y perjuicios, o dejamos que otros decidan por nosotros mientras seguimos maravillados por la criatura.

Karina Silva es doctora en Filosofía y docente. La autora agradece especialmente al doctor Miguel Pastorino por la lectura de una versión preliminar de este texto y por sus sugerencias para su mejora.