El filósofo y escritor francés Éric Sadin es el principal referente en el mundo del pensamiento crítico sobre los impactos de la tecnología en la sociedad y la vida cotidiana de los individuos. Autor de varios libros traducidos al castellano y editados por Caja Negra, desde fines de 2022 está especialmente preocupado por el vertiginoso desarrollo de la inteligencia artificial (IA) generativa, que, según su análisis, tendrá impactos sumamente negativos en varios niveles, como las capacidades intelectuales y creativas.
La semana pasada estuvo en Montevideo y llenó el aula magna de la Universidad Católica del Uruguay para una charla sobre el tema, organizada por la Alianza Francesa y la Embajada de Francia. Traducción mediante, en su estadía en Uruguay se hizo un lugar en su agenda para dialogar con la diaria sobre sus principales preocupaciones.
Ha mencionado que la popularización de la IA representa un hito. ¿El común de la gente está al tanto de la magnitud del cambio que estamos viviendo?
Se habla mucho de IA, especialmente desde principios de la década de 2010 y aún más desde el sismo social, cultural, civilizacional que tuvo lugar el 31 de noviembre de 2022 con la puesta en línea del Chat GPT. Se dicen muchas cosas vagas y hay mucha confusión. Si les preguntamos a algunas personas qué es la IA, es posible que haya muchas definiciones distintas o que algunas no sean ni siquiera capaces de contestar.
Lo que tenemos frente a nosotros es un cambio de estatuto de las tecnologías digitales, que ya no están destinadas únicamente a la colecta y al almacenamiento automatizado, a la indexación y a la manipulación con distintos fines de la información. Después de la primera década de este siglo apareció otra rama de las tecnologías digitales a la cual se le dan otras funciones y, tengo ganas de decir, otra misión. Es la de traer una pericia de la realidad, una interpretación automatizada de los fenómenos reales que vienen a tener una visión de experto sobre la realidad, cada vez más en tiempo real.
Voy a dar un ejemplo: la aplicación Waze, que Google compró, lo que hace es periciar en tiempo real el estado del tráfico, recaudando una cantidad de información que ningún ser humano podría recaudar. Trata, analiza e incluso revela fenómenos que hasta este momento eran ignorados por nuestra conciencia. Pero no solamente es eso, y ahí vamos a ver la gravedad de lo que está en juego. Waze no sólo pericia en estado real, sugiere tomar un itinerario y no otro. Por primera vez en la historia de la humanidad y en la historia de las tecnologías hay sistemas que nos indican cómo hacer las cosas. Es lo que llamo “el giro injuntivo” y se pueden imaginar la dimensión que estos sistemas injuntivos pueden tener a nivel jurídico y político.
¿Qué otros niveles operan?
Son niveles que siempre van a ver una presión que va aumentando y que operan sobre la decisión humana. El nivel incitativo es para los individuos, por ejemplo, además de tomar un camino o no, estos dispositivos aconsejan tal o tales o vacaciones. Hay otro nivel, que es un segundo tipo de presión, sobre los sectores de la vida colectiva, al cual llamé “nivel imperativo”. Por ejemplo, el campo del reclutamiento [de empleo] es un fenómeno que pasa desde hace dos o tres años y es cada vez más generalizado. Se ven agencias de reclutadores que publican candidaturas. Para un puesto, por ejemplo, hay 14 candidatos y los llaman para que dialoguen con chatbots o videobots. Vienen a ser los que evalúan las competencias de los candidatos, con criterios de los cuales no sabemos mucho. Suponemos que es la mayor productividad, la mayor lucidez, la mayor capacidad de someterse a programas predefinidos. En 2024 vemos a seres humanos de carne y hueso evaluar a los cuatro candidatos que quedan. Como hablamos de tecnologías que se están sofisticando sin parar, ya podemos suponer que en 2027 o 2028 la automatización va a ser integral para todo el proceso de reclutamiento. Esto significa que la IA es una palanca para la automatización de los asuntos humanos que va creciendo sin parar.
La presión sobre la decisión humana es uno de los puntos de los cuales se habla demasiado poco y quizás mi trabajo sea simplemente subrayar cosas que he visto y tengo que decir, más allá de los intereses privados y de las visiones utilitaristas del mundo. Hay un tercer nivel que es muy complejo y opera en campos como la medicina, el nivel prescriptivo. Lo vemos desde hace años en la industria, que vende sistemas de diagnóstico automatizado que no sirven para nada y, sin embargo, desde la covid-19 vimos que lo que precisamos en los hospitales públicos no son diagnósticos sistematizados, como si los médicos sólo cometieran errores, sino que lo que hace más falta son enfermeros, material, calidad de atención.
El último nivel, que es de una gravedad tremenda y es algo de lo que no se habla nunca, es la dimensión injuntiva, porque donde se desarrolla y se explota el sistema de IA es en nuestras vidas cotidianas. Estoy hablando del mundo del management, del mundo del trabajo. Siguiendo formas múltiples, pero cuya cúspide se inscribe en el mundo de la logística, en particular en los almacenes de Amazon, que hace que los obreros y funcionarios se equipen con sensores dentro de los almacenes y sistemas de IA son los que los van a ubicar. Les dan las órdenes de ir a buscar tal artículo en tal lugar, para entregarlo en tanta velocidad en otro lugar. Es una decadencia infernal que reduce a seres humanos a ser robots de carne y hueso. De acá a unos años esas personas simplemente serán sustituidas por robots, dotados de facultades kinestésicas.
¿Se escucha hablar a un solo legislador de eso y decir que es indigno, inhumano e inaceptable? Nunca. Nosotros todos mantenemos ese sistema a través del e-commerce. Todo esto de lo que hablamos es lo que yo llamo “la dimensión cognitiva y organizacional de la IA”. Desde fines de 2022, con la publicación del Chat GPT, todo va tan rápido que pasó algo muy importante y a la vez muy grave. Es lo que llamo “el giro intelectual y creativo de la IA”. De ahora en adelante, estos sistemas pueden encargarse de tareas que hasta ahora movilizaban nuestras facultades intelectuales y creativas. No sé si se ve la gravedad y las consecuencias sociales y civilizacionales.
Ha hablado de varias consecuencias negativas de la IA: en el lenguaje, en la capacidad creativa, en la mercantilización de la vida. ¿Qué consecuencias deberían preocuparnos más?
Hay varias consecuencias que nos deberían preocupar a todos, pero casi no nos preocupan, porque hay discursos que vienen de arriba, que hablan en lugar nuestro y son conducidos por intereses. Muchos expertos son a la misma vez juez y parte. Las primeras consecuencias de la dimensión cognitiva e intelectual de la IA pasan por la mercantilización integral de la vida. Se interpretan los comportamientos importantes y un sistema automatizado te sugiere hacer esto o lo otro, eso todo el tiempo.
La segunda es la de instaurar una sociedad hiperracionalizada, con la fantasía de evacuar el más mínimo de los defectos. Es completamente loco, estamos en un momento psiquiátrico, pero no nos damos cuenta. Esta ideología, que yo llamo “siliconiana” –del Silicon Valley–, consiste en que el mundo está hecho con defectos y que la base de esos defectos somos los seres humanos, pero hay un milagro, que son las tecnologías que a velocidad exponencial van a borrar todos los defectos de la sociedad. Es una visión higienista.
¿Cómo analiza la publicación del Chat GPT a fines de 2022?
En las semanas y los días que siguieron vimos cantidad de individuos decir que el Chat GPT es extremadamente increíble, y lo es. Con una simple instrucción, lo que se llama prompt en inglés, el sistema produce texto o un pseudoidioma. ¿Pero qué dijeron esas mismas muchedumbres? Ellas hablaban más de progreso, yo le llamo “desarrollo”, para que sea lo más parecido posible a un lenguaje humano. Ahí está el gran error, que nos va a llevar muy lejos. Hay que ir a ver cómo funciona.
Estos sistemas van a ingurgitar con una voluntad totalizadora todos los corpus que existen desde siempre, las bibliotecas, todo lo que está digitalizado es ingurgitado. En vista de someterlos a análisis estadísticos, a tratamientos matemáticos, a esquemas lógicos, en vista de sacar reglas del lenguaje, pero sobre todo están sometidos a acordarse de ecuaciones probabilísticas. Por ejemplo, en Whatsapp escribo y con base en análisis estadísticos la aplicación propone la palabra siguiente, eso es probabilístico. El sistema funciona con esquemas por correlación: si hay A hay B, si hay A y B tenemos a C. Es la arquitectura lógica.
La manera en la cual los seres humanos nos relacionamos con el lenguaje está totalmente en las antípodas. Se parece, pero está en el opuesto. Cuando en la infancia aprendemos el lenguaje, nos integramos a las reglas de gramática, de ortografía, aprendemos cómo se construyen las frases. El del lenguaje es un proceso de reapropiación singular, individual, subjetivo, a partir de un legado común. Podemos hablar de legados, en plural. Hablamos en primera persona, con nuestra cultura, nuestra historia, la educación que recibimos. No sé qué palabra voy a decir en un segundo, porque no tenemos una relación probabilística con el idioma sino indeterminista, ahí está la libertad humana.
El lenguaje, tanto hablado como escrito, es en los flujos del presente, un invento permanente, un encuentro permanente entre el legado y la libertad singular de cada uno. No funcionamos para nada en términos de correlación, funcionamos por asociación. La asociación es la libertad de poder elegir palabras. Eso es la subjetividad: un ser absolutamente singular que hace sus propias asociaciones. Un sistema hace correlaciones. Significa que solamente pasa lo que tiene que pasar. Es una pesadilla.
Por un lado, tenemos un idioma esquematizado e industrializado. A partir de ahora producir textos va a generar beneficios para una industria, lo que yo llamo un “capitalismo lingüístico”: un pseudolenguaje, industrializado, esquematizado, que tiene olor a muerto.
Sin embargo, el Chat GPT tuvo mucha aceptación en la gente.
Dijeron: “Qué cool que es el Chat GPT, qué práctico”. El utilitarismo que está en obra en nuestras sociedades desde hace más de un siglo se ha vuelto la norma de una forma tal que llegó a infiltrar nuestros cerebros, que se enfermaron mucho. A partir del momento en el que se empezó a producir ese lenguaje muerto, en vez de prever las consecuencias civilizacionales, la gente sólo piensa en sus propios intereses y cree que es cool y práctico, cuando la primera consecuencia civilizacional es que dentro de tres o cuatro años los niños se van a empezar a preguntar para qué van a la escuela. Si yo pido y el sistema hace, ¿a qué voy a la escuela? ¿A aprender gramática, ortografía, sintaxis? Si con un solo prompt hay sistemas que van a producir texto. ¿Lo vemos venir? No.
Al ser humano le cuesta entender los fenómenos en el presente, porque estamos en el utilitarismo y siempre nos damos cuenta con el tiempo. Por ejemplo, en Escandinavia, donde hace diez años operó una digitalización de manera forzosa de la escuela pública. Con expertos, con lobby, y diez años más tarde están volviendo para atrás. Se dieron cuenta de que fueron demasiado rápido, de que se perdió la lectura profunda y atenta, de la cual se sabe la importancia que puede tener para el desarrollo de la inteligencia en los niños y el ser humano. Las tablets son totalmente evacuadas de los colegios, reconocen un error colectivo, que en un momento fue un fundamentalismo de la transformación digital de la escuela pública.
En 2014, el presidente de Francia, François Hollande, hizo una intervención en la televisión y dijo que a partir del año siguiente en los liceos todos tendrían una tablet. Le pregunté a mis amigos profesores, no había ningún estudio de impacto, ninguna formación. Lobby. Y el mismo día hice una columna que está en línea, tiene diez años. En aquella época decían que Éric Sadin quería volver a las cavernas. La venganza es un plato que se sirve frío, se dice.
La IA generativa, este pseudolenguaje esquematizado, cada vez más va a ocupar nuestro espacio simbólico. Va a tener una relación con un lenguaje que cree que es humano, pero es esquematizado. Imaginemos lo que puede ser ese ambiente homogéneo: glacial. Lo que significa la correlación es la conformidad, y quien habla de conformidad habla de conformismo. La asociación no es la conformidad, es la singularidad. Sabemos que los prompt son cero esfuerzo. Aceptamos cero esfuerzo.
Veo el desierto que está llegando. Una frase del personaje principal de Viaje al fin de la noche, de [Louis-Ferdinand] Céline, va a abrir mi próximo libro sobre las IA generativas: “Yo, la vi venir a la catástrofe”.
También se crearon aplicaciones para generar imágenes con IA.
Vimos el año pasado imágenes del papa Francisco con un camperón, más recientemente los deepfake de [Joe] Biden que llamaba a los electores de New Hampshire a no votar o de la cantante Taylor Swift en películas pseudopornográficas. Es muy grave lo que va a pasar. Entramos en un mundo donde no sabemos ni cuál es el origen ni la naturaleza de la imagen. Va a entrar un régimen de la indistinción generalizada. Tenemos que poner en manos de todos los individuos herramientas que van a crear opacidad y van a aumentar la distancia entre las personas, van a conducir a las personas a no confiar y alejarse de la percepción de los demás. Vamos hacia un mundo en el que se puede jugar con la percepción del otro. Eso es muy grave, porque la sociedad no son solamente principios comunes, también son referentes comunes. Si no hay eso, no nos entendemos más.
En vez de ver la gravedad de lo que está pasando y, como propuse en diciembre de 2022, prohibir las IA generativas, los legisladores dicen: “Vamos a pagarles a quienes tienen los derechos de autor”. Ese no es el tema, el tema es ver la gravedad que se aproxima. Nos vamos a dar cuenta con las elecciones que lleguen, las elecciones europeas, norteamericanas, en los años que vienen vamos a ver cada vez más que este régimen de la indistinción generalizada va a crear problemas sociales de un nuevo tipo.
Una gravedad del mismo nivel es el huracán que se avecina sobre una gran cantidad de oficios. Hablamos del giro intelectual y creativo de la IA, y lo podemos ver en algunos países, en aquellos que son los más “desarrollados”, que más de las dos terceras partes de los empleos están en el sector terciario, el de los servicios. Aquellos que en su mayoría movilizan nuestras facultades intelectuales y creativas. Son sistemas que pueden asegurar esas tareas de manera mucho más rápida que nosotros, que pretenden ser más fiables y más baratos.
El 30 de noviembre de 2023, primer aniversario de la puesta en línea del Chat GPT, [el cofundador de la empresa OpenIA], Sam Altmann, dijo en Silicon Valley, ante muchedumbres que lo adulaban: “El año que pasamos fue exitoso, pero no es nada en comparación con lo que se viene”. Y anunció lo que venía: superasistentes que en todos los campos de la vida nos van a dar información sobre todo lo que hay que hacer.
Es un fenómeno capital de nuestro tiempo, que no vemos, es que es el final del dogma schumpeteriano, de Joseph Schumpeter, que había teorizado a principios de los años 50 sobre el concepto de “destrucción creativa”. Los desarrollos tecnológicos llevaban a destrucciones de empleo, pero de alguna manera más o menos mecánica y, sobre todo, orgánica, organizaban transferencias hacia otros oficios, en particular de servicio. En este caso, se trata de empleos de alta competencia cognitiva, que muchas veces necesitan largos años de estudio, tareas que producen también placer, crean fenómenos de sociabilidad, de reconocimiento. Hacemos como si todo eso no tuviera casi importancia. Lo que pasa con la IA es que es el final del dogma schumpeteriano, porque la reserva de nuevos empleos no existe. Es cero. Sin embargo, nuestros esquemas conceptuales, sobre todo aquellos de los responsables políticos, son que seguimos viviendo al interior del dogma schumpeteriano.
No voy a hablar de que creemos equivocadamente que la regulación va a ser el freno a lo peor de lo peor. Nos equivocamos, porque en general el legislador no entiende nada, son tecnócratas los que hacen sus dossiers, impulsados por el lobby y una doxa económica.
¿Por dónde pasa la salida, entonces?
Por lo que pasó a partir de mayo de 2023 en Hollywod, protagonizado por los guionistas. Se movilizaron porque las IA muy pronto van a ser capaces del giro intelectual y creativo, de producir guiones. No esperaron al legislador, lo que solamente hubiera entreverado el tema para llevarlo finalmente al matadero. No, se movilizaron porque veían llegar lo que viene y no querían ser sustituidos. Tenemos oficios que nos dan placer, que nos hacen ganar nuestra vida, hacemos trabajar nuestra imaginación. Hubo cierta valentía, determinación. La huelga duró hasta setiembre y consiguieron por ahora ganar. ¡Bravo! Es una sociedad que se mueve.
Estuve hace poco en Santiago de Chile y el rector de una universidad me preguntó qué hacer con la IA. Se me vino la imagen de los guionistas. La corporación de la universidad, los consejos de rectores, pero también los consejos de estudiantes, deberían reunirse a escala nacional y a escala internacional para decir a lo que estamos dispuestos y a lo que no. Todos los oficios que movilizan las facultades intelectuales y creativas deberían movilizarse a partir de sus principios. La hora de la ingenuidad debe terminar.
En este mundo tan dominado por disciplinas como la ingeniería o la economía, ¿cuál es la importancia de la filosofía y las humanidades?
Diría que es muy importante. ¿Cuál es el lugar del análisis clínico y preciso de las cosas? Fuera de los tecnodiscursos, de personas que son conducidas por intereses. Más allá de una doxa que se ha vuelto mayoritaria, lo que llamo “el fundamentalismo de la IA”: el discurso de lo inevitable, que es el nuevo horizonte económico. Si entendemos por “filosofía” análisis preciso, sin interés privado, que acompaña los principios fundamentales como el respeto, la celebración de la libertad, de la integridad, de la dignidad humana, también del ejercicio de nuestras facultades, de la celebración del genio que existe en cada uno de nosotros, y también de la celebración de las relaciones sociales entre individuos y de la sociabilidad; si llamamos filosofía a eso, que es lo que intento hacer, creo que hay que ampliarlo a un deber que nos incumbe a todos. Ser menos ingenuos.
Deberíamos desarrollar herramientas clínicas, de análisis precisos que se apoyan en una sola cosa, los principios fundamentales que nos animan. En eso podemos estar de acuerdo, si algo es aceptable es porque respeta esos principios. Eso es lo que nos tendría que guiar.
Ahí es que se equivoca el regulador, siempre en el interior de la eterna ecuación entre riesgo y ventaja. Lo que hace exactamente la ley de la Unión Europea sobre IA es determinar una escala de riesgos, que no evocan ninguno de los principios que acabo de mencionar. Únicamente están determinados para sostener la economía digital y tranquilizar a las muchedumbres. No es a partir de esa ecuación de riesgo y beneficio que hay que determinar, es más bien otra ecuación, que también teoricé: dónde tenemos el control y dónde no lo tenemos. ¿Tenemos control sobre Amazon? No, somos juguetes del sistema que determina nuestros gestos. Eso es inaceptable. ¿Respeta la libertad y la dignidad humana? Eso debería determinarnos. Los sistemas de IA de hoy permiten desarrollar nuevas moléculas farmacéuticas o nuevas formas de aerodinamismo en la aeronáutica. No hay ningún problema, porque tenemos el control ahí.
El drama es que soy el único en decir todo esto. No obstante, verás que dentro de un año las calles se van a mover. En el momento en el cual no paramos de festejar lo vivo, nos damos cuenta de que la causa de unas cuantas catástrofes está en la base, debemos preocuparnos de respetar lo vivo que hay en cada uno de nosotros. Escribir, tener una relación, crear una imagen, las relaciones sociales y el trabajo que hacemos en común se inscriben dentro de lo vivo. La condición inicial es defender y celebrar lo vivo que está en nosotros y de lo cual todo el resto depende, en particular lo vivo de los elementos. Es una condición totalmente indisociable e indispensable que tiene la defensa de nuestra propia parte viva y celebrarlo. Es una condición indispensable para la defensa de lo vivo, que es la de los elementos de la tierra y la biosfera, eso hay que entenderlo.