¿Quién le teme a ChatGPT? Tercera parte: utilidad y bondad

En una primera entrega sobre inteligencia artificial (IA) generativa consideramos aquella tecnología como una muestra más de la capacidad distintiva de la especie humana de fabricar herramientas. Con un repaso histórico muy breve, intentamos mostrar cómo pasamos de la construcción de artefactos que operaban con objetos físicos a estos que lo hacen con objetos intelectuales. Y cómo comenzamos a aplicar –así como lo hicimos con las leyes de la gravedad, la aerodinámica y otras que configuran el mundo físico– las reglas de la lógica y la probabilidad, para desarrollar herramientas que permiten manipular conceptos.

En la segunda entrega nos ocupamos de una pregunta que razonablemente muchos nos hacemos: ¿estas máquinas piensan? Propusimos, con Alan Turing y desde una perspectiva pragmática, tratar el problema por sus efectos y argumentamos, desde ese enfoque, en favor de una respuesta positiva, aunque sólo respecto de los procesos intermedios del pensar.

Una pregunta aún más crucial se deslizó, sin embargo, en ambas entregas: ¿es buena esta tecnología? A fin de cuentas, ese es el problema principal.

Comencemos este artículo con un pasaje escrito hace aproximadamente 2.400 años. Platón, emulando a su maestro o personaje principal, Sócrates, escribió parte de su obra en forma de diálogos. Sócrates recurría al arte de dialogar, pero no escribía.

“Este invento, oh rey”, dijo Theuth, “hará a los egipcios más sabios y mejorará su memoria; pues se ha inventado como un fármaco de la memoria y la sabiduría”. Pero Thamus respondió: “Ingenioso Theuth, a unos les es dado crear arte, a otros juzgar qué de daño o provecho aporta para los que pretenden hacer uso de él. Fedro, 274. Platón.

En la cita de Platón, el dios Theuth comunica al rey Thamus nada menos que el invento de la escritura. El rey responde al dios presentándole el problema de la determinación de la utilidad y la bondad de su invento. De eso trata esta entrega.

Sentido común

Somos animales lógicos, aunque no perfectos. La lógica es sólo sentido común formalizado y perfeccionado. Y las ciencias no son más que lógica aplicada.

Veamos el problema de la utilidad y la bondad de la IA, en la perspectiva del sentido común.

Una persona se dispone a clavar un clavo. Solicita a otra que le alcance una herramienta para poder hacerlo. La otra persona le alcanza un destornillador. La primera le informa que esa herramienta no sirve para clavar clavos. En este contexto diríamos que es inútil a ese propósito. La primera persona le pide que le alcance un martillo, una herramienta útil para esos fines.

La utilidad no es un atributo de las cosas, sino una condición que vincula las características de la cosa (aquello para lo que sirve) con el propósito de quien se dispone a hacer uso de ella (lo que desea que la cosa produzca en circunstancias específicas).

El componente subjetivo reaparece cuando pasamos a considerar el problema de la bondad. Un cuchillo es útil al propósito de cortar. ¿Es eso bueno o malo? Casi todos coincidimos en que, si el objetivo de cortar es facilitar la ingestión de comida, la respuesta es afirmativa. Si el objetivo es herir a otro ser humano, coincidiremos en que la respuesta es negativa.

La bondad tampoco es un atributo de las cosas. Ni siquiera una consecuencia de su utilidad, dado un propósito. En este caso, es una condición que vincula la utilidad de algo con el resultado de su uso.

Desde esta perspectiva, la IA generativa no es útil o inútil en sí, ni mucho menos buena o mala en sí. Es útil o inútil a determinados propósitos y buena o mala en función de cómo, en determinadas circunstancias, afecta a alguien.

Esa es la primera justificación de la objeción de Thamus a Theuth: no le corresponde al inventor determinar la utilidad de aquello que ha construido, sino a los eventuales usuarios de esa cosa. Mientras tanto, la determinación de su bondad (agregamos nosotros) no corresponde ni al inventor ni al usuario: es prerrogativa del destinatario.

Cuando afirmamos que un juicio de bondad vincula la utilidad con el resultado, estamos pensando en la utilidad para alguien y en el resultado para alguien, y no necesariamente se trata de la misma persona. Apuesto a que los pilotos de los bombarderos Enola Gay y Bockscar, que portaron las bombas atómicas lanzadas sobre Hiroshima y Nagasaki, estimaron útiles los propósitos de su organización, los artefactos que lanzaron. Y estoy seguro de que los habitantes de Hiroshima y Nagasaki, los primeros destinatarios de esos artefactos, consideraron dañino su uso.

Ética de la responsabilidad

Una segunda perspectiva, que no se contradice con la anterior, sino que la amplía, puede explorarse de la mano de Max Weber.

El sociólogo alemán pronunció dos conferencias, como diría en la versión impresa Marianne Weber, esposa y editora de la obra del sociólogo, “por invitación de la Asociación Libre de Estudiantes de Múnich, durante el invierno revolucionario de 1919 […] una juventud recién licenciada del servicio militar y profundamente trastornada por las experiencias de la guerra y la posguerra”.

En La política como profesión, la primera de las conferencias, pasamos del campo individual, justamente, al político. No ya a los asuntos de cada quien, sino a los de la polis. En este contexto sostiene Weber que “toda acción éticamente orientada puede ajustarse a dos máximas fundamentalmente distintas entre sí e irremediablemente opuestas: puede orientarse conforme a la ética de la convicción o conforme a la ética de la responsabilidad”.

La primera aparece nítidamente, por ejemplo, en el “Sermón de la montaña”, en el Nuevo Testamento. Allí se insta a actuar de determinada manera, no por las buenas consecuencias que ese actuar eventualmente tendrá, sino porque lo bueno es el propio actuar de ese modo. “La ética absoluta ni siquiera se pregunta por las consecuencias”, afirma Weber.

“Hay una diferencia abismal entre obrar según la máxima de una ética de la convicción, tal como la que ordena el cristiano obra bien y deja el resultado en manos de Dios, o según una máxima de la ética de la responsabilidad, como la que ordena tener en cuenta las consecuencias previsibles de la propia acción”, continúa. “Cuando las consecuencias de una acción realizada conforme a una ética de la convicción son malas, quien la ejecutó no se siente responsable de ellas, sino que responsabiliza al mundo, a la estupidez de los hombres o a la voluntad de Dios que los hizo así. Quien actúa conforme a una ética de la responsabilidad, por el contrario, toma en cuenta todos los defectos del hombre medio”, dice Weber, agregando que entonces “se dirá siempre que esas consecuencias son imputables a su acción”.

La idea del “hombre medio”, que evoca al homme type de Adolphe Quetelet, marca la diferencia. No se trata de lo que a mí, como usuario, me resulta útil, o de lo que a mí, como destinatario, me parece bueno, sino de una valoración colectiva, y en el mediano plazo, de la utilidad o bondad de una cosa para la sociedad.

Existe entonces, en la perspectiva de Weber, algo que sí le corresponde al inventor, si es que pretende actuar de manera responsable: la consideración de las eventuales consecuencias sociales del uso de aquello que ha creado. El inventor puede asumir esa responsabilidad o no hacerlo. De hecho, y salvando las distancias, puede actuar conforme a una ética de la convicción del tipo no debemos detener, bajo ninguna circunstancia, el progreso tecnológico. El Estado, entretanto, debe hacerlo, siempre que definamos entre sus funciones el velar por el bienestar de sus ciudadanos. Apuesto a que esta era la perspectiva de Thamus, que no habla como un egipcio, sino en tanto rey de los egipcios.

En la primera entrega sobre IA citamos exhortaciones de los propios desarrolladores de esta tecnología a los estados para que asumieran aquel rol. “Pausar experimentos gigantes de IA” debido a que “pueden plantear riesgos profundos para la sociedad y la humanidad” fue una de ellas. Otra fue: “Mitigar el riesgo de extinción [de la humanidad] por la IA debería ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear”. Eso sucedió en 2023, a poco de haberse liberado la versión 3.5 de ChatGPT. En ambas exhortaciones las referencias son colectivas.

Pero el problema de la responsabilidad puede rastrearse hasta los inicios de esta última ola de desarrollo de la IA (en la que nos encontramos actualmente), y las diferencias al respecto han configurado en buena medida la distribución de la oferta de inventores.

En febrero de 2014 Forbes publicó un artículo titulado “Dentro del misterioso Comité de Ética de Google”. Se presenta allí una crónica del proceso de compra por parte de Google de la empresa Deepmind, pionera en el desarrollo de la IA generativa. Los socios de Deepmind pusieron como condición para incorporarse a Google la conformación de un comité de ética que monitoreara los avances en el desarrollo de esta tecnología y evaluara su bondad en términos colectivos. El periodista de Forbes señala que “es justo suponer que la gente inteligente de Deepmind ha reflexionado profundamente sobre la IA y sus implicaciones. La IA es una tecnología muy poderosa que es en gran medida invisible para la persona promedio”. Nuevamente el homme type de Quetelet. Ese comité de ética tardó varios años en convocarse. Y cuando se hizo, resultó un fiasco. Varios de sus integrantes fueron cuestionados debido a los valores que promovían. Otros renunciaron. “Google cancela su Comité para regular la Ética de la Inteligencia Artificial tan sólo una semana después de su creación” es el título de un artículo de Business Insider, publicado en abril de 2019, en el que pueden consultarse los detalles.

Algo similar sucedió con OpenAI, madre de ChatGPT. En 2021 los hermanos Dario y Daniela Amodei abandonaron la empresa para fundar Anthropic. Dario lideró el desarrollo de los modelos GPT-2 y GPT-3 de OpenAI. En otro artículo de Forbes, esta vez de enero de 2024, se insiste con que “la inteligencia artificial representa un peligro real y presente para la sociedad. Los modelos de lenguaje de gran tamaño como ChatGPT pueden exacerbar las desigualdades globales, convertirse en armas para ciberataques a gran escala y evolucionar de maneras que nadie puede predecir ni controlar”. En el artículo se reporta el proceso que llevó a los hermanos Amodei a abandonar OpenAI, destacando como principal motivo “la falta de atención que OpenAI prestó a la seguridad, la responsabilidad y la controlabilidad en el desarrollo de los chatbots de OpenAI, especialmente a raíz de la inversión [...] de Microsoft en OpenAI”. Anthropic, con su modelo Claude, se presenta actualmente como un serio competidor en el mercado de la IA.

El debate parece contrastar eficiencia con seguridad. Libertad para las empresas en el desarrollo, con regulación. No es un debate reciente. Y todo indica que continuará prevaleciendo, de hecho, la primera postura. No es otra cosa que la advertencia de Max Weber, esta vez en La ética protestante y el espíritu del capitalismo (1905), que luego de la traducción al inglés de Talcott Parsons se conoce como la jaula de hierro. La creciente racionalización y burocratización del capitalismo ha convertido la productividad y el lucro en un fin en sí. No se trata ya de preguntarse eficiente para qué, ya que eficiencia es sinónimo de mayor ganancia. De un modo mucho más directo, Charles Sanders Peirce afirmó en Dmesis(1892) que “el utilitarismo es el espíritu del infierno”.

Tecnolatría

De la mano del oscuro diagnóstico de Weber, podemos ir más lejos.

El primer abordaje considera al individuo en el aquí y ahora. El segundo tiene en cuenta a la sociedad, pero permanece en el presente. O mejor, en el mediano plazo (las consecuencias colectivas futuras de tal o cual acción particular presente).

Hay quienes, sin embargo, han abordado el problema desde una perspectiva más extensa. Entre aquellos, algunos pocos postularon el mal de los avances tecnológicos. No de tal o cual tecnología, no en este momento o aquel otro, sino el mal al que nos conduce un camino que la humanidad viene recorriendo desde hace ya mucho tiempo.

Estoy pensando en dos personajes que conformaron este último grupo. Sus historias personales tienen, en lo que nos ocupa, similitudes. Parte de sus postulados son también similares. No así las consecuencias: sus modos de obrar fueron antagónicos.

El primero de ellos fue argentino. Se formó en física y matemática. Realizó sus estudios de posgrado en París. Trabajó en los laboratorios Curie, de Francia. Por las noches, frecuentaba los bares donde se reunían los surrealistas. Aprendió mucho de energía nuclear y perfeccionó las artes de domesticar esa energía. En un momento se convenció de que la tecnología conduciría a la humanidad a la perdición. El problema, según él, era anterior: la tecnología es sólo ciencia aplicada. El problema es el carácter amoral de la ciencia. Esto también es Weber.

Nuestro personaje abandonó los laboratorios y también París. Finalmente, se instaló en un rancho, sin luz eléctrica ni agua por cañería, en una zona rural de Argentina. Comenzó a cultivar allí la literatura, lo que continuaría haciendo, junto con la ensayística, durante el resto de su vida. Estaba convencido de que sólo el arte podía salvar a la humanidad. Se comprometió en causas políticas, como presidir la Comisión Nacional sobre la Desaparición de Personas durante el gobierno de Raúl Alfonsín. Mantuvo también sus convicciones políticas hasta el fin de sus días.

Estoy intentando una brevísima biografía de Ernesto Sabato. Su postura puede leerse en los ensayos que integran el libro Hombres y engranajes. Una fuerte crítica a la ciencia de su tiempo se expone en su artículo “Poderío e impotencia de Einstein”, escrito con motivo del fallecimiento del mayor ícono de la ciencia del siglo XX. En un momento de la larga entrevista que en 1977 le realizó la Televisión Española, afirma Sabato que “la ciencia positiva, y la técnica, permitieron al hombre esta aventura prometeica: la conquista del mundo, la conquista de las cosas. El mundo natural, el mundo externo. Pero a un precio paradójico y trágico: el hombre [...] ha terminado por cosificarse. Él mismo se transformó en cosa. En las sociedades más avanzadas, técnicamente más avanzadas, como la norteamericana y como la rusa, ahí se ve palmariamente. Los jóvenes norteamericanos no se han sublevado por mejores salarios y esto prueba que la crisis nuestra es una crisis espiritual y no económica. Se sublevaron contra el mundo tecnológico y tecnolátrico, la idolatría de la técnica. Contra eso tenemos que reaccionar”.

Reacción. Sabato se afirma seguidamente en esa última idea: “Schopenhauer tiene una frase muy profunda, en la que cita a Nietzsche. Él dice: hay épocas en que el progreso es reaccionario y lo reaccionario es progresista. Hoy levantar edificios de 30 pisos, en Madrid o en Buenos Aires, para que vivan en esos cubículos de cemento armado y de aire acondicionado niños que nunca van a ver el nacimiento de un perro o la forma en que una gallina pone un huevo, o la aparición del Sol y de la Luna, niños que van a ser futuros drogados, niños alienados y tristes, niños que mañana estarán en manos de psicoanalistas, esto hoy no es progreso, hoy es reaccionario. [...] Lo revolucionario es proponer hoy la abolición de los rascacielos. En las comunidades llamadas primitivas, tal vez habría leprosos, dicen que hay muchos leprosos en el África, en Polinesia. Habrá leprosos, pero no hay psicoanalistas. Y yo no sé qué es peor, si leprosos o alienados. La lepra, al fin de cuentas, es una enfermedad física y puede haber grandes espíritus leprosos. La alienación es una enfermedad espiritual y es infinitamente más grave. En fin, esta es la clase de reaccionario que soy yo”.

El otro personaje (tenía dos en mente) nació y vivió en Estados Unidos. Se graduó en Harvard, hizo su maestría y doctorado en matemáticas en Michigan, y durante un corto tiempo fue docente en Berkeley, California. Abandonó también las cómodas instalaciones universitarias para pasar a vivir en una precaria choza de siete metros cuadrados, en una zona rural de su país. Sus padres lo inscribieron en el registro civil como Theodore Kaczynski, pero el FBI lo rebautizó con el nombre de Unabomber. Wikipedia hace honor a su trayectoria al presentarlo como “un terrorista, matemático, filósofo y neoludita estadounidense conocido por enviar cartas bomba”. Consiguió escabullirse del FBI durante 17 años (durante los cuales mantuvo una regular actividad terrorista) hasta que, con una inusual estrategia, consiguió que The Washington Post y The New York Times publicaran un manifiesto de su autoría: La sociedad industrial y su futuro.

“La Revolución Industrial y sus consecuencias han sido un desastre para la raza humana”, comienza Kaczynski. “Han aumentado enormemente la esperanza de vida de los que vivimos en países avanzados, pero han desestabilizado la sociedad, han hecho que la vida sea insatisfactoria, han sometido a los seres humanos a indignidades, han provocado un sufrimiento psicológico generalizado y han infligido graves daños al mundo natural. El continuo desarrollo de la tecnología empeorará la situación”. Lo que sigue es una feroz crítica a lo que hoy llamaríamos izquierda woke, para luego detallar las formas de la indignidad y del sufrimiento psicológico¹. Y proponer, como Sabato, el regreso a las pequeñas comunidades.

Motivos para temer

Tengo sentimientos ambivalentes respecto de la última perspectiva presentada (estoy pensando en la de Sabato, no quiero saber nada con las bombas). Por una parte, comparto sus argumentos y, como muchos de nosotros, he considerado seriamente más de una vez alejarme del mundo tecnolátrico. De hecho, dedico varios de mis días a trabajar la tierra y sus frutos, utilizando herramientas rudimentarias como palas y martillos. Al mismo tiempo, me maravilla la creatividad humana, incluida su capacidad para fabricar herramientas. Así como disfruto el trabajo artesanal en la tierra, debo confesar que la primera vez que utilicé una atornilladora eléctrica sentí que me amigaba con la Revolución Industrial. En ese sentido, si abrigo algún temor hacia la IA, es el que en general tengo hacia la sociedad productivista y consumista. Nada personal con esta herramienta en particular.

Sin embargo, abrigo un temor específico. Aunque lo único que debemos temer (como enseñó Franklin D Roosevelt) es al temor mismo, todos tenemos nuestros temores. La elección no es aleatoria. Los ratones temen a los gatos, y los elefantes (según nos cuentan las tiras cómicas de los años 70) a los ratones. En muchos casos nos provocan temor efectos distintos de un mismo fenómeno: hay personas a quienes les asusta que un rayo les caiga en la cabeza; a otras, el estruendo que le seguirá; a otras, el chaparrón que anuncia.

Mi temor es el del rey Thamus, quien continúa así su respuesta a Theuth:

Y ahora tú, precisamente, padre que eres de las letras, por apego a ellas les atribuyes poderes contrarios a los que tienen. Porque es olvido lo que producirán en las almas de quienes las aprendan, al descuidar la memoria, ya que, fiándose de lo escrito, llegarán al recuerdo desde fuera, a través de caracteres ajenos, no desde dentro, desde ellos mismos y por sí mismos. No es, pues, un fármaco de la memoria lo que has hallado, sino un simple recordatorio. Apariencia de sabiduría es lo que proporcionas a tus alumnos, que no verdad. Porque habiendo oído muchas cosas sin aprenderlas, parecerá que tienen muchos conocimientos, siendo, al contrario, en la mayoría de los casos, totalmente ignorantes y difíciles de tratar, porque han acabado por convertirse en sabios aparentes en lugar de sabios de verdad. Fedro, 275. Platón.

Quizá la IA profundice el destino que Thamus pronosticó. Quizá, con su auxilio, continuemos produciendo recordatorios y perdiendo memoria. Quizá, con la promesa de mejorar nuestra apariencia de sabios, nos haga menos sabios.²

La ambivalencia reaparece al leer este segundo pasaje del Fedro. El argumento de Thamus me resulta convincente. Sin embargo, si Platón hubiera obrado conforme a la postura del rey egipcio, no podría estar yo leyéndolo 2.400 años más tarde. Coincidir con Thamus y agradecer a Platón no haberle hecho caso: no siempre resulta sencillo tomar partido.

O quizá no tengamos que temer a esta ni a ninguna otra tecnología, sino a nuestra propia condición. Andrés Calamaro lo reporta al inicio de la versión del tema “Años”, junto a Luca Prodan: “Coincide con la noticia de que lo único que progresa con el paso del tiempo es la tecnología. El hombre no. Siempre es el mismo”.