Hablar con máquinas

Editar

En 1966, diez años después de la conferencia de Dartmouth que marcó el inicio del programa de investigación tecnocientífica dedicado a la inteligencia artificial (IA), surge el primer robot conversacional en Estados Unidos, en el famoso Instituto Tecnológico de Massachusetts (MIT). Este programa, desarrollado por Joseph Weizenbaum, entonces profesor de informática en el MIT, permite simular interacciones lingüísticas.¹ El principio es simple: un usuario escribe una frase con una máquina de escribir conectada a una computadora; el programa analiza la frase, genera una respuesta adecuada según su guion y envía la respuesta en forma de texto. Su creador lo llamó ELIZA, inspirado en el nombre de uno de los personajes de la obra de teatro Pigmalión, Eliza Doolittle, una florista que aprende un lenguaje aristocrático para hacerse pasar por una duquesa [obra de George Bernard Shaw publicada en 1913]. El programa creado por Joseph Weizenbaum no simula a una aristócrata, sino a una psicoterapeuta en una parodia de conversación con el paciente. Se limita a reformular las afirmaciones del usuario, la mayoría de las veces en forma de pregunta, con el fin de hacerlo hablar más, sin dar nunca una respuesta detallada.

Esta decisión se debe a razones técnicas: el programa no tiene acceso a una base de datos de la que pueda extraer información para generar sus respuestas, sino que identifica palabras clave en las frases emitidas y aplica reglas. Por ejemplo, si reconoce palabras como “papá” o “mamá” en las consultas escritas por el usuario, el software genera una respuesta del tipo “contame sobre tu familia”. De lo contrario, ELIZA responde con una frase general, como “entiendo”, “muy bien” o “continúa”.

Se trata, por lo tanto, de un dispositivo bastante básico. Sin embargo, los efectos psicológicos resultan asombrosos. El propio Weizenbaum se sorprende de la rapidez y la fuerza con que los usuarios lo antropomorfizan y se involucran emocionalmente con él: “No me había dado cuenta de que interacciones tan breves con un programa informático relativamente sencillo pudieran provocar pensamientos delirantes en personas bastante normales”, escribirá diez años más tarde en su libro, revisando así de manera crítica este experimento tecnológico.² Weizenbaum cita el caso de su secretaria, quien le pidió que saliera de la habitación mientras probaba el programa, como si se tratara de una persona humana a quien se disponía a confiar sus secretos más íntimos. El informático se sorprende así de las “atribuciones extremadamente exageradas” a las que “incluso un público bien educado es capaz de recurrir [...] respecto de tecnologías que no comprende”. Según Weizenbaum, nuestra tendencia colectiva a atribuirle al ordenador intenciones o emociones se debe en gran parte a nuestra incapacidad para comprender el funcionamiento interno de estos programas informáticos. Al detallar el mecanismo de ELIZA, el informático intenta, por lo tanto, despojar al programa de su “aura mágica”, con el objetivo de desmitificar estas nuevas tecnologías.

Transcurridos 60 años, es evidente que esos esfuerzos no han dado fruto. Si bien la expresión “efecto ELIZA” se refiere ahora a la tendencia a asimilar el funcionamiento de una computadora a un comportamiento humano o a atribuirle a un sistema informático una interioridad psíquica (intenciones, emociones, comprensión...), las reflexiones críticas del informático parecen haber caído en el olvido. Desde el lanzamiento del robot conversacional llamado ChatGPT en 2022, son innumerables las personas, entre sus millones de usuarios, que se dirigen a este tipo de dispositivos digitales en segunda persona del singular, como si se tratara de seres humanos capaces de comprender las solicitudes que se les formulan. Todo sucede como si el experimento de laboratorio del investigador en informática se llevara a cabo ahora a gran escala por un puñado de empresas privadas.

La economía del apego

Por lo tanto, la antropomorfización forma parte de la vida cotidiana. El “efecto ELIZA” alimenta un nuevo mercado y los delirios identificados en su momento por Weizenbaum adquieren una dimensión colectiva y planetaria, incluso a través de nuestro lenguaje cotidiano, que utiliza términos antropomórficos como “inteligencia artificial”, “asistente virtual” o “agentes conversacionales”. A diferencia de ELIZA, cuyo sencillo programa había sido explicado con claridad por su creador en un artículo científico, los softwares actuales se basan en algoritmos que, en la mayoría de los casos, son desconocidos para los usuarios y cuyos diversos aspectos no siempre se revelan. En resumen, los robots conversacionales actuales resultan tan fáciles de usar como difíciles de comprender. Sin embargo, tal como lo había anticipado Weizenbaum, y como lo confirma un estudio reciente,³ cuanto menos comprendemos, más antropomorfizamos y más tendemos a recurrir a estos dispositivos en vez de a personas humanas –por ejemplo, para pedir consejos o apoyo emocional–. El estudio muestra que los sentimientos de asombro o de magia que despiertan estos programas incitan a usos antropomórficos, los cuales a su vez pueden generar formas de dependencia emocional. Como era de esperarse, las personas que comprenden mejor el funcionamiento de estos dispositivos tienden menos a confiarse y utilizan más los algoritmos para tareas específicas y limitadas (análisis de resultados, síntesis documental, etcétera).

No es de extrañar que las empresas que diseñan estos servicios digitales desarrollen todo tipo de especificaciones que puedan avivar nuestra tendencia a la antropomorfización para hacernos dependientes. Esta estrategia ya se observaba en las redes sociales comerciales a través de funciones como el desplazamiento infinito o las recomendaciones personalizadas, destinadas a maximizar la participación de los usuarios al incitarlos a permanecer conectados y encerrarlos en burbujas adaptadas. Esta economía de la atención adopta ahora la forma de una economía del apego que explota nuestros afectos y emociones al jugar con nuestras inclinaciones psíquicas.⁴ La mayoría de las plataformas disponibles de forma gratuita para el público en general utilizan así la primera persona del singular (el pronombre “yo”), reenganchan a los usuarios con nuevas preguntas y los halagan o refuerzan en sus opiniones, por mencionar solo algunas de las técnicas empleadas.⁵ Lejos de desmitificar nuestra relación con las máquinas algorítmicas, como recomendaba Weizenbaum, el modelo se aprovecha de nuestra necesidad de reconocimiento y nos incita a mantener relaciones personalizadas con estos servicios digitales.

Compañeros virtuales, riesgos reales

Estas proyecciones antropomórficas se multiplican de manera exponencial en el caso de las aplicaciones comerciales que ofrecen “compañeros” virtuales diseñados para simular conversaciones emocionales o amistosas con los usuarios, como las que proponen las empresas Replika o CharacterAI. Algunos llegan incluso a enamorarse de sus chatbots, mientras que los más desesperados les piden consejos para suicidarse. Varias denuncias presentadas en Estados Unidos se refieren a usuarios que se quitaron la vida tras intercambios con robots, los cuales habrían alimentado sus pensamientos suicidas. Según un informe del Center for Countering Digital Hate,⁶ estos casos podrían ilustrar un problema más estructural relacionado con la frecuencia de las instrucciones nocivas generadas por estos sistemas: consejos para autolesionarse, listas de medicamentos para una sobredosis, cartas de despedida redactadas.

Más allá de estos peligros para la salud de los usuarios jóvenes, parece legítimo preguntarse por los efectos a largo plazo de las interacciones digitales cotidianas con los autómatas digitales. ¿Cómo afectarán a nuestra vida psíquica? ¿Cómo conservaremos habilidades sociales fundamentales como la escucha, la empatía, la paciencia o incluso la capacidad de debatir y argumentar, una vez que hayamos adquirido el hábito de dirigir solicitudes imperativas a los robots conversacionales (o “chatbots”) disponibles las 24 horas del día, los siete días de la semana, siempre de nuestro lado, siempre listos para halagarnos? Porque mientras dispongamos de los recursos materiales para hacerlos funcionar, los sistemas algorítmicos nunca se cansarán, nunca se enfermarán, nunca necesitarán ningún tipo de atención ni de cuidado.

Por lo tanto, estos robots ofrecen simulacros de alteridad que eliminan los riesgos de exponerse a los demás y la sorpresa que implica todo encuentro. La persona que conversa con su chatbot no se encuentra con nadie, salvo con un reflejo algorítmico de sí misma, generado a partir de cálculos probabilísticos realizados sobre sus datos personales. Engañado por este reflejo que parece hablarle en segunda persona del singular, lo toma entonces por otro, confundiendo su propia imagen con una alteridad, exactamente como Narciso en el mito, quien termina enamorándose de su reflejo, a semejanza de las personas que se enamoran de su doble digital.

A través de los chatbots no se establece ni una relación social con el otro ni una relación reflexiva con uno mismo, sino una relación consigo mismo confundida con una relación con el otro, lo que podría llevarnos a retroceder a un estado de confusión caracterizado por la indistinción entre el yo y el otro, entre el yo y el mundo, entre los impulsos y la realidad. Lejos de constituir álter egos, estos simulacros digitales niegan toda posibilidad de separación y, por lo tanto, de relación. La economía del apego amenaza así la posibilidad misma de establecer vínculos, ya que los lazos sociales son sustituidos poco a poco por una dependencia afectiva de servicios digitales controlados por empresas privadas, en los que probablemente pronto se integrarán anuncios publicitarios dirigidos.⁷ Ahora que el aislamiento se reconoce como un problema de salud pública,⁸ este “capitalismo de la soledad”⁹ bien podría generar una proletarización social generalizada.

Ante tal situación, sin duda vale la pena retomar las intuiciones de Weizenbaum. Varias propuestas políticas van en ese sentido. Por ejemplo, la idea de desantropomorfizar los chatbots, evitando la primera persona del singular, las respuestas insistentes o los halagos.¹⁰ Tal decisión parecería ajustarse a normativas europeas como la Ley de Servicios Digitales, cuyo artículo 25 prohíbe las interfaces engañosas (dark patterns), o como la Ley de Inteligencia Artificial, cuyo artículo 5 prohíbe los sistemas de IA que empleen técnicas subliminales o manipuladoras. También se podría considerar un cambio de modelo más profundo, que valorice las tecnologías colaborativas que apoyan las relaciones de ayuda mutua o solidaridad, el intercambio de conocimientos entre pares o la formación de grupos empoderadores.¹¹ Estas tecnologías existen, pero su generalización requiere apoyo político, nuevos derechos colectivos y nuevos modelos económicos. El destino digital de nuestros vínculos afectivos depende de eso.

Anne Alombert, filósofa y profesora de la Universidad de París 8. Autora del libro De la bêtise artificielle, París, Allia, 2025. Traducción: redacción de Le Monde diplomatique, edición Cono Sur.