El 9 de setiembre renunció Jacob Coxon, investigador que había pasado por OpenAI y Anthropic, acusando a ambas compañías de avanzar hacia sistemas capaces de automejorarse sin haber resuelto cómo mantenerlos bajo control. A continuación, una serie de pronósticos se fueron sucediendo, hasta llegar al presagio fatal: Evan Hubinger estimó una probabilidad superior al 10% de que la inteligencia artificial (IA) pudiera matar a toda la humanidad en la próxima década.
Cada tecnología que alteró visiblemente el poder humano pasó por una fase de percibirse como amenaza antes de asentarse como herramienta ambivalente. Así que no hay nada nuevo aquí porque la tecnología siempre ha sido una encrucijada. Lo que propongo mirar ahora es la forma del miedo, antes que sus excusas.
La imprenta fue acusada de corromper el criterio y multiplicar la herejía; el ferrocarril, de dañar el cuerpo humano a velocidades “antinaturales”; la electricidad tuvo su propia guerra de propaganda sobre el peligro mortal de la corriente; el automóvil fue el “carro del diablo” antes de ser progreso; la ingeniería genética reactivó el miedo al monstruo fabricado; internet y luego las redes sociales fueron, sucesivamente, la ruina de la atención, de la infancia, de la democracia. En cada caso hay un patrón casi idéntico: la tecnología nueva es primero maravilla, después se vuelve amenaza existencial en el discurso público, y con el tiempo se asienta en un tercer régimen, más aburrido, de herramienta ambivalente que hay que regular y con la que hay que convivir. La IA está, culturalmente, en el segundo momento del ciclo.
Narrativas: el corazón de las tinieblas
Esta segunda fase casi nunca inventa imágenes nuevas: reutiliza un puñado de relatos antiguos que funcionan en capas. Inicialmente está el mito de Prometeo, el robo de un poder reservado a lo divino y el castigo que ese robo acarrea: hay conocimientos que se pagan con sufrimiento. La mirada prometeica nos avisa que hay límites que no conviene traspasar.
También está el Golem de la tradición judía, la criatura de barro animada por una palabra sagrada que termina volviéndose incontrolable para quien la creó. Algo así como “lo que hicimos nosotros ahora se nos escapa de las manos”. El mito advierte sobre la autonomía de lo creado, el artefacto cumple órdenes mecánicamente, pero escapa al control por falta de alma o discernimiento.
Luego, Fausto (de Marlowe a Goethe), como un hombre maduro que ha estudiado todas las ciencias de su tiempo (teología, medicina, leyes, filosofía) y se siente frustrado porque ese conocimiento no le basta para entender los misterios del universo. Entonces, invoca al demonio y firma un pacto con sangre donde entrega su alma a cambio de favores sobrenaturales. El pacto por poder, o conocimiento, termina cobrándose un precio impagable y engullendo a su usuario. En la versión de Goethe el costo que paga Fausto es volverse insensible, representa la tentación de “jugar a ser Dios” sabiendo que hay una condena implícita.
Y entonces, y sobre todo, Frankenstein (1818), la novela de Mary Shelley, cuyo título completo es, no por casualidad, “el moderno Prometeo”. En el siglo XIX fusionó todo lo anterior en la imagen que hasta hoy domina el imaginario tecnológico: la criatura que iguala o supera a su creador y se vuelve monstruo, no por maldad intrínseca sino por el abandono y el miedo del propio creador.
Hay otro relato, menos citado, pero quizás más preciso para este momento: el aprendiz de brujo (1940), popularizado por Disney en Fantasía. Ahí el peligro no es la maldad de la criatura sino la incapacidad del creador de detener un proceso que él mismo puso en marcha y que se multiplica solo. Es, casi literalmente, la metáfora que hoy se usa para describir la automejora recursiva de sistemas de IA: no un villano, sino un proceso que escapa a la velocidad de reacción de quien lo inició.
Cuando Karel Čapek acuñó la palabra robot en 1920 para una obra de teatro, el argumento ya era la rebelión de las máquinas contra sus creadores. HAL 9000, Terminator, Matrix: el imaginario popular tenía la IA hostil completamente elaborada décadas antes de que existiera una tecnología real a la que aplicarle esas imágenes.
Esto importa porque significa que cuando aparece una noticia sobre riesgos de IA, no cae en un terreno narrativo vacío: cae en un molde ya fabricado, con actores, escenas y desenlaces predefinidos. La noticia no crea el miedo desde cero; activa un guion que el público ya conocía de memoria.
He visto cosas que ustedes no creerían...
Y hay un segundo guion, tan antiguo como el anterior, que es el que más resuena en el episodio actual: el del científico que advierte desde adentro. Su anuncio representa la culminación del genio científico puesto al servicio de un poder colosal, seguido inmediatamente por la culpa y el horror ante lo creado.
En este punto hay un tríptico que funciona como telón de fondo: primero, el Manifiesto Russell-Einstein (1955) fue un documento redactado por Bertrand Russell y firmado por Albert Einstein (junto con otros científicos) que advertía sobre los peligros fatales de las armas nucleares y pedía a los líderes mundiales buscar soluciones de paz antes que la autodestrucción. Este fue seguido por la organización Bulletin of the Atomic Scientists (1945), fundada por los mismos científicos del Proyecto Manhattan para alertar al público sobre los riesgos de las tecnologías bélicas. Ellos crearon el famoso Doomsday Clock (reloj del juicio final) (1947) como representación visual de cuán cerca está la humanidad del colapso. Como nota aparte, ahora mismo marca 85 segundos para la medianoche, concepto que representa la destrucción total. La hora más cercana al apocalipsis global registrada en su historia.
En tercer lugar, una leyenda que describe el momento preciso en que el creador comprende la magnitud incontrolable de su creación. Oppenheimer, al presenciar la prueba nuclear Trinity en 1945, cita el verso hinduista: “Ahora me he convertido en la Muerte, el destructor de mundos”.
La forma en que la sociedad está narrando la IA no es nueva ni espontánea: es la reactivación de un repertorio de mitos, arquetipos y estructuras de pánico.
Tres hitos, con un linaje directo, representan el nacimiento de la responsabilidad social de la ciencia. Antes de este momento, prevalecía la idea de que la ciencia era “neutra” y que los científicos no eran responsables de cómo los políticos usaran sus descubrimientos. Estos tres eventos marcan el momento en que la comunidad científica dice: “Lo que creamos puede destruir la civilización, por lo que tenemos la obligación moral de intervenir”. Es el paso de la fascinación por el hallazgo al pánico ético.
Marcos para pensar el apocalipsis laico
Ulrich Beck describió la modernidad tardía como una “sociedad del riesgo” (1986), donde los peligros más importantes (nucleares, climáticos, genéticos, ahora algorítmicos) son invisibles a simple vista y solo se vuelven reales a través de expertos que los diagnostican. Eso le da a quien puede nombrar el riesgo un tipo particular de autoridad, y explica por qué la voz de un investigador pesa más que la de cualquier otro comentarista, más allá de si su estimación es verificable.
Stanley Cohen (1972), estudiando pánicos morales de otras épocas (rock, videojuegos, pandillas juveniles), notó un patrón de amplificación: los medios seleccionan la voz más dramática, la repiten, y la desproporción entre el hecho y la reacción social se vuelve el fenómeno en sí mismo. No hace falta que el hecho original sea trivial para que el pánico crezca desproporcionado respecto a él. Lo que define el pánico moral no es la inexistencia del problema, sino esta desproporción discursiva y emocional: la diferencia cuantitativa y cualitativa entre el riesgo real comprobable y la respuesta que se desata.
Por su parte, el historiador David Nye habló de lo “sublime tecnológico”: la mezcla de asombro y terror que provocaron el ferrocarril, el rascacielos, la bomba atómica, y que hoy provoca la IA. Es casi un ritual cultural: cada gran tecnología pasa por un momento en que la sociedad necesita sentir, a la vez, deslumbramiento y pavor frente a su propio poder de creación.
Finalmente, David Noble, en The Religion of Technology (1997), sostuvo algo más incómodo: buena parte de la ambición detrás de la IA –crear inteligencia, quizás vida, quizás trascender la muerte o los límites humanos– tiene una estructura gnóstica y milenarista, heredera de imaginarios religiosos. El reverso lógico de esa ambición divina es el relato de extinción por IA, que funciona, culturalmente, como un apocalipsis secularizado. Tiene sus propios profetas, sus señales de los tiempos, sus mediáticas trompetas y su cuenta regresiva.
El relato de “amenaza existencial” cumple funciones sociales que existen independientemente de su exactitud: da a las corporaciones un lugar de autoridad moral; alimenta un imaginario que el público ya tiene internalizado desde el cine y la literatura, y con frecuencia funciona como vehículo para ansiedades menos espectaculares (pérdida de empleos, concentración de poder, competencia geopolítica) que se vuelven más “narrables” cuando se las viste con el lenguaje de la extinción de la especie.
La forma en que la sociedad está narrando la IA no es nueva ni espontánea: es la reactivación de un repertorio de mitos, arquetipos y estructuras de pánico. Cada época encuentra en su tecnología más incomprendida un espejo bastante fiel de sus propios miedos. Probablemente la IA no sea la excepción, sino la versión más reciente de una historia muy larga.
Es curioso notar que, a nivel de discurso público, en China no hay equivalente a lo que sucede en Occidente. No existe un ensayo de un líder de laboratorio chino sobre riesgo comparable. Cuando una empresa china lanza un modelo, la conversación gira en torno al precio y la eficiencia. Cuando lo hace una empresa estadounidense, buena parte del ecosistema mediático se desplaza hacia preguntas civilizatorias.
Se podría sospechar que el pánico de Silicon Valley reproduce, sin saberlo, una estructura narrativa judeocristiana de dos milenios de antigüedad: origen, caída y salvación. Bajo esa lectura, el descontrol de la IA se lee como un juicio final secularizado. La cultura china no hereda esa gramática: la tradición confuciana no mistifica el lenguaje ni la creación, evalúa las cosas por su utilidad práctica más que por su estatus metafísico. Si un modelo reduce costos o ayuda a un médico, es una herramienta útil; si “tiene alma” no es la pregunta relevante. Además, China no carga con el dualismo cartesiano cuerpo-mente que en Occidente alimenta buena parte del debate sobre si una IA “tiene conciencia”.
En nuestro castigado Occidente, una misma fórmula se reitera: la criatura se le escapa a su creador y lo (nos) juzga o lo (nos) destruye. Somos herederos de un subtexto que presupone un tipo particular de relación entre creador y criatura.
Así que ahora volvamos al padre de estos tiempos: Nietzche. En el aforismo 146 de Más allá del bien y del mal (1886), dentro de la cuarta parte del libro, titulada “Sentencias e interludios”, se puede leer en alemán: “Wer mit Ungeheuern kämpft, mag zusehn, dass er nicht dabei zum Ungeheuer wird. Und wenn du lange in einen Abgrund blickst, blickt der Abgrund auch in dich hinein”. Algo así como: “Quien lucha con monstruos, que se cuide de no volverse monstruo él mismo; y si miras largamente un abismo, el abismo también mira dentro de ti”.
Mónica Stillo Mello es docente de comunicación, cultura y medios.