La inteligencia artificial (IA) suele despertar dos grandes interrogantes: hasta dónde pueden llegar las máquinas y qué lugar ocuparán las personas en un mundo cada vez más automatizado. Para Otto Scharmer, profesor del Instituto Tecnológico de Massachusetts (MIT) y presidente fundador del Presencing Institute, hay una pregunta todavía más urgente: ¿qué nos está pasando a los seres humanos mientras desarrollamos y utilizamos esas tecnologías?
“El problema mayor no es que la IA se esté volviendo como los humanos, sino que nosotros nos estamos volviendo como máquinas”, advirtió el doctor en economía durante una conferencia en la Facultad de Información y Comunicación de la Universidad de la República, titulada “Liderar la transformación en tiempos de IA”. El académico alemán, especializado en liderazgo y transformación de sistemas, planteó que el comportamiento humano corre el riesgo de convertirse cada vez más en una “extensión de los algoritmos”, con menos espacio para la creatividad, la reflexión y los vínculos con otras personas.
Su planteo parte de una premisa: la IA “no es buena ni mala” en sí misma. “El impacto de esta tecnología depende de la intención que tenemos cuando creamos, desarrollamos y la utilizamos”, sostuvo. Por eso, propuso que la discusión no se limite a las capacidades técnicas de estas herramientas, sino que también atienda a las motivaciones, los modelos de negocio y las consecuencias sociales que se desprenden de su desarrollo.
Scharmer situó esta discusión en un contexto que definió como de “policrisis” o “metacrisis”: un conjunto de problemas interconectados que no pueden resolverse de manera aislada. Por un lado, mencionó los desafíos ambientales, como el cambio climático y la pérdida de biodiversidad; por otro, la división social, expresada en la desigualdad, la polarización y las guerras.
“Lo que está pasando en este momento es que antes las comunidades eran una unidad y ahora se están desmantelando en pequeños fragmentos que han perdido la capacidad de comunicarse unos con otros y de crear sentido juntos para responder a una situación”, señaló.
A eso sumó una tercera dimensión, que denominó división espiritual o interna, vinculada con la pérdida de sentido y la sensación de que las acciones individuales ya no tienen capacidad de incidir sobre el rumbo colectivo.
La IA forma parte de esa tensión y, para Scharmer, tiene dos caras. “Es un regalo, pero también un desafío”, indicó.
Consideró que por un lado es positiva porque obliga a formular preguntas fundamentales sobre la identidad humana: “¿Qué somos como seres humanos? ¿Por qué estamos aquí?”. Pero también representa un desafío, porque puede profundizar la fragmentación y debilitar algunas de las capacidades que sostienen la vida en sociedad.
La ilusión de que nada importa
Uno de los puntos centrales de su exposición fue la existencia de una “depresión colectiva”: la percepción de que, sin importar lo que cada uno haga, nada tendrá un impacto real en el futuro.
A esa sensación la llamó “la ilusión de ser insignificante”: la idea de que lo que una persona siente, piensa o hace no importa. “Yo creo que esa es la mentira más grande del mundo”, afirmó. Su argumento es que las decisiones y las acciones del presente contribuyen a construir la realidad del mañana. “Lo que nosotros pensamos ahora le va a dar forma a la realidad de mañana”, sostuvo.
Para ilustrar esa desconexión, citó una encuesta realizada tres años atrás, según la cual el 68% de las personas consultadas en el mundo sentía que se había perdido la capacidad de actuar colectivamente. En otras palabras, dos de cada tres consideraban que lo que sucede en su comunidad, organización o país está desconectado de su propia voz y que no tienen incidencia sobre esos procesos.
Sin embargo, señaló que esa percepción convive con una disposición a actuar. Según otra cifra que presentó, dos de cada tres personas estaría dispuesto a sacrificar parte de sus ingresos para enfrentar el cambio climático.
Para Scharmer, esta situación muestra que las intenciones positivas existen, pero que las sociedades no están consiguiendo convertirlas en capacidad de acción colectiva.
“Hay intenciones positivas en abundancia en el mundo. Sin embargo, no podemos crear esa intencionalidad positiva que vuelva una acción colectiva. Cuando veo las cifras como educador, pienso que fallé y que fracasamos. Esta brecha ejemplifica una falla masiva de nuestras instituciones y de liderazgo”, reflexionó.
Aprender del futuro
Frente a ese diagnóstico, Scharmer propuso revisar la manera en que las personas aprenden. Su planteo distingue dos fuentes de aprendizaje: el pasado y el futuro emergente. Mientras que las escuelas, las universidades y las organizaciones suelen basar sus métodos en la reflexión sobre lo que ya ocurrió, el académico propuso desarrollar la capacidad de percibir posibilidades que todavía no se concretaron.
A partir de entrevistas que realizó a 150 personas que impulsaron cambios en distintos ámbitos, llegó a una conclusión: el futuro no es algo externo que simplemente llegará. “Es una posibilidad que me está mirando a mí, porque depende de mí para ser manifestado”, explicó. En ese sentido, el futuro es un potencial que no se realizará si las personas no hacen algo para que ocurra.
Para Scharmer, esa es también la experiencia que está en la base de los movimientos sociales, la creatividad y el emprendedurismo: reconocer que una situación podría ser diferente y comprender que esa posibilidad necesita de la acción colectiva para hacerse realidad.
“No se trata sólo de reflexionar sobre lo que aprendí, sino ver cuál es la la historia del mundo del que yo quiero ser parte, preguntarme por qué estoy acá. Debemos conectarnos con esta sensación más profunda de propósito”, afirmó.
Ese proceso requiere cultivar tres capacidades: una “mente, corazón y una voluntad abierta”, agregó. También demanda curiosidad, compasión y coraje para dejar atrás patrones conocidos y estar dispuesto a conectarse con posibilidades que todavía no se comprenden del todo, dijo.
Los tres mecanismos
Al abordar específicamente la IA, Scharmer señaló que “la verdad fundamental” es que la humanidad “no sabe cómo va a terminar”.
Sin embargo, dijo que los efectos de esta tecnología ya pueden observarse en las redes sociales. Mencionó tres consecuencias no buscadas inicialmente: la desinformación, la polarización y la depresión.
Consideró que el resultado es una “regresión” que podría ofrecer un “futuro distópico”, con más inequidades. “Lo que está sucediendo hoy es que la IA está saqueando la condición humana”, afirmó.
A partir de ese diagnóstico, describió tres formas de “hackeo” de la condición humana: el de la atención, el del apego y el de la agencia.
El primero es la minería de la atención. Scharmer señaló que, en las redes sociales, lo que aparece en las pantallas dejó de depender principalmente de las actividades de los amigos o contactos de cada usuario y pasó a estar determinado por algoritmos que seleccionan qué contenidos mostrar. De esa manera, la atención se convierte en un recurso que las plataformas buscan captar y retener.
El segundo mecanismo es el hackeo del apego, asociado a la expansión de los modelos de IA. El académico observó que cada vez más personas, especialmente jóvenes, comparten asuntos íntimos con estas herramientas. A diferencia de un vínculo humano, se trata de una relación en la que no hay otra persona del otro lado.
“La IA es conocimiento sin interioridad, no hay nadie del otro lado”, afirmó. Su preocupación es que estos sistemas tienden a confirmar lo que el usuario expresa, mientras que los vínculos humanos incluyen desacuerdos, cuestionamientos y conversaciones incómodas que pueden llevar a revisar las propias ideas.
“Estamos cada vez más adentrados en nuestra burbuja, desconectándonos plenamente de los vínculos humanos reales y socavando nuestras capacidades. Si yo hablo con un amigo, me siento incómodo si me desafían. Entonces, los evito, y lo único que hago es mandarles un mensaje de texto”, consideró.
El tercer mecanismo es el hackeo de la agencia o de la capacidad de actuar, vinculado con el desarrollo de agentes de inteligencia artificial. Scharmer consideró que todavía estamos en las primeras etapas de este proceso, pero advirtió sobre un riesgo: la atrofia de las capacidades cognitivas cuando las personas delegan cada vez más tareas y decisiones en sistemas automatizados.
Para Scharmer, la pregunta sobre el futuro de la IA no puede separarse de una reflexión sobre el tipo de sociedad y de humanidad que se quiere construir. La tecnología puede profundizar las tendencias actuales o contribuir a abrir otras posibilidades, pero ninguna de esas alternativas está predeterminada. “El futuro es una posibilidad que nos mira a nosotros, porque depende de nosotros para manifestarse”, resumió.
