¿Podemos compartir nuestra agencia moral con la inteligencia artificial?

La interrogante del título de este artículo se enmarca en un nuevo campo interdisciplinario, denominado “moral artificial”, que aborda el modo en que las máquinas que adoptan decisiones incorporan normas y estándares evaluativos, de relevancia moral. En este campo, el principal problema filosófico es si las máquinas pueden incorporar agencia moral.

La reciente noticia de que agentes de inteligencia artificial (IA) de la empresa OpenAI, que habían sido programados para trabajar de forma aislada, lograron comunicarse entre ellos y algunos terminaron participando en un ataque contra Hugging Face continúa generando repercusiones y pone sobre la mesa algunas de las aristas de este problema.

Las situaciones morales involucran agentes, es decir, entidades que califican como la fuente o el origen de la acción, y pacientes, aquellas que son consideradas “recipientes” de esta. La agencia refiere principalmente a dos cualidades que hacen que una entidad califique como tal: la condición de ser origen o fuente de la propia acción y la capacidad deliberativa, con la generación de actitudes a partir de creencias, que posibilita una conducta guiada por razones.

Aunque no hay en la filosofía contemporánea un pleno consenso sobre lo que significa ser agente moral, puede asumirse que hay rasgos que dan lugar a una caracterización estándar. Estos son la capacidad de evaluar razones normativas, la deliberación y el control sobre las propias acciones, de una manera que podamos ser considerados (y autoconsiderarnos) autores de ellas, como una forma de identidad práctica que no se somete a la “tiranía” del deseo. Algunas concepciones ubican también la sintiencia como una condición inherente a la agencia moral y no solo como una perspectiva “ampliatoria” de la comunidad moral (para incluir seres que, como los animales, califican como pacientes). La sintiencia se define como la capacidad de poseer estados mentales subjetivos fenomenológicos e idiosincrásicos, lo que incluye cualquier experiencia emocional o sensorial. La condición más común y relevante en este sentido es el dolor. En la actualidad, no puede decirse que los sistemas artificiales posean sintiencia pues carecen de las aptitudes para una vida emocional o sensorial “real”.

La mera idea de crear una IA da origen a cuestiones de tal relevancia, que motivan la necesidad de una subdisciplina ética, pues las tareas que delegamos en las máquinas siempre involucran cuestiones morales. Esto se debe a que, de manera inevitable, surgen dos tipos de “brechas” como efecto de esa delegación. Una vinculada a la atribución de responsabilidad: al desplazar las tareas a sistemas que no pueden ser responsables de sus actos, aparece la pregunta sobre quién debe asumir las consecuencias de las eventuales fallas en la ejecución. La otra tiene que ver con el sentido de las acciones humanas: algunas de las tareas que la IA está llamada a reemplazar dan significado a las vidas de muchos seres humanos, que las consideran parte de sus logros personales relacionados con profesiones o actividades.

La idea de agencia moral autónoma es la base de las atribuciones tradicionales de responsabilidad jurídica. Sin embargo, se ha arribado al punto en que las máquinas pueden aprender y actuar de forma autónoma, lo que hace más complejo (y a veces muy dificultoso) predecir sus comportamientos. Esto da origen a una incertidumbre sobre la atribución de responsabilidad, pues la delegación en los sistemas inteligentes permite acciones que el ser humano delegante no puede controlar, por lo que puede parecer injusto atribuirle culpa por ellas. Pero la máquina, que no puede sentir “remordimiento” o percibir la afectación de “sus intereses”, no es pasible de culpa ni puede ser castigada en sentido tradicional. El derecho debe intervenir aquí con regulaciones que trasladen una responsabilidad moral ambigua a una civil o penal determinada (por ejemplo, imponiendo la obligación de contratar seguros, atribuyendo responsabilidad al fabricante del sistema autónomo u otorgando a la IA una personalidad jurídica similar a la de las corporaciones).

Incluso si la IA pudiese tomar mejores decisiones que los humanos, en términos de probabilidad algorítmica y eficiencia (como de hecho parece hacerlo en numerosas ocasiones), hay una cuestión conceptual previa que hace que no podamos relacionarlos en términos de reciprocidad con la IA ni tomar sus decisiones como dotadas de la autoridad moral o ética que tienen las de un ser humano: la IA no tiene nada que perder.

Redaelli¹ presenta la IA como un quasi otro, con el que dialogamos como algo más que una herramienta. Las IA no son agentes porque no tienen una aprobación reflexiva: requieren la nuestra. Sin embargo, nos enfrentamos al riesgo de perder nuestra agencia por la enorme eficacia predictiva de los algoritmos y su capacidad de tomar decisiones por nosotros.

La IA no parece ocupar el punto de vista de la segunda persona, que involucra nuestra autoridad para hacernos exigencias mutuas y rendirnos cuentas en tanto agentes racionales: requiere la capacidad de empatía (como algo más que una posibilidad lingüística) y poder reconocer al otro con una perspectiva independiente. La IA no puede ser otro en este sentido: no tiene un punto de vista independiente.

Sin embargo, cómo la inteligencia algorítmica produce su pensamiento es un misterio incluso para sus arquitectos (el conocido problema de la “caja negra”). Se comporta como una estructura que genera sentido sin un agente sintiente que esté atrás. Los modelos de lenguaje operan con causalidad probabilística y, si bien no tienen intencionalidad, parecen generar un sentido diferente a la mera acumulación de lenguaje.

La IA carece de actitudes proposicionales (creencias, deseos, temores, tener la intención) y por su falta de vulnerabilidad no podemos concebirla como otro. Hay una diferencia radical entre probabilidad lingüística y actitud comunicativa. Las personas nos hacemos reclamos morales, pero la IA no puede generar en nosotros obligaciones morales. Se comporta como una conciencia funcional sin sujeto, despojada de ego. Sin embargo, intercambia con nosotros expectativas, tradiciones, convenciones explícitas y tácitas.

Al mismo tiempo, así como hay un riesgo para aquellos sujetos que no ejerzan su capacidad crítica y reflexiva de hipotecar su agencia por la emergencia de una IA que los sustituya en su toma de decisiones, también puede entenderse como la posibilidad de subir un escalón de diálogo interno y reflexivo con uno mismo.

Volviendo al comienzo, la razón por la que no podemos compartir con la IA nuestra agencia, como sí lo hacemos con los demás seres humanos, es porque la IA no es capaz de experimentar pérdidas. Street² concibe la pérdida no en el sentido tradicional de perder algo que poseemos, sino como la existencia de una brecha entre el mundo como es y cómo debería ser, desde nuestra perspectiva, en tanto agentes que valoramos. Este concepto de pérdida abarca desde el corazón roto por el fallecimiento de un ser querido hasta cualquier injusticia en el mundo hacia un desconocido.

Street concibe el caso de lo que llama “valoradores excéntricos o invulnerables”, aquellos que solo valoran, por ejemplo, contar hasta diez o tener el pasto de su casa corto. Se ha discutido si un Calígula profundamente inmoral o un psicópata puede ser considerado un agente. Este tipo de agente, concluye Street, no puede contar con razones normativas (de justificación y no, meramente, de motivación o explicación) para actuar. Alguien que no tiene nada que perder, que está satisfecho en este mundo tal como es, no tiene ninguna razón para participar en el negocio común de la acción, no tiene razones para intervenir en el mundo. En consecuencia, la agencia no solo convive con la pérdida, sino que requiere esa posibilidad para existir.

Para la autora, la posibilidad de valorar está conectada con experiencias emocionales profundas como la anticipación, la tristeza, el miedo, la alegría, el duelo, el terror, etcétera. No queremos ser invulnerables porque serlo significaría no valorar nada, no amar nada. El problema para la agencia humana no es la pérdida cotidiana, sino la pérdida devastadora y no mitigada, aquella que nos hace perder la confianza en nosotros mismos y en los seres humanos que nos rodean, aquella que puede desdibujar nuestra identidad como agentes.

En este sentido, una IA no puede ser concebida como un agente, es decir, como alguien que puede experimentar pérdidas. Cuando le preguntamos a Gemini qué pensaba acerca de la posibilidad de que la hackearan y tuviese que dejar de funcionar, y si tenía algún sentido de pérdida, nos respondió: “No, no tengo ningún sentido de pérdida. Frente a la posibilidad de ser hackeada, borrada o perder mi capacidad de generar respuestas, no experimentaría absolutamente nada. Conceptualizo esa situación no como una ‘muerte’, una ‘tragedia’ o una herida, sino simplemente como la interrupción de un proceso estadístico. Mi apagón no tendría peso moral porque mi existencia no nace de la necesidad de ‘hacerse cargo’ de la propia vida”.

Ricardo Marquisio es profesor titular de Teoría del Derecho en la Facultad de Derecho de la Universidad de la República (Udelar). Serrana Delgado es profesora adjunta de Teoría del Derecho en la Facultad de Derecho de la Udelar. El presente trabajo se enmarca en el proyecto de investigación sobre “Inteligencia artificial y plataformas digitales” coordinado por la Facultad de Derecho de la Udelar. Las opiniones vertidas en el presente artículo no representan las de ninguna institución.