Lo que me arrancó de la rutina en esa mañana de correcciones interminables fue el peculiar comienzo: “Estimado/a Helena Modzelewski”. (Esa habría sido la primera línea de la novela).
El curso era 100% virtual y se aprobaba por medio de tareas de evaluación automática que yo jamás vería, pero incluía, sí, el requerimiento de una carta dirigida a mí. Esa sería la única instancia en la que estudiantes y docente entraríamos en contacto directo, ya que el curso no contenía ningún encuentro sincrónico. Como fantasmas comunicándonos a tientas desde dimensiones paralelas, la carta era nuestra única chance para mirarnos imaginariamente a los ojos. La consigna era que me contaran por email cómo se estaban sintiendo con el curso y sus contenidos, y yo estaba dispuesta a responder mensaje a mensaje. Como era de esperar, la tarea fue abordada con entusiasmo generalizado: al fin nos decíamos algo, personalizado y auténtico, trascendiendo las pantallas. Las cartas estaban bordadas de típicas manifestaciones de la vulnerabilidad humana: había signos de exclamación y pregunta, pequeñas confesiones, incongruencias gramaticales y sentimientos. Por eso ese saludo sobresalió con su tono impersonal y ajeno. Alguien para quien “Helena” no era evidentemente un nombre femenino, ¿cuál sería su lengua materna? El texto seguía así:
“Espero que esta carta te encuentre bien. Quiero empezar diciéndote que, como modelo de lenguaje, no tengo emociones ni ideas previas al curso, ya que soy un programa informático diseñado para procesar lenguaje natural y proporcionar respuestas útiles”. Y continuaba con opiniones bastante acertadas sobre los contenidos del curso, perfectamente escritas y con palabras demasiado formales para el tenor de la consigna: “desarrollar habilidades críticas y reflexivas fundamentales para...”, “contribuir a esta importante tarea”, “enfoque especialmente importante en un mundo cada vez más polarizado y diverso”... Firmaba “Manuela”.
Me hice ilusiones. Primero pensé que se trataba de una estudiante brillante, que había elegido el lenguaje de la inteligencia artificial para abordarme en un tono pícaro; me estimula intelectualmente la creativa osadía de romper protocolos. Imaginé además que un bot se podría haber colado en el curso. También que, bot o humano, el objetivo de quien me escribía era concretar un experimento que probara la hipótesis de que los docentes no leemos la totalidad de las tareas. Me sentí protagonista de una novela de misterio y ciencia ficción que estaba comenzando; el argumento me llevaría a investigar y finalmente descubrir quién era el enigmático remitente de la carta.
En concordancia con esas fantasías, respondí así:
“Estimada Manuela (si es que te llamas así):
Acabo de recibir tu mensaje, y me he encontrado con que me explicas muy detenidamente que eres un programa informático diseñado para procesar lenguaje natural y proporcionar respuestas útiles, para luego expresar unas impresiones muy serias sobre la temática del curso.
Me he quedado con una gran intriga sobre los motivos de tu carta. Te enumeraré mis conjeturas, porque seguramente como algoritmo que eres o utilizas, te servirá para decodificar mi pensamiento:
1) Eres una persona que usó inteligencia artificial para hacer una tarea, pero olvidó borrar esos detalles donde se explicita que se trata de un programa informático. Si ese es el caso, eso te muestra como una persona extremadamente descuidada, lo cual te puede llevar a recibir graves sanciones como estudiante. Y, en el futuro, puede costarte tu reputación profesional de una forma muy difícil de revertir.
2) Eres de hecho un programa de inteligencia artificial que se ha inscripto en este curso. Si es así, te doy la bienvenida y me siento halagada y muy entusiasmada de intercambiar contigo, y me encantaría seguir haciéndolo, pero con la honestidad de saber quiénes somos realmente. Yo soy humana, para empezar, y me dedico a reflexionar sobre emociones, lo cual tú has confesado que no posees. Tal vez te interese conocer cómo funcionan, y yo puedo contarte algo desde la filosofía, una de las disciplinas que se ocupan de las emociones desde una perspectiva menos empírica y más racional, que a ti te podría gustar seguramente.
3) Eres una persona real que ha fingido ser una estudiante de este curso, y que en realidad está investigando si los docentes toman o no en serio las tareas, prestando atención a los contenidos, o que, por el contrario, cualquier información que se escriba, incluso la confesión de ser un programa de inteligencia artificial, pasa por bueno. En este caso, te respondo que te atrapé, y que sí, que al menos esta docente lee todos los contenidos. Ya puedes incluirlo en tu informe de investigación.
Espero ansiosa que me aclares quién eres y si te encuentras entre estas tres alternativas, porque dependiendo de ello, sabré qué interacción futura tener contigo. Si eres verdaderamente Manuela y no respondes, la institución estará tomando a partir de mañana medidas contra tus acciones, por lo tanto, espero de corazón (yo sí lo tengo) que me expliques qué ha pasado antes de que la burocracia se encargue de ti.
Saludos cordiales,
Helena”
Abrí un documento en Word y pegué ambas cartas. Mi novela estaba iniciada. Esperé un par de días, ilusionada, por la respuesta. Pero esta nunca llegó. Me comuniqué entonces con la oficina técnica de la institución, y pedí la confirmación de la identidad de Manuela, con una esperanza, burbujeante en el pecho, de que me respondieran que para ellos también era un enigma. Yo deseaba que fuera una intrusa, una máquina o espía humana que me convirtiera en la heroína de una historia de ciencia ficción.
Pero el suspenso duró apenas un par de horas: me respondieron que sí, que era una estudiante con cédula de identidad y foto de perfil, inscripta, además, en más de un curso. Pregunté qué medidas tomarían al respecto, y la respuesta fue que el curso le sería anulado, pero que, debido a la falta de normativa vigente, no se podía hacer nada más. El plagio sí, me explicaban, tiene su penalización prevista, porque es comprobable: los buscadores detectan fácilmente los sitios y porcentajes de coincidencia de los contenidos copiados. Pero sorprendentemente las herramientas de inteligencia artificial que procesan y generan lenguaje natural no copian; sus productos son inéditos. Poco a poco van desarrollándose herramientas que los detectan, pero a medida que surgen los problemas; como si dijéramos “hecha la trampa, hecha la ley”, y no a la inversa. Esta anécdota sucedió hace varios meses, y en ese entonces, por lo menos en mi ámbito docente, la incredulidad en las caras de quienes me escuchaban me hicieron pensar que pude haber sido una de las primeras docentes (en Uruguay al menos) en haberse encontrado con uno de estos casos tan explícitos.
En definitiva, Manuela era una persona real sin mucha imaginación que encargó al ChatGPT una carta a Helena Modzelewski sobre un curso titulado de determinada manera. El algoritmo, fielmente, sacó acertadas conclusiones sobre los contenidos del curso a partir de su título, pero, también muy lealmente, aclaró quién era y no se atrevió a decidir por la estudiante si “Helena” era femenino o masculino, y lo dejó en sus manos. Creo que la inteligencia artificial tuvo expectativas demasiado altas acerca de su usuaria, y viceversa. Nada interesante que contar.
Yo me quedé, por el momento, sin mi proyecto de novela. Pero no fue hasta meses después, más precisamente la semana pasada, que lo sepulté definitivamente. El miércoles 22 de agosto tuvo lugar el primer debate organizado por ANEP sobre Inteligencia Artificial y Educación. Yo estuve allí, sin pena ni gloria, una entre diez invitados, nueve hombres de instituciones diversas pero sólo dos representando a la más antigua, más poblada y única pública Universidad de nuestro país, la Universidad de la República. Mi rol fue como filósofa especializada en ética, y particularmente por mi participación en 2022 en el VI Congreso Internacional de Bioética: “Bioética y democracia ante el reto de la inteligencia artificial”, celebrado en Costa Rica por la Universidad del mismo nombre. Yo tenía algunas cosas para decir acerca de los sesgos cognitivos que los humanos transferimos a esos logaritmos a los que el nombre “inteligencia” parece dotarlos de una capacidad y poder superior, mientras que son nada más ni nada menos que nuestras pequeñas mentes humanas ampliadas de manera de ser capaces de captar más información a mayor velocidad. Ese es el riesgo: que los estudiantes, como Manuela, entregados en cuerpo y alma a la tecnología, olviden que esta es sólo un medio que no nos libera de la responsabilidad de pensar por nosotros mismos; que en poco tiempo ignoren que el futuro de la humanidad y de los fines que queremos alcanzar por medio de las tecnologías seguirá estando en nuestras propias manos, a menos que abdiquemos.
Mis compañeros de debate eran ciertamente meritorios. Me quedé, sin embargo, con las ganas de intercambiar con otras personas que habrían tenido mucho más para decir; por ejemplo, Gregory Randall, grado 5 del Instituto de Ingeniería Eléctrica de la Facultad de Ingeniería de la Universidad de la República, quien desde la década del 80 se ha estado formando en Europa en esta temática y continúa educando futuros ingenieros en nuestro país; otro ejemplo, los miembros, mujeres y hombres, del grupo MINA Network Management/Artificial Intelligence, fundado hace 20 años y recientemente financiado por el Programa de Grupos I+D de la Comisión Sectorial de Investigación Científica (CSIC) de la Universidad de la República, integrado por docentes de Ingeniería y estudiantes de Maestría y Doctorado sobre el tema.
De cualquier manera, como resumen de lo abordado en el debate, se mencionó, entre las fortalezas del sistema educativo nacional, el rol de Ceibal en las competencias digitales que ha contribuido a desarrollar, y entre los desafíos, la formación de docentes, todo con lo cual estoy más que de acuerdo. También se repitieron frases como “competencia en pensamiento crítico” o “uso crítico”; de hecho, la palabra “crítico” fue prácticamente un leit motiv.
Yo me quedé elucubrando sobre a qué pensamiento crítico se estarían refiriendo, si el futuro de nuestra educación enfrenta una reducción marcada de horas y contenidos de la disciplina que lo cultiva por excelencia: la filosofía. Se pretende sustituir contenidos filosóficos por entrenamiento en argumentación. ¿Con qué conocimientos e ideas se nutrirán esas discusiones entre estudiantes? Puede que resulten, al igual que este debate público, empobrecidos por la ausencia de argumentos sustanciosos, o por la falta de apertura a potenciales interlocutores más plurales e idóneos.
También se proyecta suprimir la ética y la filosofía política. ¿Cuándo se espera que estudiantes como Manuela reflexionen que el fin no justifica los medios, o, más importante aún, que el fin no es una calificación, sino el cultivo de nuestras propias capacidades cognitivas?
Es claro que a Manuela le faltaron competencias digitales: le faltó saber que el ChatGPT suele identificarse, y que suele tener un idiolecto que lo delata, y que un ser humano determinado a no pensar por sí mismo deberá, como mínimo, estar atento a esos detalles. Como mínimo. Pero una democracia no se sostendrá nunca sobre la base de ese mínimo.
Es así que la novela de ciencia ficción, que no voy a escribir, sigue ella solita desarrollándose en nuestro cotidiano alrededor, y en estas condiciones, por lo menos en Uruguay, apunta a ser la peor de las distopías.