Entre los muchos problemas que trajo la popularización de la inteligencia artificial (IA) generativa, más allá de daños ambientales y burbujas financieras, se encuentra un sentimiento de desconfianza del que costará muchísimo despegarse, si es que alguna vez logramos hacerlo. La posibilidad de que estos modelos de lenguaje de gran tamaño (o LLM, por sus iniciales en inglés) imiten la forma en que los seres humanos se comunican hace que todo el mundo dude de si está conversando con una persona, o que no sepa si está admirando algo producido por una persona.
Esto ha despertado alarmas en ámbitos en los que el arte es premiado simbólica o económicamente. Los concursos exigen declaraciones de conformidad sobre el uso de IA, algunos para clarificar las cosas y otros para excluir de la competencia a quienes la emplean. En paralelo, han aparecido detectores de IA, que no dejan de ser LLM capaces de indicar qué porcentaje de un texto habría sido creado por otra IA o qué porcentaje de probabilidad hay de que haya sido creado con IA, aunque el público en general no tiene muy claro cómo funcionan.
El más reciente “escándalo” relacionado con el arte y la IA generativa se produjo a partir de un artículo de El País de Madrid que cuestionaba al texto ganador del Premio Internacional de Novela Breve Almadía Ventosa-Arrufat, que convocan la editorial mexicana Almadía y la fundación española Ventosa Arrufat. De entre más de 2.200 manuscritos, el jurado compuesto por la mexicana Cristina Rivera Garza (doblemente consagrada con el Premio Sor Juana Inés de la Cruz), la argentina Selva Almada (autora de El viento que arrasa) y la ecuatoriana Mónica Ojeda premió con 20.000 euros la novela corta Donde el agua trabaja, del peruano David Silva Rojas.
El fallo del jurado se conoció en julio; el libro se publicó en setiembre e iba a presentarse por estos días en varias ciudades de España, hasta que apareció la investigación firmada por tres periodistas del periódico español. Allí afirman que Donde el agua trabaja “contiene un 99% de texto generado por una IA, según Pangram, uno de los detectores mejor valorados de texto producido por máquinas”. Las bases del premio prohibían explícitamente el uso de herramientas de IA, por lo que, de confirmarse la denuncia, sería el primer caso de relevancia en el mundo de la literatura en español.
La editorial Almadía anunció en sus redes que haría una “revisión detallada, sin anticipar conclusiones y con el cuidado que requiere una valoración que puede afectar a una obra y su autor”. Una de las periodistas de la investigación original, Elizabeth Duval, comentó en el posteo de Almadía su convencimiento de que “han sido víctimas de un uso espurio de la IA. Los indicios me parecen demasiado claros y no se limitan a la novela: el uso de la IA aparece en publicaciones del autor, en su biografía, en sus respuestas de entrevistas o en sus papers, de forma repetida, y no en porcentajes pequeños o en margen de error”.
En las últimas horas, David Silva Rojas utilizó sus redes sociales para difundir un comunicado en el que afirma categóricamente ser el autor de Donde el agua trabaja. “Yo concebí, escribí y revisé esta novela. No utilicé herramientas de IA generativa para crearla, redactarla ni revisarla”, dijo.
Explicó que la novela surgió de una investigación sobre las condiciones de vida de quienes trabajan en el sector agrícola en la ciudad peruana de Ica. “Mientras transcribía las entrevistas, comencé a escribir pequeños fragmentos en primera persona, reuniendo en una voz imaginada experiencias y sensaciones que me habían dejado aquellos testimonios”, agregó.
“Cuando decidí convertir aquellos fragmentos en una novela, preparé un cuaderno de notas en el que establecí cómo comenzaría la historia, cuál sería su conflicto principal y hacia qué desenlace quería conducirla”, continuó. Su esquema era “el esqueleto de la novela, no un plan detallado de todos sus capítulos”. Eso ocurrió a medida que escribía, según explicó el escritor. “Continué revisando la estructura y el lenguaje del manuscrito en distintas versiones de Word”.
Silva Rojas dijo conservar “versiones anteriores del manuscrito”, además del cuaderno de notas y materiales relacionados, y agregó que entregará esa documentación a la editorial. “Considero importante que la revisión se realice con cuidado y que sus conclusiones estén respaldadas por hechos. Por ahora mi prioridad es colaborar con la editorial y aportar los documentos que permitan examinar mi proceso de escritura”, finalizó.
Revisionismo automatizado
El País ya había comenzado su pangramanía unas semanas atrás, con un artículo en el que aseguraba que tras analizar decenas de libros populares de los últimos años, concluyó que “uno de cada tres superventas autopublicados está escrito en su mayor parte con IA”.
Para este análisis también utilizaron libros anteriores a 2020, y en ese caso el porcentaje fue del 0%. “Pangram no es infalible. En fragmentos cortos, a veces basta tocar una palabra para que cambie de criterio”, matizaron. En una nota posterior, los periodistas españoles afirman que los falsos positivos se encuentran entre el 0% y el 0,2% de los textos revisados.