“¿Cómo se manifiestan los sesgos pedagógicos en las herramientas de inteligencia artificial generativa (IA) y qué implicancias tienen para la enseñanza?”. Esa es la pregunta que Valeria Odetti, coordinadora de Flacso Virtual en Uruguay, plantea en un artículo llamado El sesgo pedagógico de la inteligencia artificial generativa: configuraciones implícitas y desafíos para la enseñanza, con base en su investigación doctoral en Ciencias Humanas: cómo algunas configuraciones propias de las IA generativas se integran en las prácticas educativas.
Odetti parte del concepto de “sesgo pedagógico” para hacer referencia a ciertos supuestos vinculados a la enseñanza que forman parte de las herramientas de IA, y a través de su investigación indaga en las configuraciones previas que determinan a las producciones generadas por esta herramienta en varias de sus versiones.
A su vez, su investigación se centra especialmente en el trabajo de los docentes universitarios y el uso que ellos le dan a la herramienta, ya que, según señala su trabajo, “la formación didáctica del profesorado [universitario] es históricamente deficitaria”.
En cuanto a su formación, Odetti es también especialista en Educación y Nuevas Tecnologías y coordinadora del Diploma en IA y Prácticas de Enseñanza en Flacso Uruguay. Debido a su especialidad, cruzó desde Argentina –su país natal– para participar de un intercambio organizado por el espacio Siembra, en donde, junto a otras invitadas, debatieron sobre enseñanza en tiempos de IA. En ese marco, habló con la diaria y compartió sus reflexiones sobre el asunto con base en su trabajo doctoral.
Sobre los “sesgos pedagógicos”
“Yo no lograba usarlas, no lograba que hicieran nada de lo que me prometían que iban a hacer”, relató Odetti sobre su primera aproximación a las herramientas de IA hace ya algunos años. La docente cuenta que, aunque las probaba e intentaba encontrarles un uso pedagógico, los resultados no respondían a lo que ella esperaba. Sin embargo, su equipo de trabajo sí lograba encontrar “ventajas” en estas herramientas, según contó, y con base en esas experiencias fue que decidió indagar un poco más.
En el momento en que se desarrolló su investigación, el foco estaba puesto principalmente en aprender a “promptear” –encontrar la manera adecuada de formular instrucciones para conseguir de la IA el resultado buscado–, explicó la docente, pero al comenzar a experimentar con distintas herramientas, Odetti y su equipo de trabajo encontraron que el problema no parecía estar solamente en cómo se las utilizaba, sino en que las IA tomaban decisiones que nadie les había pedido explícitamente.
La educadora explicó que los primeros hallazgos se basaron en dos ideas. Por un lado, que las tecnologías tenían “supuestos pedagógicos implícitos” y que, a partir de ellos, tomaban decisiones pedagógicas aunque el usuario no las hubiera indicado en el prompt y, en segundo lugar, que esas decisiones no eran necesariamente iguales entre las herramientas. “Cada IA que usábamos en ese momento tenía su propio estilo de tomar esas decisiones”, señaló.
“Empezamos a ver que ahí había todo un dispositivo de control deliberado de esas tecnologías”, contó Odetti, y explicó que la concepción de las estrategias sobre prompt podía invisibilizar que, incluso ante una orden concreta, la IA tomaba decisiones que también podían terminar “manipulando la acción docente”.
Es en ese sentido que Odetti toma el concepto de “sesgo pedagógico” para advertir sobre la existencia de concepciones implícitas sobre la enseñanza que forman parte del funcionamiento de las IA.
¿Qué modelos estamos importando cuando dejamos que una IA diseñe propuestas educativas?
A partir de la “venta” de una idea de “neutralidad”, Odetti señala que las herramientas de IA presentan una tendencia “conductista” del aprendizaje. La docente contó que, al analizar las propuestas generadas por estas herramientas, se encontró con una tendencia que brindaba opciones que incluían tareas de instrucción directa al estudiante, como casos de “múltiple opción”. “Yo te explico y después voy a verificar si vos entendiste”, explica la investigadora, con base en cómo se maneja el modelo planteado. Dentro de esa lógica, la IA “le quita poder de decisión al estudiante”, sostuvo.
Según explicó la docente, al momento de la investigación relevaron, en primer lugar, un conjunto amplio de herramientas de IA que eran utilizadas en ese entonces y elaboraron un catálogo para identificar sus principales usos. Con el tiempo, el análisis se concentró en los modelos con mayor uso, como Claude, ChatGPT, Gemini, DeepSeek y Copilot.
Entre los indicadores que Odetti marca en su investigación como señales para detectar las concepciones implícitas sobre la enseñanza y el aprendizaje destacan las “adjetivaciones reveladoras”. Según explica, dichas adjetivaciones pueden manifestarse en expresiones como “actividades dinámicas”, “evaluación eficiente” o “aprendizaje optimizado”. En segundo lugar, menciona la “tipología de actividades privilegiadas” que hace referencia a la generación de actividades basadas en la “memorización” y la “instrucción/exposición”, donde, según explica, se deja a un lado el “diálogo profundo” y la “construcción colaborativa de conocimiento”.
Por otro lado, habla de las “temporalidades implícitas” y la “ausencia sistemática de metarreflexión”. Sobre la primera explica que “las estimaciones temporales que realizan las IA generativas para el desarrollo de actividades revelan concepciones específicas sobre los ritmos de aprendizaje” y estas lógicas no son compatibles con los “tiempos complejos y variables” que se desarrollan en los procesos reales de aprendizaje. En cuanto a la segunda dimensión, explica que las propuestas generadas por IA “raramente” incluyen espacios de reflexión sobre los contenidos abordados, y que esta omisión refleja una concepción “instrumental” del conocimiento.
En cuanto a la configuración política y geográfica
Estos modelos “sesgados” tienen su origen en un mercado altamente concentrado, explicó Odetti. En ese sentido, mencionó que las aplicaciones de IA diseñadas específicamente para tareas docentes “casi no se conocen” y, además, muchas de ellas funcionan como adaptaciones de modelos ya existentes. En ese sentido, la investigadora dijo que los “modelos de lenguaje” con los que se trabaja habitualmente están concentrados en un máximo de “20 empresas” a nivel mundial, la mayoría con sus sedes en Estados Unidos o China, mientras que el resto proviene principalmente de empresas de Canadá, Francia y Reino Unido.
Según plantea la investigadora, los modelos de IA se entrenan principalmente con información que proviene del denominado Norte global, lo que favorece la reproducción de los enfoques pedagógicos predominantes de esos países.
Odetti sostiene en su investigación que la IA no constituye una tecnología neutral, sino que está atravesada por relaciones de poder político y geográfico. A través de esta idea, explica que el desarrollo de estas herramientas responde a denominados imaginarios que implican configuraciones impulsadas por actores políticos de los distintos Estados y grandes corporaciones, que son quienes terminan definiendo determinadas concepciones sobre la educación.
El caso de los docentes universitarios
Odetti explicó a la diaria que decidió centrar su investigación en los docentes de educación superior, ya que, en primer lugar, era el campo [de investigación] más cercano a su ámbito de trabajo. Además, tomó esa decisión porque al inicio la hipótesis de su investigación apuntaba a que los docentes universitarios alcanzan su rol docente por su formación vinculada a cierta disciplina y no específicamente por una formación pedagógica. Sin embargo, durante su investigación detectó que “hay mucha más formación de la que suponía”, aunque aclaró que este factor no altera “la manera en que están abordando la IA”, es decir, “no están explicitando tampoco sus supuestos pedagógicos”.
Al respecto, señaló que identifica dos desafíos centrales vinculados al tema. Uno referido a la formación pedagógica de quienes enseñan en educación superior y otro relacionado con la “transposición didáctica”, esto es, “cómo vos traducís un saber disciplinar en un saber enseñable”. Como ese proceso se ve afectado por el uso de la IA, se produce un reduccionismo que termina repercutiendo en la “fidelidad conceptual y epistemológica de ese campo disciplinar”.
Para la docente, el problema radica en que en ningún nivel educativo se logra responder la pregunta sobre “qué tiene que hacer una persona para aprender”. Según explicó, esta pregunta debería ser el tema central de la discusión antes que pensar en cómo incorporar nuevas herramientas tecnológicas en las instituciones educativas.
A su vez, consideró necesario fortalecer la formación docente para rumbearla hacia aspectos vinculados a los procesos de aprendizaje, con el fin de responder otra pregunta: “¿Cómo construimos nosotros mediaciones para ese aprendizaje?”.
“Usémosla, pero mientras tanto observémosla”
“Miremos con un andamiaje teórico cómo está configurada la IA mientras la usamos y ponemos en discusión el andamiaje teórico”, planteó Odetti al vincular su respuesta con un accionar teórico-práctico para este tipo de herramientas. Para la docente, oponerse a este tipo de tecnologías “no tiene sentido”, y menos en la actualidad. “Para mí prohibir es una disputa que ya es inviable”, señaló, y agregó que sería prudente “observarla” para luego entender “¿qué hace?” y “¿por qué toma esas decisiones?”. “Usémosla, sí, pero mientras tanto observémosla”, insistió.
Odetti mencionó la importancia de contar con dispositivos de formación para fomentar la reflexión sobre “cómo tomar decisiones sobre lo que de verdad queremos delegar en una herramienta y lo que no”. Al mismo tiempo, señaló la necesidad de contar con espacios que permitan iniciar esta reflexión entre docentes y trabajadores de la enseñanza para generar conversación, más allá del aspecto ético del uso de la herramienta.
Planteó, además, que detrás de cada concepto “hay disputas conceptuales que uno tiene que poder explicitar”. En ese sentido, indicó que el uso de la IA en la educación también implica reconocer que existen estas disputas conceptuales sobre qué significa enseñar y aprender, y que esas perspectivas deben poder fundamentarse.
Al respecto, entiende necesario que los docentes puedan definir desde qué concepción pedagógica trabajan al utilizar estas herramientas y que puedan fundamentarla con textos o autores. Sin embargo, aclaró que explicitar esa perspectiva no nos asegura lograr un control total sobre las producciones de la IA, ya que de todas formas “el modelo de lenguaje termina ganando”. En cambio, lo que sí permite es mantener una alerta ante las respuestas que la herramienta genera. Aunque, advirtió, se trata de “una tecnología diseñada justamente para vulnerar nuestra capacidad de decisión”.