Mientras gobiernos y empresas compiten por desarrollar modelos de inteligencia artificial (IA) cada vez más potentes, una red de investigadoras y activistas de América Latina plantea otra discusión: no solo cómo funciona esta tecnología, sino quién la diseña, con qué objetivos y para beneficiar a quién.
Para la Red Feminista de Inteligencia Artificial de América Latina y el Caribe, la discusión sobre cómo evitar que los algoritmos reproduzcan sesgos contra las mujeres es apenas el punto de partida. Su propuesta va más allá de corregir prejuicios: plantea transformar la forma en que se concibe, desarrolla y gobierna la IA.
“La perspectiva feminista aporta una mirada sobre la IA que interpela la matriz del poder y que se pregunta cómo la tecnología contribuye a reproducir la injusticia y la desigualdad. Por eso pensamos que la mirada feminista sobre la IA es fundamental. No es una tecnología neutra, no es una tecnología objetiva, es una tecnología que al servicio del capital, el patriarcado y la reproducción de las relaciones neocoloniales, reproduce la violencia a escala”, dijo a la diaria la investigadora mexicano-ecuatoriana Paola Ricaurte, coordinadora de la Red Feminista de Inteligencia Artificial en América Latina y el Caribe, profesora del Departamento de Medios y Cultura Digital del Tecnológico de Monterrey e investigadora asociada del Berkman Klein Center for Internet & Society de la Universidad de Harvard.
Doctora en Ciencias del Lenguaje, Ricaurte ha dedicado su trayectoria al análisis feminista y anticolonial de las tecnologías digitales. Además, integra el grupo de expertos en ética de IA sin fronteras de la Unesco, es cofundadora de Tierra Común –una iniciativa para la descolonización de los datos–, autora del Manifiesto de la Inteligencia Artificial Descolonial y fue incluida por la revista Time en la lista Time100 AI 2025 dentro de las 100 personas más influyentes del mundo en IA con enfoque feminista y en derechos humanos.
Para Ricaurte, hablar de una inteligencia artificial feminista significa cuestionar quién define qué problemas merece resolver la tecnología, quién controla los datos y la infraestructura digital y qué intereses orientan la innovación.
“La lucha por tecnologías libres, desde nuestra perspectiva, es una lucha política. [...] Para nosotras implica cuestionar todos los supuestos bajo los cuales hoy se construye la tecnología y eso implica quién puede construirla, cómo, para qué, por qué, partiendo por supuesto de la pregunta sobre qué tecnologías son las que necesitamos”, remarcó, señalando que en América Latina existe un “enorme potencial” para imaginar una IA que no responda al “modelo de negocio extractivista”.
En ese contexto, el feminismo funciona como “marco y una praxis que permite interpelar las asimetrías de poder”. “No estamos hablando únicamente de género. Desde la perspectiva interseccional y sistémica, queremos hacer visibles todos esos mecanismos de opresión [...] que, de manera interconectada, hacen que ciertos grupos humanos sean excluidos de la sociedad”, afirmó.
¿Cómo nació la Red Feminista de Inteligencia Artificial en América Latina y el Caribe y qué necesidad buscaba cubrir en la región?
La red surge como una iniciativa internacional para abordar el problema estructural de la IA tanto como una industria que se encuentra concentrada en unas pocas corporaciones como de los sistemas de IA que reproducen las desigualdades a lo largo de su ciclo de vida. Comenzamos a idear el proyecto en 2020 y lo arrancamos en 2021 con nodos en tres regiones del Sur global: América Latina y el Caribe, Norte de África y Medio Oriente y Sudeste Asiático. Desde entonces hemos realizado cuatro convocatorias para incubar proyectos de IA feminista en la región. Un aprendizaje de estos años es que en la región existe un enorme potencial en posibilidades de imaginar la inteligencia artificial que no responda a la lógica ni al modelo de negocio extractivista de la IA hegemónica.
¿Quiénes integran actualmente la red y qué perfiles profesionales o territoriales confluyen en ella?
Actualmente hay aproximadamente 80 personas y organizaciones integrantes de la red. Tenemos perfiles de distintas disciplinas, pero también de trayectorias: es decir, no solamente hay personas académicas, sino también activistas, artistas, profesionales de distintos campos, porque pensamos que para construir una IA feminista necesitamos de todas las miradas. Existen personas de distintos países, solamente que también hemos tenido desafíos para integrar personas del contexto caribeño y centroamericano, que refleja las desigualdades existentes también en América Latina y el Caribe. Durante esta fase, uno de los propósitos es buscar extender tanto los proyectos como las integrantes de estas regiones.
¿Qué diagnóstico hacían sobre el desarrollo de la IA en América Latina cuando decidieron crear este espacio?
Desde el inicio hemos sido muy críticas con la industria de la IA en su actual expresión. Existe una concentración de poder, recursos, datos, conocimiento, infraestructura que reproduce las asimetrías entre los países y las regiones. América Latina y el Caribe ocupa una posición subordinada en la cadena de valor de la IA: entregamos nuestras tierras, nuestra mano de obra, nuestros datos, con un alto costo humano y ambiental. A cambio recibimos productos por los que pagamos caro, aunque pensemos que son gratuitos, porque en realidad contribuyen a profundizar la relación de dependencia económica, tecnológica, política y de conocimiento de nuestra región.
¿Por qué es clave tener una mirada feminista de la tecnología y más concretamente de la IA?
Muchas de nosotras venimos de una larga trayectoria de participación en movimientos por la defensa de los derechos digitales, de una internet libre y democrática, por la justicia global. La lucha por tecnologías libres, desde nuestra perspectiva, es una lucha política. Si lo pensamos, no puede haber democracia sin tener control de las infraestructuras, el conocimiento, los datos. Y tal como vemos que opera la industria, solamente está sirviendo para que la acumulación de poder y riqueza en pocas manos se haga mayor. La perspectiva feminista aporta una mirada sobre la IA que interpela la matriz del poder y que se pregunta cómo la tecnología contribuye a reproducir la injusticia y la desigualdad. Por eso pensamos que la mirada feminista sobre la IA es fundamental. No es una tecnología neutra, no es una tecnología objetiva, es una tecnología que, al servicio del capital, el patriarcado y la reproducción de las relaciones neocoloniales, reproduce la violencia a escala.
¿Qué significa exactamente hablar de una IA feminista?
Para nosotras implica cuestionar todos los supuestos bajo los cuales hoy se construye la tecnología y eso implica quién puede construirla, cómo, para qué, por qué, partiendo por supuesto de la pregunta sobre qué tecnologías son las que necesitamos. Hay muchas narrativas asociadas con el desarrollo de la IA, la eficiencia, la productividad, la optimización, la objetividad y, si lo pensamos, son todas narrativas que responden a los principios fundamentales del capitalismo: qué necesitamos para acumular más capital. Otras de las narrativas son la escala, la velocidad, el tecnosolucionismo. Nosotras no buscamos tecnologías de IA que sean universales, ni rápidas, ni a gran escala. Buscamos tecnologías que sirvan a sus comunidades, que sean gobernadas y de propiedad de las comunidades, que sean sustentables, pertinentes a cada contexto y que no busquen un beneficio económico, sino el bien común. Ninguno de estos objetivos está en el interés de la industria.
Algunas personas asocian el feminismo únicamente con cuestiones de género. ¿Por qué consideran que también es una herramienta útil para pensar la tecnología?
Nosotras pensamos en el feminismo como un marco y una praxis que permite interpelar las asimetrías de poder. No estamos hablando únicamente de género. Desde la perspectiva interseccional y sistémica, queremos hacer visibles todos esos mecanismos de opresión –instituciones, formas de producción de conocimiento, formas de autoridad, regulaciones, prácticas socioculturales, formas de organización y clasificación social, tecnologías, relaciones de mercado, captura de recursos, control del trabajo, los cuerpos y los territorios– que, de manera interconectada, hacen que ciertos grupos humanos sean excluidos de la sociedad.
¿Qué aportes puede hacer el feminismo a debates sobre transparencia, datos, privacidad y gobernanza algorítmica?
Pienso que desde los distintos movimientos feministas hemos hecho y estamos haciendo múltiples contribuciones, desde el cuestionamiento a las grandes narrativas, el diseño de políticas, la innovación, la imaginación, la regulación, que permiten situar la discusión sobre aspectos específicos de transparencia, datos, privacidad y gobernanza algorítmica desde una mirada sistémica. Afortunadamente hay múltiples colectivos, organizaciones y personas que han aportado a la discusión en todos los niveles, mostrando cómo es necesario tener una perspectiva transversal a los problemas de desigualdad, discriminación y violencia reproducida por estos sistemas, que, como está demostrado, afectan de manera desproporcionada a los grupos históricamente marginalizados.
¿Qué proyectos están impulsando actualmente y cuáles consideran que han tenido mayor impacto?
Hace dos meses arrancamos con una nueva cohorte de siete proyectos de la región. Todos ellos están orientados a responder ante una necesidad específica de sus comunidades: comunidades indígenas, jóvenes afrobrasileños del Amazonas, personas trabajadoras sexuales trans, personas con discapacidad, así como distintos ámbitos: la memoria cultural, la preservación de la lengua, los derechos humanos, la violencia política contra las mujeres, el estrés hídrico. Todos los proyectos muestran distintos aspectos que son relevantes para que las personas y comunidades puedan acceder a una vida digna, sean reconocidas como sujetos productores de conocimiento y desplieguen su capacidad de agencia colectiva en la defensa de sus derechos.
La red cuestiona los modelos dominantes de innovación impulsados por grandes corporaciones tecnológicas. ¿Cuáles son las principales preocupaciones detrás de esa crítica?
Nos parece que el modelo dominante de desarrollo tecnológico sirve para la acumulación de poder y riqueza por unos pocos que nos coloca en una posición de subordinación y dependencia. No es sustentable, habilita la reproducción de la violencia a escala y no responde a las necesidades de nuestras comunidades y territorios. Además, hay que recordar que estas corporaciones tecnológicas estadounidenses responden también a una alianza con el complejo industrial militar y siguen el mandato de Donald Trump de dominación tecnológica, expresado en sus órdenes presidenciales. Es decir, que también esta industria habilita de manera directa el autoritarismo. Lo que vivimos hoy es una forma de tecnofascismo.
¿Existe el riesgo de que América Latina quede relegada a ser únicamente proveedora de datos y recursos para la industria de IA?
Sí, es un riesgo real, porque actualmente ese es justamente el rol que estamos ocupando en la cadena de valor de la IA. Proveedores de recursos naturales, tierra, agua, minerales críticos, mano de obra barata, conocimiento, datos y dinero, porque pagamos caro el uso de estas tecnologías.
¿La soberanía tecnológica debería formar parte de las agendas feministas contemporáneas?
Yo soy partidaria de hablar de soberanía tecnológica, porque podemos alinearla con los principios feministas y comunitarios de autonomía y autodeterminación. Sin embargo, también somos conscientes de los desafíos que implica materializar esa agenda a nivel regional y las contradicciones que existen al interior de los estados-nación con respecto a sus poblaciones. Por eso me gusta pensar en formas de soberanía comunitaria también, que disputen el poder al Estado-nación que también es reproductor de la violencia.
¿Quién decide qué problemas merece resolver la inteligencia artificial y quién queda fuera de esa decisión?
Justamente esas son las preguntas que nos hacemos desde los feminismos. Y lo que buscamos con nuestro trabajo es hacer visible que esas respuestas las tienen que dar las propias comunidades, no los señores multimillonarios blancos y privilegiados de las corporaciones de Silicon Valley ni los gobiernos autoritarios y bélicos del mundo. Nunca en la historia ha existido una mayor acumulación de riqueza y una mayor desigualdad. Y mucha de esa riqueza está anclada a los actores de esta industria y a estas tecnologías cuyo modelo de negocio se basa en el extractivismo y el despojo a escala global.
¿La IA tiene potencial para transformar las desigualdades de nuestras sociedades?
La IA hegemónica reproduce las desigualdades a todos los niveles. Hoy no existen contrapesos gubernamentales que pongan suficiente freno a la industria en nuestra región. Por una parte, necesitamos regulaciones que pongan los derechos humanos y las comunidades más vulnerables al centro. Necesitamos gobiernos firmes, que entiendan lo que está en juego en el presente y para el futuro. La IA es una industria que también está contribuyendo al colapso ambiental, que afecta principalmente a las poblaciones menos privilegiadas. La única manera en que la IA no reproduzca esas desigualdades estructurales es transformar la matriz de poder, en todos sus ámbitos, que generemos los mecanismos para que podamos defendernos ante el abuso de las corporaciones y que las comunidades históricamente excluidas tengan las condiciones para que sean ellas mismas las que gobiernen, desarrollen y utilicen los sistemas artificiales en sus propios términos y en función de sus necesidades.
