“Fotos falsas de compañeras” o “chicas desnudadas con inteligencia artificial” (IA) son algunas de las expresiones que aparecen estos días en titulares de medios argentinos para referirse a lo que es, lisa y llanamente, violencia sexual digital. En el centro está el caso que se destapó en un liceo de Lomas de Zamora, en la provincia de Buenos Aires, donde unas 50 estudiantes denunciaron a cuatro compañeros de clase por difundir y comercializar en sitios web y plataformas de contenido para adultos imágenes de ellas manipuladas con IA para que se vieran desnudas (lo que se conoce como deepfakes).
No es el primer hecho de este tipo que trascendió en Argentina este año. Unos días después de que se conociera este caso, se supo de una situación similar en un liceo de la ciudad de Ituzaingó, donde el modus operandi fue el mismo: un grupo de estudiantes de entre 15 y 16 años alteró con IA imágenes de compañeras para desnudarlas y comercializarlas en internet, según informó Página 12. En agosto, estudiantes del Colegio Nacional de Buenos Aires y de la Escuela Superior de Comercio Carlos Pellegrini habían denunciado que alumnos usaron imágenes suyas para generar deepfakes con IA, una vez más, para venderlas.
Los casos, que se replican cada vez más en otros países del mundo, vuelven a abrir la discusión sobre la necesidad de regular el uso de la IA, porque, detrás de quienes difunden y venden estas deepfakes, que son los primeros responsables, están las grandes plataformas digitales y otros servicios que se benefician de la circulación de este tipo de contenido y que, sin leyes ni decretos que establezcan sus responsabilidades, parecen quedar impunes.
Una forma de violencia sexual invisibilizada
A medida que se acelera la digitalización de la vida pública y privada, los entornos virtuales se convirtieron en espacios fundamentales de socialización y, por lo tanto, también en un terreno fértil para la violencia de género. A la creación de deepfakes se les suman otras formas de violencia digital contra las mujeres, infancias y adolescencias, como las amenazas, el hostigamiento virtual, la difusión no consentida de contenidos íntimos, el acoso sexual en línea, la extorsión digital o el grooming.
Aunque son violencias que se producen en el plano virtual, el impacto en las personas afectadas es real: es una forma de violencia que tiene consecuencias físicas, psicológicas, económicas, sociales y simbólicas que afectan la integridad, la autonomía y los derechos de mujeres, niñas y adolescentes. Incluso cuando las imágenes difundidas son falsas, como en el caso de las deepfakes.
El mes pasado, en el seminario “Experiencia internacional sobre protección de la niñez y adolescencia en el entorno digital”, organizado por el Senado, la Agencia de Gobierno Electrónico y Sociedad de la Información y del Conocimiento, Unicef y el Programa de las Naciones Unidas para el Desarrollo, la analista de políticas para la eliminación de la violencia contra las mujeres de ONU Mujeres, Florencia Sotelo, detalló que entre las conductas más legisladas en América Latina se encuentran la difusión no consentida de material íntimo o sexual, el chantaje o extorsión con ese material, el grooming, el abuso sexual mediante medios digitales, el ciberacoso, el abuso sexual en línea y las violaciones a la intimidad.
En cambio, entre las áreas “más emergentes o débiles” identificó justamente las deepfakes y la creación o distorsión de imágenes mediante IA. La experta aseguró además que persisten “vacíos” legales en aspectos como la responsabilidad que tienen las plataformas digitales.
¿Qué pasa en Uruguay?
En nuestro país, existe un marco normativo que contempla algunas formas de violencia digital. Por un lado, el artículo 92 de la Ley 19.580 de violencia basada en género establece que “el que difunda, revele, exhiba o ceda a terceros imágenes o grabaciones de una persona con contenido íntimo o sexual, sin su autorización, será castigado con una pena de seis meses de prisión a dos años de penitenciaría”. El texto agrega que “en ningún caso se considerará válida la autorización otorgada por una persona menor de 18 años de edad” y afirma que este delito se configura “aun cuando el que difunda las imágenes o grabaciones haya participado en ellas”. A su vez, dispone que “los administradores de sitios de internet, portales, buscadores o similares que, notificados de la falta de autorización, no den de baja las imágenes de manera inmediata, serán sancionados con la misma pena prevista en este artículo”.
La Ley 19.580 creó además el artículo 277 bis del Código Penal, que establece una pena de entre seis meses y cuatro años de cárcel para la persona que “mediante la utilización de tecnologías, de internet, de cualquier sistema informático o cualquier medio de comunicación o tecnología de transmisión de datos, contactare a una persona menor de edad o ejerza influencia sobre el mismo, con el propósito de cometer cualquier delito contra su integridad sexual, actos con connotaciones sexuales, obtener material pornográfico u obligarlo a hacer o no hacer algo en contra de su voluntad”.
El uso de IA para falsificar imágenes íntimas, específicamente, no está legislado en Uruguay. Sin embargo, hay propuestas planteadas a distintos niveles. En febrero de este año, bajo el liderazgo del Instituto Nacional de las Mujeres (Inmujeres), nuestro país inauguró un proceso de diálogo –entre partidos, organizaciones, especialistas, empresas– para analizar la posibilidad de diseñar una ley de violencia de género digital, que incluiría los aspectos vinculados con la IA. La iniciativa busca adaptar la Ley Modelo Interamericana para Prevenir, Sancionar y Erradicar la Violencia Digital contra las Mujeres Basada en Género, aprobada en diciembre en el marco del Mecanismo de Seguimiento de la Convención de Belém do Pará.
Esta ley modelo establece orientaciones para la prevención, la protección, la reparación integral y la construcción de entornos digitales seguros y democráticos, a la vez que dispone obligaciones para plataformas digitales e intermediarios de internet, incluyendo medidas de transparencia, preservación de evidencia, cooperación con las autoridades y remoción oportuna de contenidos violentos o no consentidos. El documento describe nueve manifestaciones de violencia de género digital, entre las que incluye algunas mediadas por IA.
En paralelo a ese proceso, el tema empieza a instalarse en el Parlamento. El año pasado, el diputado Gabriel Gurméndez, del Partido Colorado, presentó un proyecto de ley que propone modificar el artículo 92 de la Ley 19.580 para agregar la divulgación de imágenes o grabaciones con contenido íntimo específicamente creadas con IA. La iniciativa fue aprobada por la Cámara de Representantes en diciembre de 2025 y ahora está en manos de la Comisión de Derechos Humanos y Equidad de Género del Senado. La última vez que esta comisión debatió sobre esta propuesta, en la sesión del 30 de junio, representantes del Frente Amplio dijeron que si bien apoyaban el objetivo, no eran afines a modificar la ley de violencia de género, sino a directamente crear una ley de violencia de género digital que recoja, entre otros insumos, los aportes de la ley modelo interamericana, según lo que surge de la versión taquigráfica.
Consultada por la diaria, la directora de Inmujeres, Mónica Xavier, dijo que las expertas encargadas de evaluar la posible adaptación de la ley modelo a Uruguay entregaron la semana pasada “un primer borrador”. “Este borrador está a consideración de los organismos [involucrados en el proceso de trabajo] y tiene, como la ley modelo, un carácter integral”, entre otras cosas, porque no se enfoca exclusivamente en la sanción penal, sino que la idea es que “tenga también una orientación regulatoria y de mayor amplitud en la visión de estos temas”, remarcó la jerarca. Agregó que el documento se analizará en el Consejo Nacional Consultivo por una Vida Libre de Violencia y en el Consejo Nacional de Género, dos de los ámbitos interinstitucionales que preside Inmujeres.
Con la mirada puesta a futuro, Xavier dijo que “sobre fin de año” van a “intentar” entregar a las legisladoras y legisladores un borrador acabado, que contemple los aportes de los organismos consultados, “para sumar a las iniciativas en discusión a nivel parlamentario”.
La complejidad de la atención a víctimas de violencia de género digital
Por el momento, el uso de la IA para crear contenido íntimo o sexual no consentido y comercializarlo no es uno de los delitos sexuales digitales que más atiende la Fiscalía en Uruguay, en comparación con otros, como el grooming o la explotación sexual mediante plataformas. De todas formas, sí hay una percepción de que los delitos de violencia sexual digital, en general, han aumentado en los últimos años, según señaló a la diaria la directora de la Unidad de Víctimas y Testigos (UVyT) de la Fiscalía, Manuela Reguera.
De hecho, dijo que “en este momento” la UVyT está trabajando en una “guía de atención para víctimas de violencia basada en género a través de medios digitales”, con “especial énfasis en mujeres jóvenes, niños, niñas y adolescentes”, porque “es un fenómeno que ha avanzado y que los fiscales también investigan con compromiso, con asiduidad, entonces también nosotros entendemos que nos tenemos que agiornar”. En esa línea, la intención es que la guía permita “atender a las víctimas con una metodología diferenciada por el daño que produce el delito en estas niñas, niños, adolescentes y mujeres adultas, que es lo que más hemos visto y más hemos atendido”.
Con base en la experiencia de la unidad, Reguera explicó que una “complejidad” que revisten “todos los delitos asociados a aspectos de internet” es que, “en algún punto, esas víctimas siempre van a seguir siendo víctimas porque ese material siempre va a estar en algún lugar recóndito de internet”. Para la directora, esto “de alguna manera también genera una victimización extra”, en tanto “tenés que trabajar con el daño y el padecimiento que te produce haber vivido el hecho y, además, con que se haya difundido”.
Por otra parte, Reguera dijo que en casos como los de Argentina, “lo primero que tenemos que hacer es reparar a las víctimas”, pero, al mismo tiempo, tomarlo como “una buena oportunidad para que ese centro educativo pueda trascender los hechos y tener una instancia hasta educativa con estos adolescentes de lo que implica el límite del cuerpo, de la privacidad, de la intimidad”, porque “esa comunidad educativa va a seguir funcionando”. “Tenemos que buscar estrategias para que esto que sucedió sea un trampolín de oportunidad para que no vuelva a suceder, pero además para poder construir otro tipo de vínculos”, apuntó.
La directora de la UVyT dijo que, al menos desde la institución que integra, están “construyendo las respuestas a medida que vamos viendo cómo van cambiando los fenómenos”. Recordó que, al igual que empezaron a abordar el grooming a medida que fueron replicándose los casos, “ahora estamos asistiendo a videos con IA”, y eso requerirá otro análisis. “Los fenómenos criminológicos se van modificando, y nosotros vamos adaptándonos a lo que vamos produciendo en la medida de los casos que nos toca atender y acompañar. Eso tiene una dificultad que es, justamente, ir de atrás. Y no podemos adelantarnos más que en la formación, la capacitación, leer papers, ver lo que pasa en otros lados, ir a seminarios y a congresos, pero al menos el tema está sobre la mesa, y no me parece menor”, valoró.
La importancia del abordaje en la educación
La Administración Nacional de Educación Pública tiene “diferentes puertas de entrada” para abordar el tema en las aulas, explicó a la diaria la directora de Derechos Humanos de la institución, Nilia Viscardi. La primera es la educación sexual integral (ESI) y específicamente el plan intersectorial que “articula” la ESI con “el uso ético y reflexivo respecto de los entornos virtuales, la virtualidad y la convivencia digital sin violencias”. Por otra parte, “hay facetas que permiten, dentro del mapa de ruta, asegurar la protección, actuar y focalizar el acompañamiento psicosocial, e implementar rutas de intervención”.
A la vez, adelantó que la institución está trabajando con la Oficina de las Naciones Unidas contra la Droga y el Delito en “un conjunto de guías para docentes, para estudiantes, para familias”, desde una perspectiva de derechos humanos y de prevención del delito, que tienen “la riqueza de nominar” las nuevas formas de violencia y también de vincularnos.
En materia de desafíos, la directora identificó la necesidad de “avanzar en lo que son los proveedores y las plataformas tecnológicas”, porque “ahí hay algo que ningún sistema educativo alcanza a regular enteramente y que viene de la mano de lo que la tecnología permite”, y la importancia de una “actualización normativa a nivel nacional”.
Al mismo tiempo, mencionó el desafío de “pensar el entorno digital como un territorio educativo, en el que tenemos que tener los mismos objetivos: autonomía progresiva, capacidad crítica, consentimiento, corresponsabilidad”. “Solamente una vez que tengamos pedagogías del cuidado en el entorno digital vamos a poder ir en avanzada”, apuntó. Mientras tanto, “podés correr de atrás con la adecuación normativa, con la persecución penal, con los protocolos, y limitar”, pero “si el desafío que proponen la ciudadanía digital y la ESI no transforma al entorno digital en un territorio educativo, no hay norma que pare la violencia de género; vamos a seguir prolongando en el cuerpo digital las violencias que están en el territorio, pero que van tomando distinta cara según la potencialidad tecnológica”, sentenció.
Viscardi dijo que casos como los de Argentina muestran que “el ejercicio de la violencia contra las mujeres no obedece a inclinaciones individuales, sino a dinámicas de grupalidades que parecen ir en el sentido del ejercicio de masculinidades violentas”. Por lo tanto, abogó por “seguir abordando la ESI y el trabajo en masculinidades violentas para que pueda, de alguna manera, transformarse la sensibilidad”, porque “no hay control digital que sea posible cuando tenés estas claves culturales y plataformas tecnológicas que permiten el ejercicio de la violencia digital”.