El diputado por el Partido Colorado Gabriel Gurméndez anunció la presentación de un proyecto para modificar el artículo 92 de la Ley Integral para la Protección de las Mujeres contra la Violencia Basada en Género (N° 19.580). Este artículo es referente a la penalización de divulgación de imágenes o grabaciones con contenido íntimo, para agregar aquellas que fueran creadas con inteligencia artificial.
La normativa actual prevé una pena de entre seis meses de prisión y dos años de penitenciaría para quien “difunda, revele, exhiba o ceda a terceros imágenes o grabaciones de una persona con contenido íntimo o sexual sin su autorización” y, con esta propuesta, se incluiría entre las penalizaciones la viralización de imágenes con contenido sexual generadas por inteligencia artificial que usurpen la identidad de una persona.
La nueva redacción planteada por Gurméndez incluye el concepto de “imágenes o grabaciones reales o simuladas” e incluye la segunda categoría: “Aquellas que, de manera verosímil, mediante inteligencia artificial, edición digital u otra tecnología que produzca una representación falsa pero creíble en apariencia, voz o conducta de la persona afectada”.
En conversación con la diaria Verifica, Gurméndez explicó que el proyecto atiende a “una necesidad de proteger la dignidad de las personas frente a la realidad de la inteligencia artificial” y de su faceta en el uso abusivo en la generación de imágenes, videos o grabaciones de voz con apariencia “casi imposible de discernir con la realidad”.
“Esto está teniendo un nivel de crecimiento muy importante, que tal vez la gente no lo advierte, pero está existiendo. Lo que procura el proyecto de ley es una modificación muy sutil en algo que ya existe en el Uruguay, en nuestra legislación penal, que es el castigo a quienes difunden o viralizan videos reales de contenido sexual o íntimo sin el consentimiento de las personas involucradas”, afirmó el diputado y señaló que, si bien es un “cambio sutil”, cree que puede lograr “un gran impacto” en la prevención de estas situaciones. Y agregó:“Se puede hacer un daño emocional irreparable a las víctimas con un impacto todavía hasta peor que un video real, porque ya se puede hacer cualquier cosa con la inteligencia artificial”.
Consultado sobre la posibilidad de extender esta medida a otro tipo de contenido falso que utilice la IA, por ejemplo, para la atribución de afirmaciones o acciones irreales, Gurméndez fue cauteloso en su postura y explicó que en el tema al que se limita la propuesta actual “hay un consenso”, mientras que “ir más allá ya supone analizar otro tipo de consideraciones que desde el punto de vista penal se podrían perseguir de otras formas” que ya existen en la legislación actual, como podría ser injuria, la falsificación o la usurpación de identidad o de la imagen. Además, el diputado colorado advirtió que “hay que ser muy prudente en cuanto a meterse en otras áreas que pueden tener que ver con la libertad de expresión”.
,
Discusión a nivel global
La iniciativa de Gurméndez surge en espejo a una normativa que aprobó recientemente el Congreso de los Estados Unidos, conocida como la “Take It Down Act” (Ley “dar de baja” en inglés), que prevé penalizaciones para casos similares a los planteados en el proyecto local, que además dispone de un plazo máximo de 48 horas a las plataformas digitales para dar de baja el contenido luego de haber sido notificadas por las autoridades.
El texto aborda el concepto de deepfakes, un anglicismo utilizado para definir a todos aquellos contenidos audiovisuales que utilizan la imagen o voz de una persona al punto de que su inverosimilitud sea imperceptible. Asimismo, en febrero de este año, el parlamento del Reino Unido realizó modificaciones a su Ley de Seguridad en Línea para incluir estos delitos, siendo el primer país en aprobar una legislación de este tipo.