La Autoridad Nacional de Protección de Datos de Brasil (ANPD) ordenó este miércoles la suspensión de las transmisiones en vivo de la plataforma Discord en el país al detectar fallas en las medidas adoptadas por la plataforma para proteger a niños, niñas y adolescentes frente a riesgos graves en el entorno digital.
En un comunicado, la ANPD sostuvo que se trata de una “medida cautelar” después de encontrar una “sólida evidencia” de que la empresa no adoptó medidas para “prevenir y mitigar los riesgos de acceso, exposición, recomendación o facilitación de contacto con contenido o prácticas que representan violaciones graves de los derechos de los niños y adolescentes dentro de su servicio, especialmente inducción, incitación, instigación o asistencia a la violencia, autolesiones y suicidio”.
La medida obliga a Discord a suspender durante tres días hábiles la función de transmisión en vivo y otras funcionalidades similares para compartir videos. La suspensión se mantendrá hasta que la empresa demuestre que implementó medidas adecuadas para proteger a los menores.
La ANPD, sin embargo, aclaró que Discord no está siendo bloqueado. La medida se concentra específicamente en la función “transmitir en vivo”, utilizada para hacer retransmisiones en directo en servidores cerrados.
“Se detectaron deficiencias en la aplicación de medidas y procedimientos estructurales para prevenir y combatir las violaciones graves contra niños, niñas y adolescentes. [...] El objetivo es reducir el riesgo de daños graves o irreparables a los que están expuestos niños y adolescentes”, señaló la agencia.
Una decisión tras la muerte de una niña
Según informó el diario brasileño O Globo, la decisión se produjo después de la muerte de una niña de 13 años durante una transmisión en la plataforma. El medio señaló que el caso adquirió relevancia luego de que la primera dama de Brasil, Jânja Lula da Silva, reclamara públicamente el bloqueo de Discord en el país.
La medida forma parte de un proceso de inspección iniciado por la ANPD el pasado viernes 7 de agosto para investigar posibles fallas en los mecanismos de protección de niños y adolescentes. Las autoridades brasileñas recibieron información de Discord el lunes 10 y se reunieron con representantes legales de la compañía el martes 11.
La ANPD sostuvo que existen “pruebas suficientes para justificar la necesidad de esta acción de emergencia” y remarcó que las transmisiones en vivo de Discord “se han utilizado repetidamente para la comisión de delitos graves, poniendo en riesgo la integridad física y mental de menores de 18 años”.
Una limitación tecnológica
Uno de los principales problemas identificados por la ANPD está relacionado con la propia arquitectura técnica de Discord.
“Discord no tiene acceso al contenido de las transmisiones de video mientras se realizan”, señaló la agencia. Esto imposibilita utilizar mecanismos de análisis del contenido audiovisual para detectar infracciones en tiempo real dentro del servidor.
De acuerdo con la ANPD, la plataforma depende de sistemas automatizados que presentan “deficiencias” y de los informes realizados por los propios participantes de los espacios donde se producen las infracciones.
Para la autoridad brasileña, esto plantea un problema especialmente relevante cuando se trata de contenidos que pueden representar un riesgo inmediato para menores de edad.
También investigan la verificación de edad
La investigación de la ANPD no se limita a las transmisiones en vivo. El organismo también analiza posibles incumplimientos relacionados con la verificación de edad y con las obligaciones de las plataformas frente a contenidos ilegales o que representen riesgos para menores.
Se investigan posibles deficiencias en los mecanismos de verificación de edad, así como eventuales incumplimientos de las obligaciones de eliminar contenidos que infrinjan la ley y de informar a las autoridades competentes.
Si durante el proceso la ANPD detecta irregularidades, podrá establecer multas de hasta 50 millones de reales (9,6 millones de dólares) por infracción.
La plataforma es especialmente utilizada por comunidades vinculadas a videojuegos, aunque también reúne grupos de programadores, creadores de contenido y usuarios de distintos ámbitos. Según la empresa, alcanza a 90 millones de usuarios y la edad mínima para utilizarla es de 13 años.
Contexto regional
Brasil mantiene una intensa disputa legal y política sobre la regulación de las redes sociales, marcada por el enfrentamiento entre el Poder Judicial, el gobierno y las grandes empresas tecnológicas.
El caso de Discord vuelve a poner sobre la mesa un debate más amplio en América Latina: cómo proteger a niños, niñas y adolescentes de los riesgos del entorno digital sin reducir el problema a una cuestión de edad o de acceso a las plataformas.
En Uruguay, el Parlamento puso en marcha una consulta pública con integración multiactor para avanzar en una regulación de plataformas digitales orientada a proteger a niñas, niños y adolescentes. La iniciativa cuenta con “amplias mayorías”, según dijo a la diaria, a finales de febrero, el diputado del Partido Nacional Rodrigo Goñi, presidente de la Cámara de Representantes.
Mientras tanto, una investigación realizada en México alertó que niñas, niños y adolescentes de América Latina pueden estar expuestos en menos de 60 minutos a contenidos vinculados con violencia extrema, depresión y sexualización a través de los sistemas de recomendación de Tik Tok, Instagram y X.
El estudio, denominado “Explorando lo que las y los adolescentes pueden ver en las redes sociales en México” y que fue elaborado por 5Rights Foundation, Revealing Reality y el Instituto Nacional de Salud Pública de México, con apoyo de El Hilo de Ariadne, utilizó perfiles simulados (denominados “avatares”) diseñados a partir de los comportamientos reales de adolescentes para analizar qué tipo de contenido reciben las cuentas juveniles en las principales plataformas digitales.
Aunque la investigación se desarrolló en México, las organizaciones responsables del estudio advirtieron que los resultados plantean que “niñas, niños y adolescentes en América Latina están en peligro” y consideraron que estos datos deberían ser un “llamado de atención” para los líderes políticos de la región.