Niñas, niños y adolescentes de América Latina pueden estar expuestos en menos de 60 minutos a contenidos vinculados con violencia extrema, depresión y sexualización a través de los sistemas de recomendación de Tik Tok, Instagram y X, según una investigación realizada en México.
El estudio, denominado “Explorando lo que las y los adolescentes pueden ver en las redes sociales en México” y que fue elaborado por 5Rights Foundation, Revealing Reality y el Instituto Nacional de Salud Pública de México, con apoyo de El Hilo de Ariadne, utilizó perfiles simulados (denominados “avatares”) diseñados a partir de los comportamientos reales de adolescentes para analizar qué tipo de contenido reciben las cuentas juveniles en las principales plataformas digitales.
Aunque la investigación se desarrolló en México, las organizaciones responsables del estudio advirtieron que los resultados plantean que “niñas, niños y adolescentes en América Latina están en peligro” y consideraron que estos datos deberían ser un “llamado de atención” para los líderes políticos de la región.
“Esta investigación demuestra que el contenido dañino no es un accidente, sino que está siendo amplificado activamente por diseño, y que, a pesar de las afirmaciones públicas de las empresas tecnológicas, estas no han logrado realizar cambios significativos en sus sistemas, que son la raíz de los daños. Los hallazgos dejan claro que la responsabilidad no puede recaer en la niñez ni en sus padres y madres para gestionar riesgos que no pueden ver o que están fuera de su control”, afirmó Marie-Eve Nadeau, jefa de Asuntos Internacionales de la ONG internacional 5Rights Foundation, en un comunicado.
Desde la agencia Revealing Reality señalaron que “esta investigación evidenció una clara brecha entre los compromisos públicos de seguridad de las plataformas y lo que las niñas y los niños encuentran en la práctica. Demuestra cuán rápidamente un feed puede volverse cada vez más concentrado en contenido violento, sexualizado o emocionalmente extremo, en respuesta a la actividad cotidiana en línea”.
Por su parte, Leonor Rivera, del Instituto Nacional de Salud Pública de México, sostuvo que “el diseño de estas plataformas normaliza la violencia y puede afectar directamente la salud mental de niñas, niños y adolescentes”.
Resultados
Los hallazgos señalan que los avatares fueron dirigidos en minutos hacia contenidos violentos, sexualizados y emocionalmente dañinos luego de realizar acciones habituales como deslizar publicaciones, dar “me gusta”, seguir cuentas o hacer búsquedas simples.
Según el informe, los perfiles simulados estuvieron activos apenas 60 minutos distribuidos a lo largo de 12 días de investigación. “A pesar de esta interacción limitada, el contenido que resultó podría considerarse angustiante o inapropiado para adolescentes. Dado que muchos(as) adolescentes cada día pasan una gran cantidad de tiempo en estas plataformas, los hallazgos plantean preguntas importantes sobre lo que una o un adolescente real podría encontrar con el tiempo”, señaló.
La investigación remarcó que, aunque estas observaciones no indican con qué frecuencia ocurren tales experiencias a gran escala, “sí señalan patrones de diseño que pueden exponer a los adolescentes a ciertos riesgos”.
Asimismo, remarcó que, a pesar de los compromisos de las plataformas sobre la seguridad, se puede observar que los adolescentes pueden “acceder fácilmente las redes sociales y verse expuestos rápidamente a contenido, angustiante, gráfico o sexualizado”, por lo que “las medidas de protección son inconsistentes o inexistentes”.
Uno de los hallazgos fue la rapidez con la que los algoritmos intensificaron la exposición a contenidos sensibles. De acuerdo con el reporte, luego de que un avatar interactuara con algunas publicaciones relacionadas con tristeza, “el feed (en Tik Tok) estaba casi totalmente dominado por contenido depresivo, incluyendo publicaciones que normalizaban las autolesiones y el pensamiento suicida”. En X, otro avatar encontró imágenes explícitas de una ejecución en menos de 15 minutos.
La investigación también identificó que las herramientas de búsqueda podían acelerar la exposición a material problemático. En Tik Tok, búsquedas de términos aparentemente neutros como bikini o belleza derivaron en videos crecientemente sexualizados.
“En X, otro avatar encontró imágenes sin censura de la ejecución de una celebridad en menos de 15 minutos de navegación e interacción”, añadió.
En esa red social, consultas relacionadas con violencia en México condujeron rápidamente a imágenes de decapitaciones, interrogatorios violentos y videos de presunto reclutamiento de adolescentes por parte del narcotráfico.
“En Tik Tok, a un pequeño número de avatares se les mostraron monedas digitales que parecían recompensar la visualización prolongada del contenido digital, aunque el propósito y el impacto de estas monedas no son claros”, se afirmó.
Metodología
Para realizar el estudio, fueron empleados avatares construidos a partir de entrevistas en profundidad realizadas a 12 adolescentes de distintas regiones de México. Los investigadores reprodujeron patrones reales de uso en Tik Tok, Instagram y X para observar cómo respondían los algoritmos de recomendación frente a diferentes tipos de interacción.
Entre los temas explorados se incluyeron salud mental, violencia vinculada al narcotráfico, trastornos alimentarios, contenido sexual y la denominada cultura “buchona”, asociada a la hipersexualización femenina.
El trabajo de campo se llevó a cabo entre octubre de 2024 y febrero de 2025.
“Durante las entrevistas, cada adolescente reportó tener un perfil en redes sociales, con edad mayor a la suya real”, concluyó.