A mediados de 2025 se viralizó un video que mostraba inocentes conejitos saltando en una saltarina y luego otro video de un canguro al que le denegaban el ingreso a un avión. Aunque ambos videos eran creados con modelos generativos de inteligencia artificial (IA), coparon la agenda mediática y de redes sociales y se demoró varias horas en confirmar sus evidentes falsedades. Desde que se facilitó la disponibilidad de herramientas de IA se ha producido un aumento de contenido irreal y de desinformación. En ese marco, dos investigadores y profesores de la Universidad de California Riverside presentaron un detector de videos falsos y generados con IA. Si bien la aplicación se encuentra en etapa de desarrollo, ya presentaron auspiciosos avances en diferentes presentaciones en papers y congresos de seguridad informática.
Los académicos señalaron a través de los canales de difusión de la universidad en la que trabajan que el impulso nació de la necesidad de que la gente “sepa si lo que ve es real o no”. Amit Roy Chowdhury y Rohit Kundu, miembros de la Facultad de Ingeniería Marlan, y Rosemary Bourns, de la UCR, donde se dedican a trabajar e investigar sobre IA, desarrollaron un modelo con IA en colaboración con otros expertos de la industria tecnológica. De hecho, Kundu trabajó previamente en Google y consiguió el apoyo y la habilitación para el uso y procesamiento de datos por parte de la empresa.
El modelo es capaz de detectar la manipulación de videos en general, e involucra tanto modificación de imágenes, gestos, rostros y voces como también escenarios y paisajes.
El desarrollo, denominado Red Universal para la Identificación de Videos Manipulados y Sintéticos (Unite, por su sigla en inglés), analiza fotogramas y patrones de movimiento, explicaron. Ante la evolución y sofisticación de las deepfakes que facilitan los modelos generativos de IA, los investigadores explicaron que Unite puede detectar esas modificaciones y elaboraciones falsas. “Da miedo lo accesibles que se han vuelto estas herramientas. Cualquiera con conocimientos básicos puede eludir los filtros de seguridad y generar videos realistas de figuras públicas diciendo cosas que nunca dijeron”, explicó Kundu a la revista de la UCR, y señaló que la principal diferencia con otros modelos que han intentado fungir como detectores de veracidad es que solo se ocupaban de rasgos faciales, sin prestar atención al movimiento o los fondos, por ejemplo.
En un extenso trabajo titulado “Hacia un detector universal de video sintético: desde manipulaciones de rostros o fondos hasta contenido totalmente generado por IA” y presentado en la Conferencia Visión por Computadora y Reconocimiento de Patrones, explicaron que el método de Unite es a través de un modelo de aprendizaje profundo basado en transformadores para analizar videoclips. El análisis de saltos espacio-temporales, desacoples y la identificación de detalles no asociados a rostros u objetos es un modo novedoso de entrenar el modelo y es, según el trabajo presentado, el principal activo diferencial de la herramienta diseñada.
