UNITE: La IA argentina que le pone un freno a los deepfakes más zarpados
El avance vertiginoso de la inteligencia artificial generativa ha traído consigo una nueva era de falsificaciones digitales, donde los deepfakes son cada vez más sofisticados y difíciles de detectar. Ante este panorama, un equipo de investigadores estadounidenses desarrolló UNITE (Universal Network for Identifying Tampered and SynthEtic videos), una IA con la capacidad de desenmascarar hasta los videos más ingeniosamente manipulados.
El truco está en los detalles (y no solo en la cara)
Hasta ahora, la mayoría de las técnicas para detectar deepfakes se centraban en analizar los rasgos faciales. Sin embargo, UNITE apuesta por una estrategia más holística: examina el movimiento y la naturalidad del fondo en todo el video, tenga o no un rostro en primer plano. Como diría un buen asador, "el secreto está en la cocción pareja".
“La tecnología de deepfake se está desarrollando tan rápidamente que ya no se trata solo de intercambiar caras. Todo el video, desde la cara hasta el fondo, puede crearse fácilmente con IA generativa”, explica Rohit Kundu, investigador doctoral de la Universidad de California en Riverside. UNITE, como el gaucho matrero, está preparado para enfrentar cualquier emboscada.
Un cerebro artificial con ojos en la nuca
UNITE se basa en SigLIP, un modelo de IA desarrollado por Google, que aprende a relacionar imágenes y videos con el lenguaje natural. Utilizando técnicas de aprendizaje profundo y transformers –los mismos mecanismos que impulsan a ChatGPT–, UNITE puede detectar inconsistencias sutiles, como movimientos artificiales o fondos que no encajan. Es como tener un experto en efectos especiales analizando cada fotograma, pero sin el mate y las facturas.
El secreto de la atención diversificada
Para lograr una precisión sorprendente, los investigadores introdujeron un método de aprendizaje único: attention-diversity loss. Esta técnica evita que UNITE se obsesione con unas pocas áreas del video y distribuye su atención por toda la imagen. Es como enseñarle a un jugador de truco a no mirar solo las cartas del compañero, sino toda la mesa.
UNITE contra el mundo (de los videos falsos)
UNITE fue entrenada utilizando una amplia gama de videos falsos, desde simples manipulaciones faciales hasta videos generados completamente por IA. Su filosofía de diseño universal le permite enfrentarse a cualquier tipo de falsificación, incluso aquellas creadas con herramientas de última generación como Sora.
Los resultados son prometedores: UNITE logró una precisión superior al 87% en la detección de videos creados con Sora, un verdadero desafío para los modelos basados en el análisis facial. Es como si un equipo de fútbol de la liga sanjuanina le ganara al Real Madrid en el Bernabéu.
El equipo de investigación ya vislumbra aplicaciones prácticas para UNITE, desde la detección automática de videos falsos en redes sociales hasta la verificación de noticias y la autenticación de pruebas legales. En un mundo inundado de información digital, herramientas como UNITE son esenciales para separar la paja del trigo y evitar que nos vendan gato por liebre. Después de todo, la verdad es como el asado: siempre se disfruta más cuando está bien cocida.
