La evolución de los deepfakes que ya no se detectan ni por el latido del corazón | Release #490
Foto de portada por ksk_1990
La detección del latido del corazón, anteriormente considerada una forma efectiva de identificar deepfakes, ha sido superada. Investigaciones recientes revelan que los deepfakes modernos de alta precisión pueden replicar incluso las señales fisiológicas sutiles como los latidos humanos.
En este artículo, explicamos el trasfondo técnico y la dirección futura de los métodos de detección.
La realidad visual que genera 'latidos'
La tecnología de deepfake reciente no solo ha mejorado en realismo visual, sino que también puede replicar características fisiológicas. Un aspecto destacado es la 'visualización del latido del corazón'. Los métodos de detección que utilizan rPPG (fotopletismografía remota) solían considerar auténtico cualquier video que mostrara un latido.
Foto por take_apii1
Sin embargo, investigaciones recientes muestran que los videos generados por aprendizaje profundo pueden 'accidentalmente' heredar patrones de flujo sanguíneo del video original, replicando incluso latidos falsos.
El riesgo de detección errónea y el desafío de los técnicos
Un estudio de la Universidad Humboldt encontró que un modelo de detección que extrae latidos de videos faciales de 10 segundos puede detectar 'latidos' en videos falsos, confundiéndolos con videos reales. Esto demuestra que la premisa de 'latido presente = auténtico' ya no es válida.
El proceso de generación de video puede dejar tonos y movimientos faciales sutiles que parecen 'latidos'. Los investigadores están cambiando hacia el análisis de patrones de flujo sanguíneo local y cambios temporales en el rostro. Se señala la necesidad de combinar múltiples técnicas de detección en lugar de depender de un solo indicador.
La advertencia del avance de la tecnología AI
Este estudio también es significativo para nosotros, los creadores, ya que nos invita a replantearnos qué es lo 'real'.
Foto por mizuno takao
Mientras integramos AI en la creación de obras, debemos considerar cómo mantener la confiabilidad y originalidad. Además, crear obras sobre deepfakes puede ser un medio para provocar discusiones sociales.
