Cover photo by ksk_1990
Trước đây, phát hiện nhịp tim được coi là phương pháp hiệu quả để nhận diện deepfake. Tuy nhiên, nghiên cứu mới nhất cho thấy deepfake hiện đại có thể tái tạo các tín hiệu sinh lý tinh vi như nhịp tim của con người.
Lần này, chúng tôi sẽ giới thiệu một cách dễ hiểu về bối cảnh kỹ thuật và hướng đi của các phương pháp phát hiện trong tương lai.
Sự chân thực của hình ảnh mang lại “nhịp đập”
Công nghệ deepfake gần đây không chỉ tái tạo được sự chân thực của hình ảnh mà còn cả các đặc điểm sinh lý. Đặc biệt, việc “hiển thị nhịp tim” đang được chú ý. Phương pháp phát hiện sử dụng rPPG (phương pháp quang điện tích từ xa) phân tích sự thay đổi màu da tinh tế, trước đây nếu phát hiện nhịp tim thì được coi là “thật”.
Tuy nhiên, nghiên cứu mới nhất cho thấy video được tạo ra bằng học sâu có thể vô tình kế thừa các mẫu lưu lượng máu tinh tế từ video gốc và thậm chí tái tạo nhịp đập giả.
Rủi ro nhận diện sai và thách thức của kỹ thuật viên
Nghiên cứu của Đại học Humboldt cho thấy mô hình phát hiện nhịp tim từ video khuôn mặt dài khoảng 10 giây có thể phát hiện “nhịp tim” trong video giả, dẫn đến nhiều trường hợp nhầm lẫn với video thật. Điều này làm cho tiền đề “có nhịp đập = thật” không còn đứng vững.
Nguyên nhân là do trong quá trình tạo video, các tông màu và chuyển động tinh tế của khuôn mặt vẫn còn, tạo ra hình ảnh giống như “nhịp đập”. Các nhà nghiên cứu hiện đang chuyển hướng sang phân tích các mẫu lưu lượng máu cục bộ và sự thay đổi theo thời gian của khuôn mặt. Họ chỉ ra rằng cần kết hợp nhiều kỹ thuật phát hiện thay vì dựa vào một chỉ số duy nhất.
Cảnh báo từ sự tiến bộ của công nghệ AI
Nghiên cứu này có ý nghĩa quan trọng đối với chúng tôi, những người sáng tạo. Vì nó là cơ hội để đặt lại câu hỏi “thế nào là thật”.
Trong khi tích hợp AI vào quá trình sáng tạo, làm thế nào để bảo vệ tính đáng tin cậy và tính nguyên bản. Ngoài ra, việc tạo ra các tác phẩm với chủ đề deepfake cũng có thể trở thành phương tiện gây ra các cuộc thảo luận xã hội.
