Cover photo by ksk_1990
한때 딥페이크를 식별하는 유력한 방법으로 여겨졌던 '심박수 감지'. 하지만 최신 연구에 따르면, 현대의 고정밀 딥페이크는 인간의 심박수와 같은 미세한 생리적 신호까지 재현할 수 있는 것으로 밝혀졌습니다.
이번에는 기술적 배경과 향후 검출 방법의 방향성에 대해 쉽게 소개합니다.
시각적 사실성이 '심장 박동'을 가져오다
최근 딥페이크 기술은 외관의 사실성뿐만 아니라 생리적 특징까지 재현할 수 있게 되었습니다. 특히 주목받고 있는 것이 '심박수의 시각화'입니다. 피부의 미세한 색 변화 분석을 통해 rPPG(원격 광전용적맥파법)를 사용한 검출 방법에서는 과거에는 심박수가 검출되면 '진짜'로 여겨졌습니다.
Photo by take_apii1
그러나 최신 연구에 따르면, 딥러닝을 사용하여 생성된 영상이 원본 영상에 포함된 미세한 혈류 패턴을 '우연히' 계승하여 가짜 심박동까지 재현할 수 있다는 것입니다.
오탐지의 위험과 기술자의 도전
훔볼트 대학의 연구에서는 10초 정도의 얼굴 영상을 통해 심박수를 추출하는 검출 모델이 가짜 영상에서도 '심박수'를 감지하여 실제 영상으로 오인하는 사례가 다수 발생했습니다. 이로 인해 기존의 '심박동 있음=진짜'라는 전제는 더 이상 성립하지 않습니다.
영상 생성 과정에서 얼굴의 미세한 톤이나 움직임이 남아 있어 그것이 '심박동'처럼 보이는 것이 원인입니다. 연구자들은 현재 얼굴의 국소적인 혈류 패턴이나 시간적 변화를 분석하는 방향으로 전환하고 있습니다. 단일 지표에 의존하지 않고 여러 검출 기술을 결합할 필요가 있다고 지적합니다.
AI 기술의 진보가 가져오는 경고
이 연구는 우리 창작자들에게도 중요한 의미를 가질 수 있습니다. 왜냐하면 '리얼'이란 무엇인가를 다시 묻는 계기가 되기 때문입니다.
Photo by mizuno takao
작품 제작에 AI를 도입하는 한편, 어떻게 신뢰성과 독창성을 지킬 것인가. 또한, 딥페이크를 주제로 한 작품 제작도 사회적 논의를 불러일으키는 수단이 될 수 있습니다.
