Evolusi Deepfake yang Tidak Lagi Dapat Dideteksi dengan Detak Jantung | Release #490
Cover photo by ksk_1990
Deteksi detak jantung dulu dianggap sebagai cara yang efektif untuk mengidentifikasi deepfake. Namun, penelitian terbaru menunjukkan bahwa deepfake modern yang sangat akurat dapat mereproduksi sinyal fisiologis halus seperti detak jantung manusia.
Kali ini, kami akan memperkenalkan latar belakang teknis dan arah metode deteksi di masa depan dengan cara yang mudah dipahami.
Kerealistisan Visual Membawa 'Detak Jantung'
Teknologi deepfake terkini tidak hanya dapat mereplikasi kerealistisan visual, tetapi juga fitur fisiologis. Salah satu yang paling diperhatikan adalah 'visualisasi detak jantung'. Metode deteksi menggunakan rPPG (remote photoplethysmography) yang menganalisis perubahan warna kulit halus, sebelumnya dianggap bahwa jika detak jantung terdeteksi, maka itu 'asli'.
Namun, menurut penelitian terbaru, video yang dihasilkan dengan pembelajaran mendalam dapat secara 'kebetulan' mewarisi pola aliran darah halus yang ada dalam video asli, bahkan mereplikasi detak jantung palsu.
Risiko Deteksi Salah dan Tantangan Teknisi
Penelitian di Universitas Humboldt menunjukkan bahwa model deteksi yang mengekstraksi detak jantung dari video wajah selama sekitar 10 detik dapat mendeteksi 'detak jantung' dalam video palsu, menyebabkan banyak kasus salah identifikasi sebagai video asli. Oleh karena itu, asumsi lama bahwa 'ada detak jantung = asli' tidak lagi berlaku.
Proses pembuatan video menyisakan nada dan gerakan wajah yang halus, yang tampak seperti 'detak jantung'. Para peneliti kini beralih ke analisis pola aliran darah lokal dan perubahan temporal pada wajah. Mereka menunjukkan bahwa perlu menggabungkan beberapa teknologi deteksi tanpa mengandalkan satu indikator saja.
Peringatan dari Kemajuan Teknologi AI
Penelitian ini mungkin memiliki arti penting bagi kita sebagai kreator. Karena ini menjadi kesempatan untuk mempertanyakan kembali apa itu 'realitas'.
Sambil mengintegrasikan AI dalam pembuatan karya, bagaimana kita menjaga kepercayaan dan orisinalitas. Selain itu, pembuatan karya dengan tema deepfake juga dapat menjadi sarana untuk memicu diskusi sosial.
