กูเกิลและโครงการ Jigsaw ของกูเกิลสร้างชุดข้อมูล Deep Fake Detection โดยลงทุนจ้างนักแสดง 28 คนที่ยินยอมให้ใช้ใบหน้าเพื่อการวิจัย ถ่ายวิดีโอในท่าทางต่างๆ รวม 363 รายการ และสร้างวิดีโอปลอมผ่านทาง Deepfake เทคนิคต่างๆ อีก 3,068 วิดีโอ เพื่อพัฒนาการตรวจจับวิดีโอ Deepfake

ชุดข้อมูลนี้จะถูกรวมเข้าไว้ในข้อมูล FaceForensics ที่ดูแลโดย Technical University of Munich และ University Federico II of Naples ที่เคยสร้างชุดข้อมูลจากวิดีโอ YouTube มาก่อนหน้านี้ โดยข้อมูลชุดใหม่จะดาวน์โหลดได้ต่อเมื่อกรอกแบบฟอร์มยอมรับข้อตกลงก่อน แล้วทีมงานจะส่งลิงก์ดาวน์โหลดมาให้ภายหลัง

Hao Li ผู้ช่วยศาสตราจารย์ด้านคอมพิวเตอร์กราฟิกจาก University of Southern California และผู้อำนวยการห้องวิจัยกราฟิกและการมองเห็นให้สัมภาษณ์กับช่อง CNBC ว่าเขาเชื่อว่าเทคโนโลยี Deepfake ที่ใช้แปลงใบหน้าคนลงบนวิดีโออื่นนั้นจะไปสู่จุดที่คนทั่วไปสามารถสร้างวิดีโอที่สมจริงได้ภายในระยะเวลา 6 เดือนถึง 1 ปีข้างหน้า

Hao ระบุว่าด้วยเทคโนโลยีปัจจุบันก็เพียงพอที่จะสร้างวิดีโอที่น่าเชื่อถือได้อยู่แล้ว แต่สำหรับโปรแกรม Deepfake ที่แจกออกมานั้น คนทั่วไปยังคงสามารถมองออกได้โดยง่ายว่าเป็นวิดีโอปลอม

จากประเด็น ZAO แอพจีน สลับหน้าให้เราเป็นดาราในโปสเตอร์หนัง สร้างความกังวลให้ชาวเน็ตว่าอาจจะมีการเก็บข้อมูลส่วนตัวเยอะเกินความจำเป็น ล่าสุด WeChat ออกมาประกาศว่าปิดไม่ให้ดาวน์โหลดแอพ ZAO แล้ว

คลิป deepfake จากเดิมทีระบาดในหนังโป๊ โดยการตัดต่อใบหน้าคนดังเข้าไปแทนดาราหนังโป๊ เดือดร้อนให้เว็บไซต์หนังโป๊ต้องออกมาแก้ไข และรีบแบนคลิปออก ล่าสุด deepfake ไม่ได้จำกัดอยู่แค่วงการหนังโป๊แต่ลามมาวงการข่าวสารด้วย