Facebook dia akan melawan 'deepfakes' dengan menciptakan model manipulasi audiovisualnya sendiri (dan itu masuk akal)

Ancaman baru jadi dari deepfakes Mulai khawatir platform sosial. Peningkatan video yang dimanipulasi dari realisme signifikan meningkat dan efek disinformasi dapat menghancurkan. Itu sebabnya Facebook, Microsoft dan organisasi lain telah bekerja sama dengan beberapa institusi akademik di Amerika Serikat untuk memerangi mereka.

Paradoksnya adalah itu mereka perlu membuat model sendiri untuk menghasilkan video yang dimanipulasi oleh kecerdasan buatan. Meski sulit dipercaya.

Alat deteksi deepfakes perlu dilatih dan tidak ada cukup contoh untuk mencapainya secara efektif

Sementara database besar penuh jutaan gambar telah berfungsi untuk melatih sistem kecerdasan buatan dalam mengenali hampir semua elemen yang ada dalam foto, industri tidak memiliki set data referensi yang besar deepfakes yang dapat digunakan untuk melatih sistem dan, karenanya, untuk mendeteksi dan memerangi mereka.

Facebook akan menginvestasikan 10 juta dolar untuk melawan 'deepfakes'

Itu sebabnya Facebook, Microsoft, Kemitraan dalam AI dan akademisi dari Cornell Tech, MIT, Universitas Oxford, UC Berkeley, Universitas Maryland, College Park dan Universitas di Albany-SUNY telah bekerja sama untuk membangun Tantangan Pendeteksian Deepfake (DFDC).

"Tujuan dari tantangan ini adalah untuk menghasilkan teknologi yang dapat digunakan semua orang untuk mendeteksi dengan lebih baik ketika kecerdasan buatan telah digunakan untuk mengubah video untuk menipu pemirsa. Tantangan Pendeteksi Deepfake akan mencakup kumpulan data dan papan peringkat, serta hibah dan penghargaan , untuk merangsang industri untuk menciptakan cara baru dalam mendeteksi dan mencegah media yang dimanipulasi melalui kecerdasan buatan digunakan untuk menipu orang lain. "

Mengingat pentingnya ketersediaan data gratis yang dapat digunakan oleh masyarakat, sendiri Facebook akan menggunakan aktor untuk menghasilkan deepfakes yang dapat digunakan untuk berkontribusi pada tantangan. Dan mereka memperingatkan, jika timbul kecurigaan, bahwa data dari pengguna jejaring sosial tidak akan digunakan kapan saja.

Antara penghargaan dan dana penelitian, perusahaan dipimpin oleh Mark Zuckerberg mendedikasikan lebih dari 10 juta dolar untuk mendukung proyek ini. DFDC akan membantu perusahaan, lembaga, administrasi, dan media untuk menggunakan data dan membuat alat deteksi mereka sendiri.

Bagikan Facebook dia akan melawan 'deepfakes' dengan menciptakan model manipulasi audiovisualnya sendiri (dan itu masuk akal)