Mesin AI baru menganalisis pantulan di mata orang untuk mendeteksi kesalahan yang dalam

Dengan pesatnya perkembangan teknologi berbasis AI, menjadi lebih mudah dari sebelumnya untuk membodohi massa dengan gambar dan video beresolusi dalam. Mengutip potensi risikonya bagi masyarakat, perusahaan seperti Facebook, Reddit dan Microsoft telah menemukan cara dan alat untuk mendeteksi konten deepfake di platform sosial. Sekarang, tim ilmuwan komputer telah mengembangkan mesin pendeteksi deepfake berbasis AI baru. Ini mendeteksi gambar dengan kedalaman dengan memeriksa pantulan cahaya pada mata subjek.

Alat Detektor Deepfake AI Mengukur pantulan di mata

Alat baru, yang dikembangkan oleh ilmuwan komputer dari University of Buffalo, adalah sistem yang relatif sederhana. Namun, telah terbukti 94% efektif dalam mendeteksi konten deepfake.

Sebagai permulaan, gambar dan video deepfake dibuat oleh aplikasi berbasis AI yang menganalisis ribuan foto dan video dari individu kehidupan nyata yang berbeda. Setelah analisis mereka, alat tersebut kemudian dapat membuat gambar dan video yang terlihat seperti hal yang nyata tentang seseorang yang bahkan tidak ada. Selain itu, mereka dapat digunakan untuk membuat wajah palsu selebriti terkenal untuk menyebarkan informasi yang salah dan menyesatkan publik secara online.

Jadi untuk menghasilkan hasil deepfake, alat AI akan menganalisis sumber daya yang berbeda untuk memahami bagaimana seseorang bergerak, tersenyum, atau mengerutkan kening. Mereka kemudian dapat menggunakan informasi tersebut untuk secara cerdas membuat salinan digital dari individu lain yang terlihat seperti aslinya.

Bagaimana itu bekerja?

Alat pendeteksi deepfake generik sekarang akan menganalisis konten untuk elemen yang tidak wajar seperti gerakan wajah yang tidak teratur atau penghalusan kulit yang berlebihan. Namun, alat baru ini mengandalkan pantulan cahaya di mata subjek untuk mendeteksi gambar dan video definisi dalam.

Menurut para ilmuwan, ini disebabkan oleh pantulan sumber cahaya pada mata subjek adalah sesuatu yang tidak diperhitungkan oleh alat berbasis AI saat membuat konten deepfake. Akibatnya, mata dalam gambar kedalaman menggambarkan pantulan yang berbeda pada setiap kornea sementara itu harus sama pada kedua mata jika subjeknya nyata. Anda dapat melihat gambar perbandingan tepat di bawah ini untuk pemahaman yang lebih baik.

Para ilmuwan menambahkan bahwa mesin deepfake juga tidak sepenuhnya memahami anatomi manusia dan bagaimana elemen tertentu berubah ketika berinteraksi dengan dunia fisik. Refleksi pada mata adalah salah satu faktor yang berubah tergantung pada sumber cahaya di depan subjek pada saat foto atau video diambil.

Jadi mesin deepfake ini memanfaatkan ketidakkonsistenan konten deepfake ini untuk mendeteksinya dengan sukses. Ini menganalisis gambar dan menghasilkan skor kesamaan. Skor kesamaan yang tinggi berarti bahwa gambar tersebut tidak mungkin berakar dalam, sedangkan skor yang rendah berarti bahwa gambar tersebut lebih mungkin palsu.

Masalah Dikenal

Sekarang, perlu disebutkan bahwa alat ini memiliki beberapa masalah sendiri. Misalnya, tidak berfungsi jika subjek tidak melihat ke kamera atau salah satu mata subjek tidak terlihat di gambar. Namun, para ilmuwan berharap untuk menghilangkan masalah ini dengan mengembangkan alat lebih lanjut dalam beberapa hari mendatang.

Saat ini, alat ini dapat dengan mudah mendeteksi deepfake yang tidak terlalu rumit. Namun, untuk konten deepfake berkualitas lebih tinggi, alat ini mungkin sedikit kesulitan dan mungkin tidak seakurat itu.