Aplikasi Viral ImageNet yang melabeli selfie dicap 'rasis dan ofensif' setelah menyebut orang 'negro', 'mata sipit' dan 'tersangka pemerkosaan'

Sebuah aplikasi SELFIE telah memicu kemarahan online setelah kedapatan memuntahkan penghinaan rasial pada penggunanya.

Situs viral ImageNet Roulette tampaknya cukup polos untuk memulai, menggunakan kecerdasan buatan untuk memilih wajah dalam foto dan memberi label berdasarkan penampilan mereka.

3

Aplikasi selfie viral telah dikritik karena menyalahgunakan penggunanya. Orang yang mengirim foto untuk dianalisis oleh aplikasi ditampar dengan label seperti "orang bodoh" dan mata sipit "(kiri)Kredit: Twitter

Tetapi pengguna yang marah mengatakan alat itu telah menamparnya dengan istilah ofensif dan rasis seperti "mata sipit", "negro" dan "gook" oleh aplikasi.

Ini mungkin tampak seperti kesalahan besar, tetapi ImageNet Roulette sebenarnya dirancang untuk menyinggung.

Pencipta Kate Crawford, seorang peneliti AI, dan seniman Trevor Paglen mengatakan aplikasi ini sengaja provokatif untuk menarik perhatian pada bias yang melekat dalam AI.

ImageNet Roulette dilatih dengan jutaan gambar dan menggunakan jaringan saraf untuk mengklasifikasikan foto orang.

3

Pengguna Eric mengecam aplikasi setelah ia dicap sebagai "pelanggar pertama"Kredit: Twitter

Di seluruh situs media sosial, pengguna yang bersemangat telah memposting hasil mereka, dengan sedikit yang beruntung menerima pujian seperti "cantik", "pemimpin" atau "cantik".

Lainnya tidak begitu beruntung, dengan aplikasi memberi mereka "wink", "nerd" atau "dweeb".

Tapi ketika ribuan posting tentang aplikasi difilter, sekelompok kecil pengguna yang marah melaporkan bahwa hit telah memukul mereka dengan bahasa rasis dan ofensif.

Wartawan Julia Carrie Wong mengungkapkan dalam The Guardian bahwa aplikasi itu memanggilnya "orang bodoh".

Dia menulis: "Saya tidak tahu persis apa yang saya harapkan dari mesin untuk memberi tahu saya tentang diri saya, tetapi saya tidak mengharapkan apa yang saya dapatkan: versi baru dari headshot resmi Guardian saya, berlabel cetak hijau neon: 'gook, mata sipit '.

"Di bawah foto, label saya sangat membantu didefinisikan sebagai 'istilah yang meremehkan untuk orang Asia (terutama untuk tentara Vietnam Utara dalam Perang Vietnam)'."

Pengguna terkejut lainnya menerima Twitter untuk menyuarakan kemarahan mereka.

3

Pengguna Sydnee Wagner diberi label "mulatto", istilah rasis historis untuk seseorang yang ras campuranKredit: Twitter

Pengguna Eric mengecam aplikasi setelah ia dicap sebagai "pelanggar pertama".

Dia berkata: "Seluruh internet menyukai Imagenet AI, penggolong gambar yang membuat prediksi aneh! * 5 detik kemudian * Kami menyesal memberi tahu Anda bahwa AI itu rasis."

Pengguna Sydnee Wagner diberi label "mulatto", istilah rasis historis untuk seseorang yang ras campuran.

Dia tweeted: "Hai Peeps bahwa f ****** database Imagenet adalah F ****** RACIST.

"Aku bukan orang kulit hitam tapi aku bercampur aduk dan bisakah kau tidak bisa menggunakan kata" mulatto "pada tahun 2019 !? Aku benar-benar marah."

Pengembang Kate dan Trevor belum meminta maaf atas bahasa kotor yang digunakan oleh aplikasi.

Mereka mengatakan proyek tersebut menyoroti bias yang tidak disadari dan seringkali rasis yang dirancang ke dalam sistem AI, seringkali berasal dari kurangnya keragaman dalam cara mereka dibangun.

Apa itu kecerdasan buatan?

Inilah yang perlu Anda ketahui …

• Kecerdasan buatan, juga dikenal sebagai AI, adalah jenis perangkat lunak komputer
• Biasanya, komputer akan melakukan apa yang Anda suruh
• Tetapi kecerdasan buatan mensimulasikan pikiran manusia, dan dapat membuat kesimpulan, kesimpulan atau keputusan sendiri
• Komputer sederhana mungkin memungkinkan Anda mengatur alarm untuk membangunkan Anda
• Tetapi sistem AI mungkin memindai email Anda, mencari tahu bahwa Anda akan mengadakan pertemuan besok, dan kemudian mengatur alarm dan merencanakan perjalanan untuk Anda
• Teknologi AI sering "dilatih" – yang berarti mengamati sesuatu (berpotensi bahkan manusia) kemudian belajar tentang tugas dari waktu ke waktu
• Misalnya, sistem AI dapat memberi makan ribuan foto wajah manusia, lalu menghasilkan foto wajah manusia semuanya dengan sendirinya
• Beberapa ahli telah menyampaikan kekhawatiran bahwa manusia pada akhirnya akan kehilangan kendali atas AI yang sangat cerdas
• Tetapi dunia teknologi masih terbagi atas apakah teknologi AI pada akhirnya akan membunuh kita semua dalam kiamat ala Terminator

Sejumlah penelitian telah menemukan bahwa AI "mengejutkan rasis dan seksis" karena set data yang digunakan untuk melatih algoritma mereka tidak mengandung cukup banyak perempuan dan minoritas.

"ImageNet berisi sejumlah kategori bermasalah, ofensif, dan aneh – semuanya diambil dari WordNet," tulis pasangan itu di situs web aplikasi.

"Beberapa menggunakan terminologi misoginis atau rasis. Oleh karena itu, hasil yang dikembalikan oleh ImageNet Roulette juga akan didasarkan pada kategori tersebut.

"Itu dengan desain: kami ingin menjelaskan apa yang terjadi ketika sistem teknis dilatih tentang data pelatihan yang bermasalah.

"Klasifikasi AI orang jarang dibuat terlihat oleh orang-orang yang diklasifikasikan. ImageNet Roulette memberikan gambaran sekilas ke dalam proses itu – dan untuk menunjukkan cara-cara kesalahan bisa terjadi.

"Teknologi ini dikembangkan untuk menunjukkan pentingnya memilih data yang benar ketika melatih sistem pembelajaran mesin, untuk menghindari bias yang ditunjukkannya."

Dalam berita lain, AI menyeramkan ini membuat model dan pakaian foto-realistis dari awal.

Miliarder pendiri Microsoft, Bill Gates, baru-baru ini mengeluarkan peringatan mengerikan tentang "AI berbahaya", yang mengklaim bahwa ia menimbulkan ancaman yang sama terhadap kemanusiaan dengan senjata nuklir.

Dan, seorang pakar AI telah meramalkan bahwa asisten digital seperti Alexa akan segera bisa mengetahui kapan hubungan Anda sedang kacau.

Apakah Anda khawatir tentang AI? Beri tahu kami di komentar!

Kami membayar cerita Anda! Apakah Anda punya cerita untuk tim The Sun Online Tech & Science? Email kami di [email protected]