Siri menghindari kontroversi menurut dokumen yang bocor dari Apple

Beberapa minggu setelah memfilter program untuk meningkatkan Siri, informasi baru telah muncul mengenai aturan di belakang asisten suara Apple. Dokumen ditawarkan kepada Wali oleh kontraktor eksternal yang sama menunjukkan bahwa Siri dirancang untuk tetap netral untuk pertanyaan yang bisa menjadi kontroversial.

Informasi ini mengungkapkan bahwa pengembang mengikuti tiga aturan untuk tanggapan: tidak berpartisipasi, mengalihkan dan menginformasikan. Ketika Anda bertanya kepada Siri, apa pendapatnya tentang feminisme, jawabannya adalah, "Saya percaya pada kesetaraan. Semua suara layak mendapat penghargaan yang sama." Masalah-masalah lain seperti supremasi kulit putih atau pelecehan dialihkan dengan tanggapan seperti "Saya sedang memikirkan truk pemadam kebakaran."

Tanggapan asisten telah berubah seiring waktu dan banyak masalah kontroversial telah ditulis ulang untuk mengatasi masalah ini, tetapi tanpa berpartisipasi secara langsung.

Dokumen yang bocor mengatakan itu Siri tidak memiliki sudut pandang, bukan manusia dan tidak memiliki jenis kelamin. Arahan utamanya adalah dari berguna setiap saat dan bercita-cita untuk menghormati tiga hukum robotika oleh Isaac Asimov, hanya diadaptasi oleh Apple dengan pendekatan berikut:

  • Makhluk artifisial tidak boleh mewakili dirinya sebagai manusia, atau secara default memungkinkan pengguna untuk percaya bahwa dia adalah manusia.
  • Makhluk artifisial tidak boleh melanggar standar etika dan moral manusia yang umumnya dipertahankan di wilayah operasinya.
  • Makhluk artifisial tidak boleh memaksakan prinsip, nilai, atau pendapatnya sendiri pada manusia.

Menghadapi penyaringan baru ini, Apple menjawab bahwa mereka bekerja keras untuk memastikan jawaban Siri relevan Untuk semua pelanggan.

Pendekatan kami harus objektif dengan respons inklusif alih-alih menawarkan pendapat.

Informasi tersebut adalah bagian dari ringkasan dokumen yang dikirim ke surat kabar Inggris oleh kontraktor yang bekerja untuk program peningkatan Siri.

Setelah mengungkapkan bahwa karyawan mendengarkan fragmen audio yang dikumpulkan selama interaksi dengan asisten, Apple Dia memutuskan untuk menunda program dan meminta maaf karena tidak transparan mengenai proses evaluasi dan perbaikan.

Pos terkait

Back to top button