Asisten yang cerdas mungkin membuat kita lebih longgar tentang privasi

Mungkin ada sedikit debat bahwa asisten cerdas yang didukung AI menjadi sangat berguna. Mereka mulai menyenangkan tetapi tanpa banyak utilitas dan kadang-kadang bahkan menjadi lelucon berkat perintah salah dengar. Namun hari ini, suka Amazon Alexa, Google Assistant, dan Apple Siri telah menjadi bagian normal dari kehidupan teknologi modern, dengan atau tanpa speaker pintar yang terlibat. Tetapi untuk semua manfaat dan bantuan mereka, layanan ini mungkin membuat orang kurang waspada tentang apa yang mereka katakan dan lakukan dan, ternyata, ucapan-ucapan rahasia itu mungkin tidak begitu rahasia sama sekali.

Kebenaran tentang speaker pintar

Mereka mungkin tampak seperti perangkat ajaib yang mengeluarkan getaran Star Trek tetapi, pada awalnya, speaker pintar adalah bahan tertawaan di dunia teknologi. Sedikit yang tahu apa yang harus dilakukan Amazon Gema dan tubuh silindernya yang aneh. Sebelum kita menyadarinya, berkat pemasaran yang agresif oleh perusahaan, orang-orang seperti Echo, Google Home, dan HomePod telah menjadi hal yang biasa di antara para teknisi.

Semakin banyak peralatan dan aksesori telah mulai mengintegrasikan asisten pintar ini, kebanyakan dari mereka menawarkan dunia pengetahuan dan kontrol dengan menekan tombol atau dengan kalimat pemicu.

Yang terakhir adalah kenyamanan utama karena Anda hanya perlu mengatakan kata dan, seperti jin, jawabannya, jika ada, dikirim ke telinga Anda. Tetapi kenyamanan itu tidak terjadi dengan sihir. Secara teknis, diperlukan bahwa perangkat ini, terutama speaker pintar, selalu mendengarkan.

Pembuat speaker yang cerdas tentu saja akan bersikeras dan mengklarifikasi bahwa speaker tidak benar-benar merekam ini sepanjang waktu dan bahwa itu hanya mulai benar-benar menganalisis atau merekam pidato setelah mendengar kalimat pemicu. Sayangnya, justru di situlah masalahnya dimulai.

Katakan itu lagi?

Terlepas dari pengakuan suara dan ucapan selama beberapa dekade, asisten yang pintar hampir tidak pernah salah bahkan dalam membedakan nama mereka sendiri. Mungkin lelucon yang membuat asisten AI dapat salah menafsirkan frasa tertentu untuk pemicu mereka, tetapi itu memiliki implikasi serius.

Jika asisten cerdas hanya mulai merekam klip audio setelah pelatuk dikatakan, itu berarti ia juga merekam semua yang dikatakan setelah bangun yang tidak disengaja seperti itu, baik pengguna menyadarinya atau tidak.

Itu, pada kenyataannya, mengarah pada setidaknya satu contoh dan memalukan di mana percakapan tertentu yang direkam dan dikirim ke beberapa kontak acak. Pemicu kecelakaan seperti itu juga digunakan untuk membenarkan pemberian makan asisten AI dengan data, yaitu, menyerahkan rekaman sampel ke perusahaan, untuk meningkatkan layanan mereka. Apa yang sebenarnya tidak dikatakan oleh perusahaan-perusahaan itu kepada para pengguna adalah apa yang terlibat dalam proses itu.

Pembelajaran mesin yang dibantu manusia

Mengingat bagaimana itu digambarkan oleh media, banyak orang melihat AI dan pembelajaran mesin sebagai saus ajaib yang membuat setiap bagian dari perangkat lunak cerdas. Beberapa setidaknya akan menyadari jumlah data yang rumit dan besar yang terlibat untuk sampai pada prestasi mengesankan dari komputasi komputasi. Karena itu, sedikit yang mungkin membayangkan jumlah intervensi manusia langsung yang terlibat dalam pelatihan asisten AI ini.

Tidak seperti aplikasi pembelajaran mesin lainnya, asisten cerdas tidak bisa hanya bekerja pada set data yang benar-benar acak. Agar benar-benar bermanfaat dan relevan, mereka harus bekerja pada kata dan frasa yang diucapkan sebenarnya. Kadang-kadang mereka mungkin melakukan kesalahan, di mana elemen manusia masuk.

Tidak seperti aplikasi pembelajaran mesin lainnya, asisten yang ditenagai AI harus kadang-kadang diberi tahu bahwa mereka melakukan kesalahan sehingga mereka dapat meningkat dan dibutuhkan telinga manusia untuk melakukan itu. Sayangnya, itulah rahasia kotor yang dijaga industri ini hingga baru-baru ini diungkapkan.

Dindingnya punya telinga

Mungkin terdengar seperti kasus untuk segera memboikot teknologi ini tetapi, mari kita hadapi itu, itu tidak akan pernah terjadi. Tidak hanya mereka sudah terlalu mendarah daging dalam kehidupan modern dan kesadaran, tetapi asisten pintar dan perangkat pintar yang mereka datangi juga telah membuktikan diri mereka benar-benar berguna.

Pembicara pintar hanya merupakan fokus penelitian terbaru. Smartphone sebenarnya telah melakukan hal yang sama sampai batas tertentu selama bertahun-tahun sekarang. Sebentar lagi, apa saja dan segala sesuatu akan mengikat asisten pintar atau bahkan membuatnya built-in. Segera semuanya akan terhubung.

Alih-alih mengabaikan semua kemajuan modern, pengguna, pengembang, dan pendukung privasi harus mengambil kesempatan untuk mengarahkan industri yang baru lahir sementara ini belum terlambat. Perusahaan harus dimintai pertanggungjawaban dan harus mengungkapkan praktik yang membahayakan privasi pengguna dengan cara apa pun.

Pengguna juga harus dibuat sadar akan risiko yang akan mereka ambil sehingga mereka dapat membuat keputusan yang berpendidikan apakah berlangganan kenyamanan itu atau tidak. Seperti biasa, kewaspadaan adalah harga yang harus dibayar untuk melindungi kebebasan dan privasi. Sayangnya, sementara pelanggaran privasi dan privasi selalu menjadi topik hangat, hanya sedikit yang menganggapnya serius.