Falcon, sistem yang menghormati kerahasiaan saat melatih algoritme

Para peneliti mengusulkan Falcon, protokol ramah privasi untuk melatih algoritma kecerdasan buatan.

Sebuah tim peneliti, dari Princeton University, dari Microsoft, Alogrand Foundation and Technion, menyarankan Falcon. Ini adalah tentang kerangka kerja untuk melatih algoritma kecerdasan buatan diproduksi dengan semua jaminan privasi dan keamanan.

Penyebaran kecerdasan buatan telah menyebabkan Beberapa industri mengkhawatirkan masa depannya. Lebih dari kecerdasan buatan karena tugas yang ditanganinya. Singkatnya, orang-orang biasanya dari mana informasi yang mereka kerjakan berasal.

Kekhawatiran telah mencapai titik di mana Komisi Eropa sendiri telah mengusulkan serangkaian prinsip etika yang harus dipatuhi AI. Beberapa di antaranya dapat dipahami dan diterima secara universal, seperti prinsip integritas dan transparansi. Faktor pembatas semacam ini seharusnya tidak mengarah pada penerapan AI. Juga dalam pelatihannya.

Inilah yang disarankan oleh pencipta Falcon. Protokol baru Ini bertujuan untuk melindungi data yang sedang Anda kerjakan. Dengan cara yang sama, desain tidak secara otomatis membatalkan pelatihan jika file berbahaya terdeteksi atau penyerang. Ini adalah resep untuk mencegah serangan yang mengganggu algoritme dengan memengaruhi pelatihan Anda.

Dua kelas pengguna

Protokol Falcon membagi jenis pengguna yang terlibat dalam skenario penggunaan AI menjadi dua. Pertama adalah data gelasyang memiliki kumpulan data untuk pelatihan. “Tanya pengguna” adalah detik. Mereka akan mempertanyakan model AI setelah dilatih.

Agar pendidikan aman dan pribadi, pemilik data harus membagikan informasi mereka. Ini ditransmisikan ke server tempat model dilatih. Dari sana, ‘pengguna’ dapat mengajukan pertanyaan sistem. Dan di antara Falcon Izinkan privasi kumpulan data dihormatisedangkan pertanyaan untuk algoritma juga akan dijaga kerahasiaannya.

Falcon menggunakan protokol “semi-jujur”, masing-masing Kedua belah pihak harus mengikuti aturan khusus. Ini memastikan bahwa kontribusi terhadap pendidikan dan hasilnya tidak berubah. Selain itu, kerangka kerja mengurangi kompleksitas komunikasi, membuatnya lebih mudah untuk menggunakan tipe data yang lebih kecil.