UE Mengusulkan Aturan untuk Kecerdasan Buatan untuk Membatasi Risiko

Uni Eropa meluncurkan proposal pada hari Rabu untuk mengatur kecerdasan buatan yang menyerukan aturan ketat dan perlindungan pada aplikasi berisiko dari teknologi yang berkembang pesat.

Laporan ini adalah bagian dari strategi digital blok yang lebih luas yang bertujuan mempertahankan posisinya sebagai penentu kecepatan global pada standar teknologi. Perusahaan teknologi besar yang berusaha memanfaatkan pasar Eropa yang luas dan menguntungkan, termasuk yang dari AS dan China, harus bermain dengan aturan baru yang mulai berlaku.

Komisi eksekutif Uni Eropa mengatakan ingin mengembangkan "kerangka kerja untuk kecerdasan buatan yang dapat dipercaya." Presiden Komisi Eropa Ursula von der Leyen telah memerintahkan para deputi utamanya untuk membuat pendekatan Eropa yang terkoordinasi untuk kecerdasan buatan dan strategi data 100 hari setelah dia menjabat di bulan Desember.

"Kami akan sangat berhati-hati di mana hak asasi manusia dan kepentingan yang dipertaruhkan," kata von der Leyen kepada wartawan di Brussels. "Kecerdasan buatan harus melayani orang, dan karena itu kecerdasan buatan harus selalu mematuhi hak-hak rakyat."

Para pemimpin Uni Eropa, yang tertarik untuk membangun "kedaulatan teknologi," juga merilis strategi untuk membuka data dari bisnis benua dan sektor publik sehingga dapat dimanfaatkan untuk inovasi lebih lanjut dalam kecerdasan buatan. Pejabat di Eropa, yang tidak memiliki teknologi buatan sendiri raksasa, berharap untuk mengejar ketinggalan dengan AS dan Cina dengan menggunakan blok data industri yang luas dan berkembang untuk apa yang mereka antisipasi adalah gelombang transformasi digital yang akan datang.

Mereka juga memperingatkan bahwa semakin banyak peraturan untuk perusahaan teknologi asing yang siap dengan "Digital Services Act" yang akan datang, sebuah perbaikan menyeluruh tentang bagaimana blok itu memperlakukan perusahaan digital, termasuk yang berpotensi membuat mereka bertanggung jawab atas konten ilegal yang diposting pada platform mereka. Aliran bos teknologi Silicon Valley yang mantap, termasuk Facebook CEO Mark Zuckerberg, CEO Google Sundar Pichai dan Presiden Microsoft Brad Smith, telah mengunjungi Brussels dalam beberapa pekan terakhir sebagai bagian dari upaya lobi yang nyata.

“Bukan kita yang perlu beradaptasi dengan platform saat ini. Ini adalah platform yang perlu beradaptasi dengan Eropa, ”kata Thierry Breton, komisaris untuk pasar internal. "Itu adalah pesan yang kami sampaikan kepada CEO dari platform ini ketika mereka datang menemui kami."

Jika perusahaan teknologi tidak dapat membangun sistem "untuk orang-orang kami, maka kami akan mengatur, dan kami siap untuk melakukan ini dalam Undang-Undang Layanan Digital pada akhir tahun," katanya.

Laporan Uni Eropa mengatakan aturan yang jelas diperlukan untuk mengatasi "sistem AI berisiko tinggi," seperti yang ada dalam perekrutan, perawatan kesehatan, penegakan hukum atau transportasi, yang harus "transparan, dapat dilacak dan menjamin pengawasan manusia." Sistem kecerdasan buatan lainnya dapat datang dengan label yang menyatakan bahwa mereka sesuai dengan standar UE.

Kecerdasan buatan menggunakan komputer untuk memproses set data yang besar dan membuat keputusan tanpa input manusia. Misalnya, digunakan untuk memperdagangkan saham di pasar keuangan, atau, di beberapa negara, untuk memindai wajah orang banyak untuk menemukan tersangka kriminal.

Meskipun dapat digunakan untuk meningkatkan kesehatan, membuat pertanian lebih efisien atau memerangi perubahan iklim, ia juga membawa risiko. Tidak jelas apa data sistem intelijen buatan bekerja. Sistem pengenalan wajah dapat menjadi bias terhadap kelompok sosial tertentu, misalnya. Ada juga kekhawatiran tentang privasi dan penggunaan teknologi untuk tujuan kriminal, kata laporan itu.

Pedoman yang berpusat pada manusia untuk kecerdasan buatan sangat penting karena "tidak ada hal positif yang akan dicapai jika kita tidak mempercayai teknologi," kata Margrethe Vestager, wakil presiden eksekutif yang mengawasi strategi digital UE.

Di bawah proposal, yang terbuka untuk konsultasi publik hingga 19 Mei, otoritas UE ingin dapat menguji dan mengesahkan data yang digunakan oleh algoritma yang mendukung kecerdasan buatan dengan cara yang sama seperti mereka memeriksa kosmetik, mobil dan mainan.

Sangat penting untuk menggunakan data yang tidak bias untuk melatih sistem intelijen buatan berisiko tinggi sehingga mereka dapat menghindari diskriminasi, kata komisi itu.

Secara khusus, sistem AI dapat diminta untuk menggunakan data yang mencerminkan jenis kelamin, etnis dan “kemungkinan alasan lain dari diskriminasi yang dilarang."

Gagasan lain termasuk melestarikan data untuk membantu melacak masalah apa pun dan membuat sistem AI menjabarkan dengan jelas kemampuan dan keterbatasannya. Pengguna harus diberi tahu ketika mereka berinteraksi dengan mesin dan bukan manusia sedangkan manusia harus bertanggung jawab atas sistem dan memiliki keputusan akhir tentang keputusan seperti menolak aplikasi untuk manfaat kesejahteraan, kata laporan itu.

Para pemimpin Uni Eropa mengatakan mereka juga ingin membuka debat tentang kapan untuk memungkinkan pengenalan wajah dalam sistem identifikasi jarak jauh, yang digunakan untuk memindai kerumunan orang untuk memeriksa wajah orang-orang dengan mereka yang ada dalam database. Ini dianggap sebagai "bentuk paling mengganggu" dari teknologi dan dilarang di UE kecuali dalam kasus khusus.