Dua Peneliti Menciptakan Generator Teks OpenAI “Berbahaya”

Pada hari Kamis, sepasang lulusan master dari Ilmu Komputer meluncurkan generator teks AI berdasarkan GPT-2, sebuah program OpenAI yang didukung Elon Musk yang dirahasiakan dari rilis publik dengan alasan keprihatinan atas dampak sosial dari itu.

Namun, dua peneliti, Aaron dan Vanya percaya bahwa perangkat lunak tidak memiliki risiko apa pun bagi masyarakat – belum. Menurut Wired, keduanya ingin membuktikan bahwa siapa pun dapat mengembangkan perangkat lunak, terlepas dari status ekonomi mereka.

Untuk meniru GPT-2, keduanya menggunakan komputasi awan gratis senilai $ 50.000 dari Google. Lulusan penelitian juga memberi makan jutaan laman web ke perangkat lunak ML, yang dikumpulkan dengan menggali tautan yang dibagikan di Reddit.

Sama seperti OpneAI GPT-2, perangkat lunak yang baru dibuat menganalisis pola bahasa dan dapat digunakan untuk banyak tugas – Terjemahan, obrolan, datang dengan jawaban yang belum pernah terjadi sebelumnya dan banyak lagi. Namun, kekhawatiran yang paling mengkhawatirkan di antara para ahli adalah penciptaan teks sintetis, akibatnya, berita palsu.

David Luan, wakil presiden teknik di OpenAI pernah mengatakan kepada Wired, "Bisa jadi seseorang yang memiliki niat jahat akan dapat menghasilkan berita palsu berkualitas tinggi". Karena ini dan bahaya lainnya, tim memutuskan untuk menahan model. Namun, itu mengeluarkan sebuah makalah penelitian.

Sebelumnya, sudah ada iterasi GPT-2. Faktanya, beberapa orang telah merilis model bahasa online berdasarkan perangkat lunak OpenAI. Tentu saja, mereka tidak menggunakan model asli yang menggunakan "8 juta halaman web", namun masih menggunakan versi sebelumnya. Anda bisa mencobanya sendiri.

Meskipun mereka bagus untuk bermain-main, mereka tampaknya tidak menghasilkan pernyataan yang logis. Wired, yang menguji GPT-2 asli dan model baru juga, menulis, "Perangkat lunak pembelajaran mesin mengambil pola statistik bahasa, bukan pemahaman dunia yang sebenarnya."