Pakar AI Mengungkapkan Kekhawatiran Terhadap Surat yang Didukung Elon Musk Mengutip Penelitian Mereka

Empat pakar kecerdasan buatan telah menyatakan keprihatinannya setelah karya mereka dikutip dalam surat terbuka – yang ditandatangani bersama oleh Elon Musk – menuntut jeda mendesak dalam penelitian.

Surat itu, tertanggal 22 Maret dan dengan lebih dari 1.800 tanda tangan pada hari Jumat, menyerukan pemutus sirkuit enam bulan dalam pengembangan sistem “lebih kuat” daripada GPT-4 baru OpenAI yang didukung Microsoft, yang dapat mengadakan percakapan seperti manusia. , buat lagu dan rangkum dokumen yang panjang.

Sejak pendahulu GPT-4 ChatGPT dirilis tahun lalu, perusahaan pesaing telah bergegas meluncurkan produk serupa.

Surat terbuka itu mengatakan sistem AI dengan “kecerdasan persaingan manusia” menimbulkan risiko besar bagi umat manusia, mengutip 12 penelitian dari para ahli termasuk akademisi universitas serta karyawan OpenAI saat ini dan sebelumnya, Google dan anak perusahaannya DeepMind.

Kelompok masyarakat sipil di AS dan UE sejak itu mendesak anggota parlemen untuk mengendalikan penelitian OpenAI. OpenAI tidak segera menanggapi permintaan komentar.

Kritikus menuduh Future of Life Institute (FLI), organisasi di balik surat yang terutama didanai oleh Musk Foundation, memprioritaskan skenario apokaliptik yang dibayangkan daripada kekhawatiran yang lebih langsung tentang AI, seperti bias rasis atau seksis yang diprogram ke dalam mesin.

Di antara penelitian yang dikutip adalah “On the Dangers of Stochastic Parrots”, sebuah makalah terkenal yang ditulis bersama oleh Margaret Mitchell, yang sebelumnya mengawasi penelitian AI etis di Google.

Mitchell, sekarang kepala ilmuwan etika di perusahaan AI Hugging Face, mengkritik surat tersebut, mengatakan kepada Reuters bahwa tidak jelas apa yang dianggap “lebih kuat dari GPT4”.

“Dengan memperlakukan banyak ide yang dipertanyakan sebagai sesuatu yang diberikan, surat tersebut menegaskan serangkaian prioritas dan narasi tentang AI yang menguntungkan para pendukung FLI,” katanya. “Mengabaikan bahaya aktif saat ini adalah hak istimewa yang tidak dimiliki sebagian dari kita.”

Rekan penulisnya Timnit Gebru dan Emily M. Bender mengkritik surat itu di Twitter, dengan yang terakhir mencap beberapa klaimnya “lepas”.

Presiden FLI Max Tegmark mengatakan kepada Reuters bahwa kampanye tersebut bukanlah upaya untuk menghalangi keuntungan perusahaan OpenAI.

“Cukup lucu. Saya pernah melihat orang berkata, ‘Elon Musk mencoba memperlambat persaingan,'” katanya, seraya menambahkan bahwa Musk tidak memiliki peran dalam menyusun surat tersebut. “Ini bukan tentang satu perusahaan.”

Risiko Sekarang

Shiri Dori-Hacohen, seorang asisten profesor di University of Connecticut, juga mempermasalahkan karyanya yang disebutkan dalam surat tersebut. Dia tahun lalu ikut menulis makalah penelitian dengan alasan meluasnya penggunaan AI sudah menimbulkan risiko serius.

Penelitiannya berpendapat bahwa penggunaan sistem AI saat ini dapat memengaruhi pengambilan keputusan terkait dengan perubahan iklim, perang nuklir, dan ancaman eksistensial lainnya.

Dia mengatakan kepada Reuters: “AI tidak perlu mencapai kecerdasan tingkat manusia untuk memperburuk risiko tersebut.”

“Ada risiko non-eksistensial yang benar-benar penting, tetapi tidak menerima perhatian setingkat Hollywood yang sama.”

Diminta untuk mengomentari kritik tersebut, Tegmark dari FLI mengatakan risiko AI jangka pendek dan jangka panjang harus ditanggapi dengan serius.

“Jika kami mengutip seseorang, itu hanya berarti kami mengklaim mereka mendukung kalimat itu. Itu tidak berarti mereka mendukung surat itu, atau kami mendukung semua yang mereka pikirkan,” katanya kepada Reuters.

Dan Hendrycks, direktur Center for AI Safety yang berbasis di California, yang juga dikutip dalam surat itu, mendukung isinya, mengatakan kepada Reuters bahwa masuk akal untuk mempertimbangkan peristiwa angsa hitam – yang tampaknya tidak mungkin terjadi, tetapi akan memiliki konsekuensi yang menghancurkan.

Surat terbuka tersebut juga memperingatkan bahwa alat AI generatif dapat digunakan untuk membanjiri internet dengan “propaganda dan ketidakbenaran”.

Dori-Hacohen mengatakan itu “cukup kaya” bagi Musk untuk menandatanganinya, mengutip peningkatan informasi yang salah di Twitter setelah dia mengakuisisi platform tersebut, yang didokumentasikan oleh kelompok masyarakat sipil Common Cause dan lainnya.

Twitter akan segera meluncurkan struktur biaya baru untuk akses ke data penelitiannya, yang berpotensi menghambat penelitian tentang subjek tersebut.

“Itu berdampak langsung pada pekerjaan lab saya, dan itu dilakukan oleh orang lain yang mempelajari informasi yang salah dan salah,” kata Dori-Hacohen. “Kami beroperasi dengan satu tangan terikat di belakang.”

Musk dan Twitter tidak segera menanggapi permintaan komentar.

© Thomson Reuters 2023