ChatGPT Menghadapi Masalah Lain saat Kepala UE Menyarankan Aturan AI Baru untuk Mengatasi Risiko

Kepala industri UE Thierry Breton mengatakan aturan baru kecerdasan buatan yang diusulkan akan bertujuan untuk mengatasi kekhawatiran tentang risiko seputar chatbot ChatGPT dan teknologi AI, dalam komentar pertama pada aplikasi oleh pejabat senior Brussels.

Hanya dua bulan setelah diluncurkan, ChatGPT — yang dapat menghasilkan artikel, esai, lelucon, dan bahkan puisi sebagai tanggapan atas permintaan — telah dinilai sebagai aplikasi konsumen dengan pertumbuhan tercepat dalam sejarah.

Beberapa ahli telah menimbulkan kekhawatiran bahwa sistem yang digunakan oleh aplikasi semacam itu dapat disalahgunakan untuk plagiarisme, penipuan, dan penyebaran informasi yang salah, bahkan ketika pendukung kecerdasan buatan menyebutnya sebagai lompatan teknologi.

Breton mengatakan risiko yang ditimbulkan oleh ChatGPT – gagasan dari OpenAI, sebuah perusahaan swasta yang didukung oleh Microsoft – dan sistem AI menggarisbawahi kebutuhan mendesak akan peraturan yang dia usulkan tahun lalu dalam upaya untuk menetapkan standar global untuk teknologi tersebut. Aturan tersebut saat ini sedang dibahas di Brussel.

“Seperti yang dipamerkan oleh ChatGPT, solusi AI dapat menawarkan peluang besar bagi bisnis dan warga negara, tetapi juga dapat menimbulkan risiko. Inilah mengapa kami membutuhkan kerangka peraturan yang kuat untuk memastikan AI yang dapat dipercaya berdasarkan data berkualitas tinggi,” katanya kepada Reuters dalam komentar tertulis. .

Microsoft menolak mengomentari pernyataan Breton. OpenAI — yang aplikasinya menggunakan teknologi yang disebut AI generatif — tidak segera menanggapi permintaan komentar.

OpenAI mengatakan di situs webnya bahwa pihaknya bertujuan untuk menghasilkan kecerdasan buatan yang “bermanfaat bagi seluruh umat manusia” karena berupaya membangun AI yang aman dan bermanfaat.

Di bawah draf aturan UE, ChatGPT dianggap sebagai sistem AI tujuan umum yang dapat digunakan untuk berbagai tujuan termasuk yang berisiko tinggi seperti pemilihan kandidat untuk pekerjaan dan penilaian kredit.

Breton ingin OpenAI bekerja sama erat dengan pengembang hilir sistem AI berisiko tinggi untuk memungkinkan kepatuhan mereka terhadap Undang-Undang AI yang diusulkan.

“Hanya fakta bahwa AI generatif baru dimasukkan dalam definisi menunjukkan kecepatan perkembangan teknologi dan bahwa regulator sedang berjuang untuk mengikuti kecepatan ini,” kata seorang mitra di sebuah firma hukum AS.

KEKHAWATIRAN ‘RISIKO TINGGI’

Perusahaan khawatir teknologi mereka diklasifikasikan dalam kategori AI “berisiko tinggi” yang akan mengarah pada persyaratan kepatuhan yang lebih ketat dan biaya yang lebih tinggi, menurut eksekutif beberapa perusahaan yang terlibat dalam pengembangan kecerdasan buatan.

Sebuah survei oleh badan industri menerapkan AI menunjukkan bahwa 51 persen responden mengharapkan perlambatan aktivitas pengembangan AI mereka sebagai akibat dari Undang-Undang AI.

Peraturan AI yang efektif harus berpusat pada aplikasi berisiko tertinggi, tulis Presiden Microsoft Brad Smith dalam posting blog pada hari Rabu.

“Ada hari-hari ketika saya optimis dan ada saat-saat ketika saya pesimis tentang bagaimana umat manusia akan menggunakan AI,” katanya.

Breton mengatakan Komisi Eropa bekerja sama dengan Dewan Uni Eropa dan Parlemen Eropa untuk lebih mengklarifikasi aturan dalam UU AI untuk sistem AI tujuan umum.

“Masyarakat perlu diberi tahu bahwa mereka berurusan dengan chatbot dan bukan dengan manusia. Transparansi juga penting terkait dengan risiko bias dan informasi palsu,” katanya.

Model AI generatif perlu dilatih pada teks atau gambar dalam jumlah besar untuk membuat respons yang tepat yang mengarah ke dugaan pelanggaran hak cipta.

Breton mengatakan diskusi mendatang dengan anggota parlemen tentang peraturan AI akan mencakup aspek-aspek ini.

Kekhawatiran tentang plagiarisme oleh siswa telah mendorong beberapa sekolah umum AS dan Sciences Po universitas Prancis untuk melarang penggunaan ChatGPT.

© Thomson Reuters 2023