ChatGPT memasuki dunia regulasi yang menyakitkan di Eropa – POLITICO

ChatGPT telah mempersiapkan diri untuk perjalanan yang sulit dengan pengawas privasi Eropa yang kuat.

Chatbot adalah sensasi terpanas dari teknologi kecerdasan buatan tetapi terkena larangan sementara di Italia Jumat lalu dengan alasan dapat melanggar buku aturan privasi Eropa, Peraturan Perlindungan Data Umum (GDPR).

Larangan Italia hanyalah awal dari masalah ChatGPT, karena membuka diri untuk kasus privasi di seluruh blok dan menjalankan teknologi mutakhir yang membuat marah pemerintah atas risiko mulai dari perlindungan data hingga kesalahan informasi, kejahatan dunia maya, penipuan, dan kecurangan dalam ujian sekolah.

OpenAI, organisasi yang menciptakan ChatGPT, berjalan dengan target di punggungnya: Ia belum mendirikan kantor pusat lokal di salah satu dari 27 negara Uni Eropa, yang berarti otoritas perlindungan data negara anggota mana pun dapat meluncurkan investigasi baru dan menegakkan larangan.

Sebelumnya, Google menghadapi denda GDPR €50 juta di Prancis yang dikenakan sebelum raksasa teknologi AS itu secara resmi memusatkan pengaturan hukum Eropa di Irlandia. TikTok juga telah menghadapi beberapa penyelidikan privasi dan denda dari otoritas Belanda, Italia, dan Prancis sebelum secara resmi mendirikan toko di Irlandia pada tahun 2021.

Regulator data Eropa sedang mempertimbangkan langkah selanjutnya untuk menyelidiki dugaan penyalahgunaan seperti rekan mereka di Italia.

Komisi Perlindungan Data Irlandia mengatakan “akan berkoordinasi dengan semua UE [data protection authorities] sehubungan dengan masalah ini,” menurut juru bicara Graham Doyle. Otoritas perlindungan data Belgia juga mengatakan bahwa potensi pelanggaran ChatGPT “harus didiskusikan di [the] Tingkat Eropa.”

Otoritas perlindungan data Prancis CNIL menerima setidaknya dua keluhan terhadap ChatGPT, atas dasar pelanggaran privasi termasuk GDPR, lapor L’Informé.

Di Norwegia, “sampai saat ini kami belum meluncurkan penyelidikan ke ChatGPT, tetapi kami tidak mengesampingkan apa pun untuk masa depan,” kata Tobias Judin, kepala pekerjaan internasional untuk regulator perlindungan data Datatilsynet.

Sementara OpenAI membantah melanggar undang-undang privasi UE, kepala eksekutif perusahaan Sam Altman dikatakan di Twitter bahwa perusahaannya tunduk pada “pemerintah Italia” untuk larangan tersebut – tampaknya membingungkan regulator independen negara untuk pemerintah.

“Italia adalah salah satu negara favorit saya dan saya berharap dapat segera berkunjung lagi,” kata Altman.

Otoritas perlindungan data Italia mengatakan pada 6 April bahwa OpenAI terbuka untuk mengatasi potensi pelanggaran undang-undang privasi UE, setelah panggilan video dengan eksekutif perusahaan.

Hukum yang harus diikuti

Bukan hanya privasi yang menyebabkan sistem AI seperti ChatGPT menimbulkan kekhawatiran.

Pada akhir Maret, seorang pemuda Belgia bunuh diri setelah berminggu-minggu melakukan percakapan dengan chatbot berbasis AI bernama Eliza, lapor surat kabar Belgia La Libre. Pekan lalu, maestro teknologi Elon Musk bersama ribuan pakar AI menyerukan penghentian sementara pengembangan ChatGPT karena “risiko besar bagi kemanusiaan”.

Kelompok advokasi mengikutinya. Di AS, Center for AI and Digital Policy telah meminta Komisi Perdagangan Federal Amerika untuk menyelidiki OpenAI dan memblokir rilis lebih lanjut dari botnya. Di Brussel minggu lalu, pengawas konsumen BEUC memohon kepada regulator Eropa dan nasional untuk menyelidiki ChatGPT, memperingatkan bahwa buku aturan AI UE yang akan datang mungkin sudah terlambat untuk mencegah bahaya.

Anggota parlemen Eropa juga sedang menegosiasikan batasan hukum pada teknologi tersebut sebagai bagian dari draf Undang-Undang Kecerdasan Buatan UE.

Tetapi kurangnya undang-undang tentang kecerdasan buatan telah memberanikan regulator perlindungan data untuk turun tangan.

“Regulator perlindungan data perlahan-lahan menyadari bahwa mereka adalah regulator AI,” kata Gabriela Zanfir-Fortuna, think tank Future of Privacy Forum.

Regulator privasi menegakkan GDPR, termasuk aturannya seputar pengumpulan data dan perlindungan pengguna terhadap pengambilan keputusan otomatis. Perusahaan seperti OpenAI perlu memiliki dasar hukum untuk mengumpulkan dan menggunakan data pribadi, bersikap transparan tentang cara mereka menggunakan data orang, menjaga keakuratan data pribadi, dan memberi orang hak untuk mengoreksi.

OpenAI tidak pernah mengungkapkan dataset apa yang digunakan untuk melatih model AI yang mendasari chatbot. Bahkan peneliti di Microsoft, yang merupakan investor utama OpenAI, mengatakan dalam sebuah makalah baru-baru ini bahwa mereka “tidak memiliki akses ke rincian lengkap dari [ChatGPT] data pelatihan yang luas.”

Perusahaan pengenalan wajah Clearview AI sebelumnya didenda dan diperintahkan oleh regulator privasi untuk menghapus gambar orang Italia, Prancis, dan Inggris yang telah dikumpulkannya secara online untuk membangun algoritmenya karena tidak memiliki dasar hukum untuk melakukannya.

Fakta bahwa ChatGPT mengalami pelanggaran data dan mengungkap percakapan pengguna dan informasi pembayaran penggunanya pada bulan Maret hanya menambah kesengsaraannya.

Keputusan Italia untuk menghentikan ChatGPT di jalurnya adalah “seruan bangun,” kata Dessislava Savova, mitra yang berfokus pada teknologi di firma hukum Clifford Chance. “Ini sebenarnya akan memicu dialog di Eropa dan akan mempercepat pengambilan posisi. oleh regulator lainnya.”

Laura Kayali berkontribusi melaporkan.

Artikel ini telah diperbarui untuk mencerminkan bahwa kelompok advokasi termasuk BEUC telah meminta regulator untuk menyelidiki ChatGPT, dan untuk mencerminkan perkembangan baru sehubungan dengan pekerjaan regulator Italia dan Prancis di OpenAI.