Seorang Pria Ditangkap di China karena Menyalahgunakan ChatGPT untuk Menghasilkan Berita Palsu tentang Kecelakaan Kereta Api

Polisi China telah menahan seorang pria karena diduga membuat berita palsu tentang kecelakaan kereta api dan menyebarkannya secara online menggunakan teknologi kecerdasan buatan untuk “meramu informasi” dan mempostingnya di banyak akun, yang dilaporkan sebagai penangkapan pertama di China karena penyalahgunaan ChatGPT.

Polisi di provinsi Gansu barat laut mengatakan dalam sebuah pernyataan pada hari Minggu bahwa seorang tersangka bermarga Hong telah ditahan karena “menggunakan teknologi kecerdasan buatan untuk mengarang informasi palsu dan tidak benar”.

Kasus ini pertama kali menarik perhatian divisi dunia maya dari biro polisi daerah ketika mereka menemukan artikel berita palsu yang mengklaim bahwa sembilan orang tewas dalam kecelakaan kereta lokal pada 25 April, South China Morning Post yang berbasis di Hong Kong melaporkan pada hari Senin. .

Petugas keamanan siber di wilayah Kongtong menemukan artikel tersebut diposting secara bersamaan oleh lebih dari 20 akun di Baijiahao, platform bergaya blog yang dijalankan oleh raksasa mesin pencari China Baidu.

Cerita-cerita itu telah menerima lebih dari 15.000 klik pada saat itu menjadi perhatian pihak berwenang, katanya.

Departemen keamanan publik Gansu mengatakan Hong dicurigai melakukan kejahatan “memicu pertengkaran dan memprovokasi masalah”, tuduhan yang biasanya diancam hukuman maksimal lima tahun. Namun dalam kasus yang dianggap sangat parah, pelaku dapat dipenjara selama 10 tahun dan diberikan hukuman tambahan, lapor The Post.

Ini adalah pertama kalinya publik mengetahui penangkapan oleh otoritas China setelah ketentuan pertama Beijing untuk mengatur penggunaan teknologi “deepfake” secara resmi mulai berlaku pada Januari, katanya.

Polisi mengatakan mereka menelusuri asal-usul artikel tersebut ke sebuah perusahaan milik tersangka Hong, yang mengoperasikan platform media pribadi yang terdaftar di Shenzhen di provinsi Guangdong di China selatan. Sekitar 10 hari kemudian tim polisi menggeledah rumah Hong dan komputernya dan menahannya.

Pernyataan itu mengatakan Hong mengaku melewati fungsi cek duplikasi Baijiahao untuk mempublikasikan di beberapa akun yang dia peroleh. Dia memasukkan unsur-unsur kisah sosial yang sedang tren di China dari tahun-tahun sebelumnya ke dalam ChatGPT untuk dengan cepat membuat versi berbeda dari kisah palsu yang sama dan mengunggahnya ke akun Baijiahao-nya, katanya.

Meskipun ChatGPT tidak langsung tersedia untuk alamat IP China, pengguna China masih dapat mengakses layanannya jika mereka memiliki koneksi VPN yang andal.

Gerai TI Cina sedang bereksperimen dengan versi ChatGPT mereka setelah Microsoft dan Google mengumumkan inovasi mereka.

China memantau dengan cermat media sosialnya melalui firewall, terutama Sina Weibo, yang memiliki lebih dari 592 juta pengguna untuk memastikan tidak ada konten kritis terhadap Partai Komunis China (CPC) yang berkuasa.

Regulator internet top China telah lama menyuarakan keprihatinan bahwa pengembangan yang tidak terkendali dan penggunaan teknologi sintesis mendalam dapat mengarah pada penggunaannya dalam kegiatan kriminal seperti penipuan online atau pencemaran nama baik.

Karena ChatGPT menjadi viral dalam beberapa bulan terakhir, lembaga penegak hukum China telah berulang kali menyuarakan kecurigaan, dan bahkan peringatan, tentang teknologi tersebut.

Dalam salah satu komentar pertama pada chatbot yang dibuat oleh aparat keamanan China, polisi di Beijing secara khusus memperingatkan masyarakat pada bulan Februari untuk mewaspadai “rumor” yang dihasilkan oleh ChatGPT, Post melaporkan.