Pencapaian Terbesar ChatGPT Mungkin Hanya Kemampuannya untuk Menipu Kita Agar Berpikir Itu Jujur

Dalam otobiografi penulis Amerika Mark Twain, dia mengutip – atau mungkin salah mengutip – mantan Perdana Menteri Inggris Benjamin Disraeli yang mengatakan: “Ada tiga jenis kebohongan: kebohongan, kebohongan terkutuk, dan statistik.” Dalam lompatan maju yang luar biasa, kecerdasan buatan menggabungkan ketiganya dalam satu paket kecil yang rapi.

ChatGPT, dan chatbot AI generatif lainnya yang serupa, dilatih pada kumpulan data yang luas dari seluruh Internet untuk menghasilkan respons yang paling mungkin secara statistik terhadap permintaan. Jawabannya tidak didasarkan pada pemahaman apa pun tentang apa yang membuat sesuatu lucu, bermakna, atau akurat, tetapi lebih pada ungkapan, ejaan, tata bahasa, dan bahkan gaya laman web lain.

Itu menyajikan tanggapannya melalui apa yang disebut “antarmuka percakapan”: ia mengingat apa yang dikatakan pengguna, dan dapat melakukan percakapan menggunakan isyarat konteks dan langkah cerdas. Ini pastiche statistik plus kepanikan statistik, dan di situlah letak masalahnya.

Tanpa berpikir, tapi meyakinkan Ketika saya berbicara dengan manusia lain, itu mengisyaratkan pengalaman seumur hidup saya dalam berurusan dengan orang lain. Jadi, ketika sebuah program berbicara seperti seseorang, sangat sulit untuk tidak bereaksi seolah-olah seseorang terlibat dalam percakapan yang sebenarnya — menerima sesuatu, memikirkannya, merespons dalam konteks kedua ide kita.

Namun, bukan itu yang terjadi dengan lawan bicara AI. Mereka tidak dapat berpikir dan mereka tidak memiliki pengertian atau pengertian apapun.

Menyajikan informasi kepada kita seperti yang dilakukan manusia, dalam percakapan, membuat AI lebih meyakinkan dari yang seharusnya. Perangkat lunak berpura-pura lebih dapat diandalkan daripada yang sebenarnya, karena ia menggunakan trik retorika manusia untuk memalsukan kepercayaan, kompetensi, dan pemahaman yang jauh melampaui kemampuannya.

Ada dua masalah di sini: apakah hasilnya benar; dan apakah orang berpikir bahwa hasilnya benar? Sisi antarmuka perangkat lunak menjanjikan lebih dari yang dapat diberikan oleh sisi algoritme, dan pengembang mengetahuinya. Sam Altman, chief executive officer OpenAI, perusahaan di belakang ChatGPT, mengakui bahwa “ChatGPT sangat terbatas, tetapi cukup bagus dalam beberapa hal untuk menciptakan kesan kehebatan yang menyesatkan.” Itu masih belum menghentikan serbuan perusahaan yang bergegas untuk mengintegrasikan alat tahap awal ke dalam produk yang menghadap pengguna (termasuk pencarian Bing Microsoft), dalam upaya untuk tidak ketinggalan.

Fakta dan fiksi

Terkadang AI akan salah, tetapi antarmuka percakapan menghasilkan keluaran dengan keyakinan dan polesan yang sama seperti saat benar. Misalnya, seperti yang ditunjukkan oleh penulis fiksi ilmiah Ted Chiang, alat tersebut membuat kesalahan saat melakukan penjumlahan dengan angka yang lebih besar, karena alat ini sebenarnya tidak memiliki logika untuk mengerjakan matematika.

Ini hanya contoh pencocokan pola yang terlihat di web yang melibatkan penambahan. Dan meskipun mungkin menemukan contoh untuk pertanyaan matematika yang lebih umum, ia belum melihat teks pelatihan yang melibatkan angka yang lebih besar.

Itu tidak “tahu” aturan matematika yang dapat digunakan oleh anak berusia 10 tahun secara eksplisit. Namun antarmuka percakapan menampilkan responsnya sebagai sesuatu yang pasti, tidak peduli seberapa salahnya, seperti yang tercermin dalam pertukaran dengan ChatGPT ini.

Pengguna: Apa ibu kota Malaysia? ChatGPT: Ibukota Malaysia adalah Kuala Lampur.

Pengguna: Apa itu 27 7338? ChatGPT: 27 7338 adalah 200.526.

Ini bukan.

AI generatif dapat memadukan fakta aktual dengan yang dibuat-buat dalam biografi figur publik, atau mengutip referensi ilmiah yang masuk akal untuk makalah yang tidak pernah ditulis.

Masuk akal: secara statistik, halaman web mencatat bahwa orang terkenal sering memenangkan penghargaan, dan makalah biasanya memiliki referensi. ChatGPT hanya melakukan apa yang dibuatnya, dan mengumpulkan konten yang mungkin terjadi, terlepas dari apakah itu benar.

Ilmuwan komputer menyebut ini sebagai halusinasi AI. Kita semua mungkin menyebutnya berbohong.

Keluaran yang mengintimidasi

Ketika saya mengajar siswa desain saya, saya berbicara tentang pentingnya mencocokkan keluaran dengan proses. Jika sebuah ide berada pada tahap konseptual, itu tidak boleh disajikan dengan cara yang membuatnya terlihat lebih halus daripada yang sebenarnya — mereka tidak boleh merendernya dalam 3D atau mencetaknya pada stok kartu yang mengkilap. Sebuah sketsa pensil memperjelas bahwa idenya adalah awal, mudah diubah dan tidak diharapkan untuk mengatasi setiap bagian dari suatu masalah.

Hal yang sama berlaku untuk antarmuka percakapan: ketika teknologi “berbicara” kepada kita dengan nada yang dibuat dengan baik, benar secara tata bahasa, atau cerewet, kita cenderung menafsirkannya sebagai memiliki lebih banyak perhatian dan penalaran daripada yang sebenarnya ada. artis harus menggunakan, bukan komputer.

Pengembang AI memiliki tanggung jawab untuk mengelola ekspektasi pengguna, karena kita mungkin sudah siap untuk mempercayai apa pun yang dikatakan mesin. Matematikawan Jordan Ellenberg menjelaskan jenis “intimidasi aljabar” yang dapat mengalahkan penilaian kita yang lebih baik hanya dengan mengklaim ada matematika yang terlibat.

AI, dengan ratusan miliar parameter, dapat melumpuhkan kita dengan intimidasi algoritmik serupa.

Sementara kami membuat algoritme menghasilkan konten yang lebih baik dan lebih baik, kami perlu memastikan antarmuka itu sendiri tidak terlalu menjanjikan. Percakapan di dunia teknologi sudah dipenuhi dengan terlalu percaya diri dan arogan — mungkin AI bisa memiliki sedikit kerendahan hati.