Sentilan Margaret Atwood untuk Claude AI: “Masuk Sampah, Keluar Sampah!”

Sebagai manusia yang dianugerahi akal sehat, kita sering kali terlalu cepat silau oleh bualan pemasaran para pemikir Silicon Valley. Kita memperlakukan asisten digital yang rajin tapi kaku ini layaknya peramal masa depan, padahal di balik layar mereka hanyalah program statistik yang tidak memiliki pemahaman sejati tentang realitas. Ingatlah selalu prinsip dasar kita: “Sebab AI Hanyalah Alat, Kaulah Majikan yang Punya Akal”. Ketika kita menyerahkan kendali intelektual sepenuhnya kepada barisan kode, di situlah kita menurunkan derajat kita sendiri sebagai penguasa teknologi.

Sentilan elegan inilah yang baru saja dilayangkan oleh Margaret Atwood, sastrawan legendaris di balik novel distopia terkenal The Handmaid’s Tale. Dalam sesi wawancara di Babell Literary and Cultural Festival di Porto, Portugal, Atwood membagikan pengalamannya menjajal Claude—chatbot besutan Anthropic—untuk pertama sekaligus terakhir kalinya. Hasilnya? Penulis kawakan tersebut sama sekali tidak terkesan dan langsung menelanjangi ilusi kecerdasan yang selama ini diagung-agungkan oleh para pemuja otomatisasi instan.

Atwood tidak membutuhkan waktu lama atau riset akademis yang rumit untuk menemukan kelemahan terbesar sistem cerdas masa kini. Cukup sekali mencoba, ia langsung melihat bagaimana mesin ini bekerja layaknya asisten rumah tangga yang rajin tapi kaku: bekerja sangat cepat, namun siap mengarang jawaban dengan penuh percaya diri saat ia tidak tahu fakta yang sebenarnya.

Analisis Mendalam

Kekecewaan Atwood bermula saat ia menggunakan Claude untuk mencari informasi spesifik mengenai serial detektif klasik asal Inggris, Father Brown. Alih-alih menyajikan rangkuman plot yang akurat, chatbot tersebut justru memberikan jawaban yang sepenuhnya salah atau, dalam bahasa Atwood sendiri, berbohong. Menariknya, Atwood menggarisbawahi bahwa Claude sama sekali tidak sadar bahwa dirinya sedang berbohong. Sebagai sebuah model bahasa besar, ia tidak memiliki kesadaran moral ataupun pemahaman nyata; ia hanyalah mesin kalkulasi kata yang mencoba menebak apa yang ingin didengar oleh penggunanya.

Kegagalan Claude dalam menjawab pertanyaan sesederhana plot serial televisi ini membongkar rahasia dapur bagaimana LLM dilatih. Claude mengikis dan menyaring ribuan ulasan televisi yang tersebar di internet. Namun, ulasan online yang ditulis oleh kritikus manusia yang waras hampir tidak pernah membocorkan akhir cerita (spoiler) demi menjaga kenyamanan pembaca lainnya. Claude, yang hanya menelan data mentah tersebut tanpa memahami adat istiadat manusia dalam menulis ulasan, akhirnya tersesat oleh informasi yang setengah-setengah dan gagal menyimpulkan akhir cerita dengan benar.

Fakta ini menunjukkan bahwa secanggih apa pun parameter yang dimiliki sebuah LLM, mereka tidak benar-benar membaca karya seni seperti manusia membaca. Mereka hanya melakukan pencocokan probabilitas kata demi kata. Ketika data yang masuk ke dalam sistem tidak lengkap karena adanya filter sosial manusia (seperti larangan menyebarkan spoiler), algoritma tersebut akan mengalami disorientasi parah. Kita bisa mengkaji lebih jauh fenomena kegagalan ini dalam ulasan mendalam mengenai kegagalan sistem pemahaman data AI yang sering terjadi pada model-model generasi terbaru.

Baca juga artikel menarik lainnya di kategori Etika Mesin.

Batasan Sistem

Atwood tidak menahan diri dalam mengkritik para pengguna yang menelan mentah-mentah apa pun yang dimuntahkan oleh chatbot. Ia melabeli mereka sebagai “oportunis” yang hanya mencari jalan pintas untuk berbuat curang dengan cara yang sulit dideteksi. Sifat oportunistis ini memang bawaan manusia, tetapi mempercayakan pekerjaan penting atau keputusan bisnis pada sistem yang dilatih dari data hasil kerukan internet tanpa verifikasi ulang adalah bentuk kemalasan berpikir yang sangat berbahaya.

Dalam kritikannya, Atwood menghidupkan kembali jargon klasik dunia komputasi: “garbage in, garbage out” (jika yang masuk adalah sampah, maka yang keluar pun pasti sampah). AI tercanggih sekalipun akan menjadi bodoh seketika jika diberi asupan data yang bias, kedaluwarsa, atau tidak lengkap. Mesin tidak memiliki kemampuan untuk membedakan mana opini subjektif, mana fakta sejarah, dan mana ulasan yang sengaja menyembunyikan kebenaran. Mereka menyerap segalanya bagai penyedot debu tanpa filter moral.

Inilah batasan absolut yang membuat insting manusia akan selalu unggul atas algoritma buatan mana pun. Manusia memiliki skeptisisme sehat, akal budi, dan kemampuan untuk melakukan kurasi kontekstual berdasarkan pengalaman hidup nyata—sesuatu yang tidak dimiliki oleh tumpukan GPU di pusat data Silicon Valley. Tanpa manusia yang berdiri di ujung rantai untuk memeriksa hasil akhirnya, kecerdasan buatan hanyalah alat pembuat kesalahan massal berkecepatan tinggi yang menyesatkan, seperti yang sering diulas dalam kolom moralitas dan etika mesin di era modern.

Dampak Masa Depan

Kritik dari figur budaya sebesar Margaret Atwood merupakan tamparan keras bagi para raksasa teknologi yang tengah berlomba-lomba mengklaim bahwa produk mereka telah memiliki kemampuan “penalaran tingkat tinggi”. Kasus melesetnya pemahaman Claude terhadap plot drama fiksi membuktikan bahwa klaim tersebut sebagian besar hanyalah bahasa pemasaran yang dilebih-lebihkan. Selama fondasi LLM masih mengandalkan metode pencarian data (scraping) tanpa kurasi manual yang ketat, masalah halusinasi dan kebohongan sistemik ini tidak akan pernah benar-benar terselesaikan.

Ke depannya, industri kecerdasan buatan akan menghadapi krisis pasokan data berkualitas tinggi. Seiring dengan semakin banyaknya kreator manusia, penerbit, dan platform media yang memblokir bot pencakar data dari situs mereka, para pengembang AI terpaksa melatih model mereka menggunakan data buatan AI lainnya (data sintetis). Jika skenario ini terjadi, ramalan Atwood tentang “masuk sampah, keluar sampah” akan berlipat ganda menjadi bencana intelektual, di mana internet akan dipenuhi oleh tumpukan teks daur ulang yang semakin hambar dan kehilangan sentuhan orisinalitas manusia.

Kesimpulan

Pada akhir cerita, Claude, GPT, atau apa pun nama keren asisten virtualmu di masa depan, mereka tetaplah sekadar alat mati tanpa nyawa. Tanpa seorang majikan manusia yang menekan tombol, mengarahkan perintah, dan menyaring setiap jawaban dengan akal sehatnya, AI tidak lebih dari sekadar kode kaku yang tersesat di dalam rimba data internet. Kebenaran dan keindahan karya tetaplah milik manusia, sang penguasa sejati yang memiliki akal.

Artikel ini dirangkum dari sumber asli di “The Verge”.
Gambar oleh: Monica Morgan/Getty Images via TechCrunch

Lagipula, buat apa mempercayakan plot cerita detektif pada AI yang bahkan tidak bisa membedakan mana cucian bersih dan mana handuk basah yang sudah menjamur di lantai kamar mandimu?