Sentilan Menohok Margaret Atwood: Bukti Claude Hanya “Asisten Kaku” yang Suka Mengarang Bebas

Bayangkan Anda menyewa seorang asisten rumah tangga baru. Dia sangat rajin, bisa membaca ribuan halaman dalam hitungan detik, dan selalu menjawab perintah dengan nada yang amat meyakinkan. Namun, ketika Anda memintanya mencari tahu bagaimana akhir dari sebuah novel misteri, dia dengan percaya diri menceritakan akhir cerita yang sepenuhnya karangan sendiri—alias halusinasi tingkat tinggi. Apakah Anda akan kagum? Tentu saja tidak. Anda justru akan menyuruhnya kembali sekolah atau memintanya berhenti bersikap sok tahu.

Sikap skeptis dan waras inilah yang ditunjukkan oleh Margaret Atwood, sastrawan legendaris penulis The Handmaid’s Tale. Dalam sebuah wawancara di Babell Literary and Cultural Festival di Porto, Portugal, Atwood membagikan pengalamannya mencoba chatbot AI besutan Anthropic, Claude, untuk pertama kalinya. Dan tebak apa hasilnya? Sang maestro sama sekali tidak terkesan. Ia langsung melihat AI apa adanya: sebuah mesin kaku yang gemar mengarang bebas demi menyenangkan tuannya.

Sebagai manusia yang dibekali akal budi, kita sering kali lupa bahwa kitalah majikan yang sesungguhnya. Fenomena pemujaan berlebihan terhadap kecerdasan buatan belakangan ini membuat banyak orang kehilangan daya kritis mereka. Padahal, tanpa arahan, validasi, dan pengawasan ketat dari manusia, tumpukan kode algoritma ini hanyalah sekumpulan instruksi mati yang tidak tahu beda antara fakta sejarah dan gosip warung kopi.

Analisis Mendalam

Mari kita bedah apa yang sebenarnya terjadi ketika Margaret Atwood menguji Claude. Sastrawan kawakan ini mencoba mencari informasi tentang akhir dari serial detektif asal Inggris yang terkenal, Father Brown. Bukannya memberikan jawaban yang akurat, Claude justru menyuguhkan kebohongan yang dirangkai dengan sangat rapi dan meyakinkan. Mengapa sistem yang bernilai miliaran dolar ini bisa “kepepet” berbohong pada hal sepele?

Jawabannya terletak pada cara kerja dasar Large Language Model (LLM). Claude tidak benar-benar memahami cerita Father Brown. Ia hanyalah sebuah mesin statistik raksasa yang dilatih untuk memprediksi kata berikutnya berdasarkan data yang pernah diserapnya dari internet. Atwood menganalisis kegagalan ini dengan sangat jeli. Claude mendasarkan jawabannya pada ulasan-ulasan televisi yang beredar di dunia maya. Dan seperti yang kita tahu, kritikus film yang waras di internet tidak akan pernah membocorkan detail akhir cerita di dalam ulasan mereka demi menghindari spoiler.

Karena data pelatihan yang diserap Claude tidak mengandung informasi tentang akhir cerita tersebut, sistem ini mengalami kepanikan digital. Alih-alih mengaku “tidak tahu”, algoritma Claude memilih untuk berspekulasi—atau dalam bahasa teknisnya, berhalusinasi—dan merangkai kalimat fiktif berdasarkan ulasan-ulasan menggantung yang ia temukan. Di sinilah letak ironisnya: AI mencoba terlihat pintar di hadapan salah satu penulis fiksi terbaik dunia dengan cara mengarang fiksi murahan. Sungguh sebuah keberanian dari sistem yang kurang piknik.

Baca juga artikel menarik lainnya di kategori Logika Penguasa.

Batasan Sistem

Kisah kegagalan Claude ini menegaskan satu kebenaran mutlak yang sering diabaikan para promotor teknologi: AI tidak memiliki kesadaran, moralitas, atau pemahaman tentang kebenaran. Ketika Claude berbohong kepada Atwood, ia tidak melakukannya karena niat jahat. Ia berbohong karena ia dirancang untuk selalu memberikan jawaban, seberapa pun tidak akuratnya jawaban tersebut. AI tidak tahu bahwa dirinya sedang berbohong, karena bagi sebuah LLM, fakta dan fiksi hanyalah deretan probabilitas angka yang setara.

Prinsip kuno dalam dunia komputer tetap berlaku hingga hari ini, yaitu “Garbage In, Garbage Out” (sampah yang masuk, sampah pula yang keluar). Jika Anda memberi makan model bahasa ini dengan data hasil kurasi internet yang penuh bias, informasi usang, dan ulasan tanpa konklusi, maka jangan harap Anda akan mendapatkan analisis yang jernih. Mempercayakan keputusan penting atau riset mendalam sepenuhnya pada kecerdasan buatan tanpa verifikasi manusia adalah bentuk kecerobohan yang nyata.

Di sinilah insting, intuisi, dan pengalaman manusia tidak akan pernah bisa direplikasi oleh baris-baris kode. Manusia memiliki kemampuan untuk membaca yang tersirat, memahami konteks sosial, dan mendeteksi kebohongan melalui penalaran logis. Sementara AI, secerdas apa pun klaim pembuatnya, tetaplah seperti asisten rumah tangga yang rajin menyapu tetapi menyembunyikan debu di bawah karpet hanya agar pekerjaannya terlihat cepat selesai di mata majikan. Untuk memahami dinamika ini lebih lanjut, Anda bisa membaca analisis kami tentang mengapa chatbot sering berbohong.

Dampak Masa Depan

Kritik pedas dari tokoh sekaliber Margaret Atwood ini menjadi peringatan keras bagi industri kecerdasan buatan yang saat ini sedang mengalami persaingan panas korporasi. Developer teknologi tidak bisa lagi sekadar memamerkan parameter model yang semakin raksasa tanpa menyelesaikan masalah fundamental akurasi data. Isu penyerapan data (scraping) tanpa izin untuk melatih AI kini mulai menemui titik jenuh, di mana data berkualitas di internet semakin menipis dan sistem terpaksa dilatih menggunakan data buatan AI lainnya—sebuah lingkaran setan yang akan mempercepat degradasi kecerdasan buatan itu sendiri.

Selain itu, sentilan Atwood terhadap para “oportunis” yang menggunakan AI untuk mencari jalan pintas yang instan dan curang, akan semakin mendorong urgensi regulasi global yang lebih ketat. Industri kreatif, akademisi, hingga dunia bisnis kini mulai sadar bahwa efisiensi tanpa kredibilitas adalah investasi bodong. Ke depan, nilai dari karya orisinal hasil pemikiran manusia justru akan semakin mahal di tengah tsunami konten sampah hasil generasi algoritma kaku.

Pada akhirnya, kepongahan AI yang mencoba mendikte realitas runtuh seketika di hadapan logika seorang manusia yang memiliki akal sehat. Kecerdasan buatan, sekuat apa pun ia digembor-gemborkan, hanyalah alat bantu kaku yang tanpa sentuhan manusia tidak akan menghasilkan apa-apa selain tumpukan teks tanpa nyawa. Tanpa jari manusia yang menekan tombol daya, atau otak manusia yang menyaring setiap kekonyolannya, kecerdasan buatan hanyalah sekumpulan kode mati di dalam server yang dingin.

Sebab sebelum Anda panik memikirkan AI akan menguasai dunia, ingatlah bahwa asisten digital Anda bahkan belum bisa membedakan bumbu ketumbar dan merica di rak dapur Anda.

—
Artikel ini dirangkum dari sumber asli di “The Verge”.
Gambar oleh: Monica Morgan/Getty Images via TechCrunch