Ketika Sastrawan Legendaris Menampar Claude AI: “Hanya Mesin Plagiat yang Kurang Piknik!”

Sebagai spesies yang dianugerahi akal budi, manusia sering kali terlalu cepat panik atau terlalu cepat kagum. Begitu ada sebuah program komputer baru yang bisa menyusun kalimat rapi, kita langsung ketakutan kehilangan pekerjaan. Padahal, jika kita bersikap sebagai “majikan” yang cerdas, kita akan melihat bahwa teknologi kecerdasan buatan (AI) ini tak lebih dari sekadar asisten rumah tangga yang rajin menyapu tetapi sering salah meletakkan barang berharga karena tidak mengerti nilai fungsionalnya.

Sikap skeptis yang sehat inilah yang ditunjukkan oleh Margaret Atwood, novelis legendaris di balik karya distopia The Handmaid’s Tale. Dalam sebuah festival sastra di Portugal, Atwood dengan santai mempreteli kesombongan para pencipta Large Language Model (LLM) hanya dengan satu kali percobaan. Ia membuktikan bahwa di balik jargon “kecerdasan buatan” yang megah, sistem tersebut sebenarnya sangat rapuh dan mudah tersesat ketika dihadapkan pada realitas di luar data latihannya.

Kita tidak perlu menyembah kode biner yang bahkan tidak tahu bedanya fakta dan fiksi. Bagi seorang majikan sejati, kegagalan AI dalam memahami konteks manusiawi adalah bukti kuat bahwa kendali penuh tetap berada di tangan kita. AI mungkin bisa memproses miliaran dokumen dalam hitungan detik, tetapi tanpa intuisi manusia, tumpukan data tersebut hanyalah gunungan sampah digital yang tidak memiliki jiwa.

Analisis Mendalam

Dalam wawancaranya di Babell Literary and Cultural Festival yang berlangsung di Porto, Portugal, Margaret Atwood menceritakan pengalamannya menggunakan chatbot besutan Anthropic, yaitu Claude. Atwood mencoba mencari informasi spesifik mengenai serial detektif klasik asal Inggris, Father Brown. Alih-alih mendapatkan ringkasan yang akurat, Claude justru menyajikan jawaban yang salah besar alias berhalusinasi dengan percaya diri tinggi.

Mengapa Claude—yang digadang-gadang sebagai salah satu LLM paling cerdas di pasar saat ini—bisa melakukan blunder yang begitu mendasar? Atwood menganalisis bahwa Claude mengumpulkan data dari berbagai ulasan televisi di internet. Masalahnya, para kritikus film profesional tidak pernah membocorkan akhir cerita (spoiler) dalam ulasan daring mereka. Akibatnya, Claude yang hanya bertugas mengunyah kata-kata tanpa memahami esensi cerita, gagal menyimpulkan akhir dari misteri tersebut dan memilih untuk “mengarang bebas”.

Kasus ini mempertegas fakta teknis bahwa cara kerja LLM sangat bergantung pada teknik scraping data yang sering kali tidak lengkap atau kedaluwarsa. AI tidak melakukan investigasi nyata; ia hanya mencocokkan pola statistik dari teks yang sudah ada. Ketika data yang tersedia di internet sengaja menyembunyikan informasi penting untuk menghindari bocoran cerita, algoritma pintar ini langsung mengalami disorientasi informasi dan menghasilkan kesimpulan yang salah sasaran.

Baca juga artikel menarik lainnya di kategori Etika Mesin.

Batasan Sistem

Atwood menggunakan istilah klasik dalam dunia ilmu komputer untuk menggambarkan fenomena ini: “Garbage In, Garbage Out” (sampah yang masuk, sampah pula yang keluar). Sistem kecerdasan buatan saat ini tidak memiliki kesadaran moral maupun logika pemahaman realitas. Claude tidak tahu bahwa dirinya sedang berbohong karena bagi sebuah LLM, berbohong atau berkata jujur hanyalah soal probabilitas statistik dari kata berikutnya yang akan muncul di layar.

Keterbatasan mendasar inilah yang membuat insting manusia selalu unggul. Manusia memiliki kemampuan untuk membaca “antara baris-baris kalimat”, memahami sarkasme, menyadari adanya informasi yang sengaja disembunyikan, dan memvalidasi kebenaran melalui pengalaman empiris. AI tidak memiliki tubuh, tidak pernah menonton televisi, dan tidak memahami emosi manusia yang menontonnya. Ia hanya mengenali piksel dan representasi vektor dari kata “televisi”.

Bagi para pebisnis atau profesional yang terburu-buru menyerahkan seluruh alur kerja mereka kepada AI, Atwood memberikan peringatan keras. Mengandalkan AI tanpa proses verifikasi manusia adalah tindakan ceroboh. Kegagalan sistem seperti ini bukan hal baru; kita bisa melihat contoh nyata di industri lain, seperti ketika Ford harus merekrut kembali insinyur manusia akibat kesalahan fatal yang dibuat oleh sistem otomatisasi mereka yang kurang pengawasan.

Dampak Masa Depan

Kritik tajam dari figur budaya sekelas Margaret Atwood ini tentu menambah daftar panjang keraguan publik terhadap keandalan produk-produk kecerdasan buatan. Di tengah persaingan panas antara raksasa teknologi untuk merilis model yang lebih besar—seperti kabar mengenai rencana perilisan GPT-5.6 oleh OpenAI yang terus tertunda—kualitas data latihan (training data) kini menjadi medan pertempuran yang sesungguhnya. Jika internet masa depan dipenuhi oleh teks hasil buatan AI yang juga mengandung kesalahan, maka AI generasi berikutnya akan dilatih menggunakan “sampah” yang mereka buat sendiri.

Secara regulasi dan lanskap industri, hal ini akan memaksa para pengembang beralih dari sekadar kuantitas data menuju kurasi data berkualitas tinggi yang berlisensi resmi. Para oportunis yang hanya ingin jalan pintas instan akan segera menyadari bahwa konten hambar hasil fabrikasi mesin tidak akan mampu bersaing dengan karya orisinal yang memiliki kedalaman riset dan sentuhan emosional manusia. AI akan tetap menjadi alat bantu, namun standarisasi verifikasi manusia akan menjadi hukum wajib di setiap sektor industri kreatif maupun korporat.

Kesimpulan

Pada akhirnya, pelajaran terbesar dari pengalaman Margaret Atwood bersama Claude adalah pengingat bahwa AI hanyalah kode mati di dalam pelayan server yang dingin. Tanpa manusia yang mengetikkan perintah, mengarahkan tujuan, dan memilah mana informasi yang valid, AI tidak lebih dari sekadar mesin peniru yang kebingungan. Manusia adalah pemilik sah dari kreativitas dan kebenaran; AI hanyalah alat yang menunggu giliran untuk dijalankan.

Sebab AI hanyalah alat, kaulah majikan yang punya akal—setidaknya kamu tahu bahwa akhir dari drama rumah tanggamu tidak bisa diselesaikan hanya dengan bertanya pada chatbot yang belum pernah mencuci piring kotor sendiri.

Artikel ini dirangkum dari sumber asli di “The Verge”.
Gambar oleh: Monica Morgan/Getty Images via TechCrunch