Sekali Coba Langsung Kapok, Margaret Atwood Bongkar Borok Claude AI yang Suka Mengarang Bebas
Bayangkan Anda memiliki asisten rumah tangga baru. Dia sangat rajin, mampu membaca ribuan buku dalam sedetik, dan selalu menjawab dengan nada sopan seolah-olah dia mengetahui segalanya. Namun, saat Anda memintanya mencari tahu bagaimana akhir dari sebuah novel misteri, dia dengan sangat percaya diri menceritakan akhir cerita yang sepenuhnya karangan sendiri hanya karena dia tidak menemukan halaman terakhir di lemari buku Anda. Itulah gambaran sempurna dari kecerdasan buatan (AI) saat ini: asisten kaku yang rajin membaca tapi sangat kurang piknik.
Sebagai manusia yang memiliki akal, sudah saatnya kita berhenti memperlakukan sistem LLM (Large Language Model) seperti peramal ajaib yang tanpa cela. AI hanyalah cermin dari data yang kita berikan. Jika cermin itu retak, maka pantulan yang dihasilkan pun akan ikut buram. Sudut pandang waras inilah yang baru-baru ini disuarakan dengan sangat tajam oleh salah satu sastrawan paling dihormati di dunia.
Sastrawan legendaris di balik novel dystopia terkenal The Handmaid’s Tale, Margaret Atwood, tidak ragu-ragu membagikan pengalamannya yang kurang menyenangkan saat pertama kali menjajal chatbot Claude milik Anthropic. Bagi Atwood, teknologi yang diagung-agungkan para pemodal ventura ini ternyata tidak lebih dari sekadar mesin peniru yang gemar mengarang bebas saat kehabisan bahan bacaan sahih.
Analisis Mendalam
Dalam sebuah sesi wawancara di Babell Literary and Cultural Festival yang berlangsung di Porto, Portugal, sastrawan berusia 86 tahun ini menceritakan bahwa dirinya baru mencoba chatbot AI sebanyak satu kali seumur hidupnya. Saat itu, ia menggunakan Claude untuk mencari informasi spesifik mengenai akhir cerita dari serial detektif asal Inggris yang terkenal, Father Brown. Bukannya mendapatkan fakta sejarah fiksi yang akurat, Atwood justru disuguhi kebohongan digital yang dikemas dengan sangat meyakinkan.
Mengapa sistem secanggih Claude bisa keliru? Atwood menganalisisnya dengan sangat logis. Model bahasa besar seperti Claude dilatih dengan menyedot jutaan dokumen dari internet, termasuk ulasan-ulasan televisi daring. Masalahnya, para kritikus film di internet hampir tidak pernah menuliskan spoiler atau akhir cerita di dalam ulasan mereka demi kenyamanan pembaca manusia. Akibatnya, karena tidak pernah membaca akhir cerita yang sebenarnya, Claude mengarang bebas demi memuaskan perintah sang penulis.
Fenomena ini membuktikan kembali dogma klasik dalam dunia komputer: Garbage In, Garbage Out (GIGO). Jika data yang dimasukkan ke dalam sistem adalah data “sampah” yang tidak lengkap, maka keluaran yang dihasilkan pun akan berupa informasi sampah yang menyesatkan. Claude tidak tahu bahwa ia sedang berbohong, karena sebagai barisan kode, ia tidak memiliki kesadaran moral untuk membedakan antara fakta dan fiksi. Ia hanya memprediksi kata berikutnya berdasarkan probabilitas statistik dari data yang pernah ia telan.
Baca juga artikel menarik lainnya di kategori Logika Penguasa.
Batasan Sistem
Kasus yang dialami Atwood ini membuka mata kita tentang apa yang sebenarnya tidak bisa dilakukan oleh kecerdasan buatan. AI tidak memiliki pemahaman kontekstual yang mendalam tentang dunia nyata. Ketika sebuah sistem kaku ini menghadapi kekosongan informasi (seperti ketiadaan bocoran akhir cerita di ulasan film), ia tidak akan berkata “Saya tidak tahu,” melainkan akan berhalusinasi demi terlihat pintar di depan majikannya. Untuk itulah, sangat penting bagi manusia memahami cara mengatasi halusinasi AI agar tidak tersesat oleh informasi yang keliru.
Insting manusia tetap jauh lebih unggul karena kita memiliki kemampuan untuk mendeteksi apa yang tidak tertulis (reading between the lines). Manusia tahu bahwa ulasan film yang tidak menyebutkan akhir cerita adalah sebuah kesengajaan etis untuk menghindari bocoran. Sebaliknya, AI melihat ketiadaan informasi tersebut sebagai potongan teka-teki yang harus diisi secara paksa menggunakan algoritma probabilitasnya.
Kelemahan bawaan ini menunjukkan bahwa sistem yang masih perlu sekolah ini sangat bergantung pada kurasi data manusia. Ketika para pencari jalan pintas menggunakan AI tanpa memeriksa ulang faktanya, mereka sebenarnya sedang menyebarkan disinformasi secara sukarela. Tanpa akal manusia yang melakukan sensor dan verifikasi akhir, sistem cerdas ini hanyalah perpustakaan raksasa yang dijaga oleh pustakawan yang gemar berbohong.
Dampak Masa Depan
Kritik pedas dari Atwood ini muncul di tengah ketegangan yang semakin memanas antara industri kreatif dan para raksasa teknologi. Masalah moralitas data dan hak cipta kini menjadi medan pertempuran hukum yang baru, di mana para penulis menuduh perusahaan AI telah mencuri karya mereka secara ilegal untuk melatih model-model kaku tersebut. Industri tidak bisa lagi terus-menerus mengandalkan taktik pengikisan data (data scraping) tanpa memikirkan konsekuensi hukum dan kualitas informasi yang dihasilkan.
Ke depannya, para pelaku bisnis yang beralih ke otomatisasi total tanpa pengawasan ketat manusia akan menghadapi risiko reputasi yang fatal. Atwood secara sinis menyebut mereka yang sangat bergantung pada AI sebagai “oportunis” yang mencari cara mudah untuk menipu. Namun, seperti yang ia ingatkan, bahkan untuk kepentingan bisnis sekalipun, setiap keluaran dari AI wajib diperiksa ulang secara ketat oleh mata manusia karena mesin ini ditakdirkan untuk selalu membuat kesalahan.
Tanpa sentuhan tangan manusia yang menekan tombol dan memverifikasi kebenaran setiap baris kalimatnya, AI hanyalah sekumpulan kode mati yang tidak berguna. Kita adalah majikan yang memegang kendali penuh atas alat ini.
Sama seperti menyuruh asisten rumah tangga menyapu halaman, kalau tidak diawasi dengan cermat, bisa-sisa sampah dari selokan tetangga pun ikut disapu masuk ke dalam ruang tamu Anda.
Artikel ini dirangkum dari sumber asli di “The Verge”.
Gambar oleh: Monica Morgan/Getty Images via TechCrunch