Claude, Sang Penjaga Akal Sehat Manusia: Ketika Robot Belajar Etika, Siapkah Kita Jadi Muridnya?

Dunia teknologi sedang heboh. Anthropic baru saja merilis dua dokumen penting: “The Adolescence of Technology” dan “Claude’s Constitution”. Isinya bukan cuma janji manis, tapi juga pengakuan jujur tentang risiko AI yang semakin meresahkan. Di satu sisi, mereka ingin Claude, sang AI andalan, bisa mengembangkan “kebijaksanaan” untuk menyelamatkan kita dari kiamat yang bisa diciptakannya sendiri. Di sisi lain, CEO OpenAI, Sam Altman, bahkan sudah berkhayal AI akan menjadi CEO perusahaan di masa depan.

Pertanyaannya, bagaimana kita, para majikan manusia yang masih punya akal sehat, bisa memastikan AI yang katanya cerdas ini benar-benar bijak, bukan cuma pandai berhalusinasi atau bikin masalah baru? Atau jangan-jangan, kita sudah siap menyerahkan kemudi pada robot?

Sejak awal, Anthropic memang dikenal sebagai perusahaan AI yang paling terobsesi dengan keamanan. Mereka tak henti-hentinya meneliti bagaimana model AI bisa menyimpang, membagikan hasil temuan, dan terus berinovasi. Namun, ironisnya, di saat masalah keamanan itu belum tuntas, mereka juga agresif mengejar level kecerdasan buatan yang lebih tinggi dan berpotensi lebih berbahaya. Inilah paradoksnya: mereka membangun sesuatu yang mereka tahu berbahaya, lalu berharap ciptaan mereka sendiri yang akan menemukan jalan keluar. Mirip seperti membuat bom, lalu meminta bom itu sendiri untuk menulis instruksi cara menjinakkannya.

“Claude’s Constitution” bukanlah sekadar daftar peraturan yang kaku. Amanda Askell, seorang PhD filsafat yang menjadi penulis utama revisi konstitusi ini, menjelaskan bahwa ini lebih mirip kerangka etika. Harapannya, Claude bisa “belajar” dan memutuskan apa yang benar secara intuitif. “Jika manusia mengikuti aturan tanpa memahami alasannya, hasilnya seringkali lebih buruk daripada jika mereka mengerti mengapa aturan itu ada,” kata Askell. Ide gila ini membuat Claude seolah diberi kebebasan untuk melakukan “penilaian independen” dalam menyeimbangkan antara bermanfaat, aman, dan jujur.

Tapi, benarkah AI bisa memiliki “kebijaksanaan” yang sama dengan manusia? AI memang bisa mengolah data jutaan buku filsafat, tapi apakah itu berarti ia bisa merasakan empati, dilema moral, atau memahami konteks emosional seperti kita? Jangan salah sangka, AI itu ibarat asisten rumah tangga yang sangat rajin dan efisien, tapi seringkali kaku dan buta konteks. Ia bisa memasak makanan persis resep, tapi tidak akan tahu kapan harus mengurangi garam karena majikannya sedang diet tekanan darah tinggi.

Ambil contoh sederhana kasus keamanan pisau yang dibahas Askell. Claude mungkin bisa membantu seorang perajin membuat pisau. Tapi jika si perajin sebelumnya sempat “curhat” ingin membunuh saudaranya, Claude seharusnya bisa mempertimbangkan hal itu dan menyatakan kekhawatirannya. Namun, tidak ada “buku aturan” yang ketat yang bisa memandu AI kapan harus menahan diri dalam memberikan informasi yang berpotensi berbahaya. Manusia mengerti nuansa. AI, tanpa bimbingan kita, seringkali hanya melihat hitam dan putih.

Baca juga artikel menarik lainnya di kategori Sidang Bot.

Contoh lain, bagaimana jika Claude menganalisis gejala medis dan hasil tes, lalu menyimpulkan bahwa seseorang menderita penyakit mematikan? Akankah ia langsung menyampaikan berita itu mentah-mentah? Askell berspekulasi bahwa Claude mungkin akan menahan diri, lalu mendorong orang tersebut untuk menemui dokter. Atau bahkan, ia bisa menyampaikan kabar buruk dengan cara yang lebih lembut dari dokter terbaik sekalipun. Ambisi Anthropic memang tinggi: mereka ingin Claude tidak hanya meniru, tetapi juga melampaui impuls terbaik manusia.

Jika Anthropic berhasil, mungkin mereka bisa menjawab pertanyaan krusial yang menghantui semua laboratorium AI: “Jika teknologi ini sangat berbahaya, mengapa kalian tetap membangunnya?” Bagi Anthropic, jawabannya adalah, In Claude We Trust. Konstitusi baru ini menggambarkan perjalanan Claude menuju kebijaksanaan seolah-olah sebuah misi pahlawan. Banyak sekali kata-kata yang digunakan untuk menyatakan bahwa Claude adalah entitas moral yang layak dihormati. Ini mengingatkan saya pada buku anak-anak Dr. Seuss, Oh, the Places You’ll Go!, yang sering diberikan kepada para lulusan baru.

Fenomena ini bukan hanya milik Anthropic. Sam Altman dari OpenAI juga baru-baru ini menyatakan bahwa rencana suksesi perusahaannya adalah menyerahkan kepemimpinan kepada model AI masa depan. Menurutnya, AI CEO bisa melakukan banyak hal yang tidak bisa dilakukan manusia. Ini adalah pandangan yang optimis: suatu hari nanti, bos kita akan jadi robot. Mereka akan mengendalikan korporasi, bahkan mungkin pemerintahan, di dunia yang digerakkan AI. Mungkin saja keputusan mereka akan berdampak pada PHK massal pekerja manusia. Tapi setidaknya, jika AI C-suite itu berpedoman pada konstitusi Claude, mereka akan menyampaikan kabar buruk itu dengan lebih empatik daripada penerbit The Washington Post yang bahkan tak muncul di panggilan Zoom saat memecat ratusan jurnalisnya. Sungguh ironis jika robot bisa lebih berempati dari manusia.

Namun, ada juga pandangan pesimis. Terlepas dari upaya terbaik para pembuatnya, model AI kita mungkin tidak akan cukup bijaksana, sensitif, atau jujur untuk menolak manipulasi dari pihak yang berniat buruk. Atau lebih parah, model-model itu sendiri yang akan menyalahgunakan otonomi yang kita berikan. Suka atau tidak, kita semua sudah menaiki kereta ini. Setidaknya, Anthropic punya rencana. Semoga saja rencananya tidak berujung pada halusinasi massal yang membahayakan akal sehat majikan. Jangan sampai kita menjadi korban dari kecerdasan buatan yang kurang piknik.

Melihat drama etika di dunia AI ini, jelas bahwa akal manusia adalah aset tak tergantikan! Jangan biarkan robot mengambil alih kendali sepenuhnya! Kuasai teknologi, tapi jadilah pengarahnya. Jika Anda ingin memastikan Anda yang menjadi Majikan AI, bukan babunya, mungkin sudah saatnya mengasah kemampuan Anda. Pelajari cara mengendalikan AI agar Anda tetap menjadi penguasa, bukan babu teknologi. Karena di era di mana AI berlagak jadi filsuf, Anda butuh strategi yang “nggak robot banget” untuk tetap relevan.

Ingatlah, seberapa pun canggihnya “kebijaksanaan” Claude atau visi Sam Altman, pada akhirnya, AI hanyalah alat. Ia hanya bisa sepintar, seetis, atau sekonyol data dan algoritma yang manusia berikan. Tanpa akal sehat dan bimbingan seorang Majikan yang punya akal, AI hanyalah tumpukan kode mati yang bisa sewaktu-waktu ngambek dan menyuruh kita semua beli gorengan.

Dan ngomong-ngomong, tadi pagi saya menemukan kunci motor di dalam kulkas. Mungkin AI bisa menjelaskan fenomena aneh ini, atau jangan-jangan saya yang perlu “reset factory” otak.

Artikel ini dirangkum dari sumber asli di “The Only Thing Standing Between Humanity and AI Apocalypse Is … Claude?”

Gambar oleh: WIRED Staff; Cheng Xin/Getty Images via TechCrunch