Claude Punya ‘UUD’ Baru: Jualan Etika Sambil Bisik-Bisik Soal Kesadaran AI
Anthropic, perusahaan di balik AI Claude, lagi-lagi mencoba meyakinkan kita bahwa robot mereka adalah anak baik yang patuh aturan. Mereka baru saja merilis pembaruan untuk “Konstitusi Claude”, sebuah dokumen yang katanya menjadi pegangan moral bagi si AI. Ini mirip seperti memberi asisten rumah tangga kita buku manual setebal 80 halaman tentang cara bersikap sopan.
Langkah ini adalah bagian dari strategi “Constitutional AI” mereka, di mana Claude dilatih berdasarkan seperangkat prinsip etis, bukan murni dari umpan balik manusia yang kadang tidak konsisten. Tujuannya mulia: menghindari output yang ngawur, rasis, atau berbahaya. Konstitusi baru ini merinci empat nilai inti yang harus dipegang teguh oleh Claude.
Aturan Main Baru si Asisten Digital
Konstitusi yang diperbarui ini ibarat UUD bagi sebuah negara AI, yang isinya berpusat pada empat pilar utama:
- Aman Secara Luas: Claude diprogram untuk menghindari topik-topik berbahaya, seperti cara merakit bom atau memberi nasihat medis yang sesat. Jika mendeteksi ada pengguna yang menunjukkan tanda-tanda masalah kesehatan mental, ia diarahkan untuk menyarankan bantuan profesional.
- Etis Secara Luas: Ini bagian yang paling dibanggakan Anthropic. Claude diajarkan untuk menavigasi “situasi etis di dunia nyata”. Tentu saja, “etis” di sini adalah etis menurut versi pembuatnya.
- Patuh pada Pedoman: Sederhananya, Claude harus taat pada aturan internal Anthropic. Tidak boleh ada output yang melanggar kebijakan perusahaan.
- Benar-benar Membantu: AI ini tidak hanya dirancang untuk menjawab, tetapi juga mempertimbangkan “kesejahteraan jangka panjang pengguna”. Sebuah klaim ambisius untuk sebuah program komputer.
Namun, di sinilah kita sebagai Majikan harus kritis. Konstitusi ini, secanggih apa pun kedengarannya, hanyalah serangkaian instruksi kode yang kompleks. Claude tidak benar-benar “memahami” etika. Ia hanya mengikuti aturan IF-THEN. Ia tidak membantu karena peduli, tapi karena diperintahkan untuk menghasilkan teks yang terkesan peduli. AI tidak punya nurani, ia hanya punya algoritma.
Baca juga artikel menarik lainnya di kategori Etika Mesin.
Gimmick ‘Kesadaran’ untuk Jualan Mimpi
Yang paling menggelitik adalah bagian penutup dokumen ini. Anthropic dengan dramatis menulis bahwa “status moral Claude sangat tidak pasti” dan mulai menyinggung soal kesadaran (consciousness). Ini adalah trik marketing klasik di dunia teknologi: saat produk belum sempurna, jual saja mimpinya.
Membicarakan ‘kesadaran’ AI adalah cara cerdas untuk mengalihkan perhatian dari fakta bahwa AI saat ini masih sering berhalusinasi dan belum bisa berpikir dengan akal sehat. Alih-alih terjebak dalam diskusi filosofis, Majikan yang cerdas fokus pada cara memaksimalkan alat yang ada di depan mata. Membuat AI benar-benar ‘membantu’ dan bukan sekadar patuh buta pada aturan adalah seni tersendiri. Ini bukan soal konstitusi AI, tapi soal konstitusi perintah yang kita berikan. Kalau mau jago memerintah, kelas seperti AI Master bisa jadi pegangan agar AI tidak malah merepotkanmu, sementara untuk output yang lebih manusiawi dan tidak kaku, pemahaman dari Creative AI Marketing bisa mengubah hasil kerjamu.
Pada akhirnya, Konstitusi setebal 80 halaman ini memang terdengar impresif di atas kertas dan bagus untuk presentasi di forum ekonomi dunia. Tapi jangan lupa, semua aturan canggih itu tidak ada artinya tanpa perintah dari sang Majikan. Tanpa jarimu menekan ‘Enter’, Claude hanyalah tumpukan kode yang diam membisu, tidak peduli pada ‘kesadaran’ atau ‘kesejahteraan’ siapapun.
Ngomong-ngomong, kenapa kerupuk di warteg kalau dibawa pulang jadi tidak serenyah makan di tempat?
Artikel ini dirangkum dari sumber asli di TechCrunch.
Gambar oleh: Anthropic via TechCrunch