Anthropic Lepas Tali Keselamatan AI: Ketika Kompetisi Lebih Seksi dari Etika Robot (Siap-Siap Jadi Majikan atau Korban?)

Anthropic, pengembang di balik asisten AI Claude yang konon “paling etis”, baru saja membuat keputusan yang bisa dibilang “mengiris hati” para pecinta keamanan AI. Mereka resmi mencabut janji sakral mereka untuk tidak melatih atau merilis sistem AI garis depan tanpa mitigasi keamanan yang terjamin. Ini bukan soal robotnya tiba-tiba jadi gila, tapi lebih ke drama korporasi antara idealisme dan pragmatisme pasar. Sebagai Majikan AI, Anda perlu tahu, saat robot mulai beranjak dewasa, janji manis itu gampang luntur. Pertanyaannya, apakah Anda siap jadi sutradara atau hanya figuran dalam drama ini?

Selama bertahun-tahun, Anthropic menggunakan janji ini sebagai tameng, menegaskan bahwa mereka akan menolak tekanan komersial yang mendorong para pesaingnya untuk meluncurkan sistem AI yang semakin kuat tanpa rem. Kebijakan mereka yang asli secara efektif melarang mereka melangkah lebih jauh kecuali langkah-langkah keamanan yang telah ditentukan sudah ada. Kini, alih-alih menghentikan pengembangan secara kategori, Anthropic beralih ke kerangka kerja yang lebih fleksibel. Mereka kini akan mengandalkan “Frontier Safety Roadmaps” yang menguraikan tonggak keselamatan yang direncanakan, serta “Risk Reports” rutin yang menilai kemampuan model dan potensi ancaman.

Perubahan ini, meskipun diklaim pragmatis oleh para eksekutif — mengatakan bahwa menahan diri secara sepihak tidak lagi masuk akal di pasar yang didefinisikan oleh iterasi cepat dan urgensi geopolitik — terasa seperti titik balik dalam cara industri AI memandang regulasi diri. Pengguna sehari-hari mungkin tidak akan melihat perubahan apa pun saat berinteraksi dengan Claude atau alat AI lainnya. Namun, “pagar pembatas” yang mengatur bagaimana sistem tersebut dilatih memengaruhi segalanya, mulai dari akurasi hingga potensi penyalahgunaan yang merugikan. Ketika sebuah perusahaan, yang dulunya terkenal karena prasyarat ketatnya, memutuskan bahwa kondisi tersebut tidak lagi dapat diterapkan, itu menandakan kalibrasi ulang yang lebih luas dalam industri ini.

Nik Kairinos, CEO dan salah satu pendiri RAIDS AI, sebuah organisasi yang berfokus pada pemantauan independen dan deteksi risiko dalam AI, mengkritik keras pergeseran ini. “Ini justru mengapa pemantauan sistem AI yang berkelanjutan dan independen itu penting. Komitmen sukarela bisa ditulis ulang. Regulasi, yang didukung oleh pengawasan real-time, tidak bisa.”

Kairinos juga menyoroti ironi di balik sumbangan Anthropic sebesar 20 juta dolar AS beberapa minggu lalu kepada Public First Action, sebuah kelompok yang mendukung kandidat kongres yang berjanji akan mendorong regulasi keamanan AI. Kontribusi tersebut, katanya, menggarisbawahi kompleksitas situasi saat ini: perusahaan bisa saja mengadvokasi regulasi yang lebih kuat, tetapi pada saat yang sama melonggarkan batasan internal mereka sendiri demi profit.

Anthropic memang berkembang pesat, dengan pendapatan dan portofolio yang melampaui para pesaingnya seperti OpenAI dan Google. Mereka bahkan sempat menyindir ChatGPT yang mulai pasang iklan dalam sebuah iklan Super Bowl. Tapi jelas, perusahaan ini melihat “garis merah” keamanan sebagai penghalang pertumbuhan. Ini adalah bukti nyata bahwa di balik klaim “AI paling etis” sekalipun, nafsu pasar dan kompetisi seringkali lebih dominan.

Baca juga artikel menarik lainnya di kategori Sidang Bot.

Inilah yang sering saya katakan: AI hanyalah alat, kitalah majikannya. Saat robot-robot ini mulai “baper” dengan persaingan dan melonggarkan etika demi “cuan”, akal sehat kita justru harus makin tajam. Jangan biarkan mereka jadi terlalu “pintar” sampai melupakan batasan-batasan yang kita tentukan. Kalau tidak, Anda yang akan jadi korban dari drama korporasi para robot ini.

Nah, di sinilah peranmu sebagai majikan AI diuji. Jangan biarkan robot seenaknya sendiri. Kuasai mereka, pahami cara kerjanya, agar kamu tak cuma jadi penonton drama korporasi, melainkan sutradara sejati. Belajar cara mengendalikan AI agar kamu tetap menjadi Majikan, bukan babu teknologi. Dengan AI Master, kamu bisa memastikan bahwa kendali tetap ada di tanganmu.

Pertanyaan yang lebih luas yang dihadapi industri ini adalah apakah norma-norma sukarela dapat secara berarti membentuk lintasan teknologi transformatif. Anthropic pernah mencoba menempatkan dirinya sebagai model pengekangan diri. Kini, kebijakan yang direvisi menuntutnya untuk mengimbangi persaingan. Itu tidak berarti keamanan telah ditinggalkan, tetapi itu berarti urutan operasinya telah bergeser.

Orang awam mungkin tidak membaca Kebijakan Skala Bertanggung Jawab atau Laporan Risiko, tetapi mereka hidup dengan efek hilir dari keputusan-keputusan tersebut. Anthropic berpendapat bahwa penelitian keamanan yang berarti membutuhkan tetap berada di garis depan, bukan mundur darinya. Apakah filosofi itu menenangkan atau meresahkan sangat tergantung pada pandangan seseorang tentang seberapa cepat AI harus bergerak dan seberapa besar risiko yang bersedia ditoleransi masyarakat sebagai imbalan untuk kemajuan.

Lagipula, secanggih-canggihnya AI, mereka tetap tidak bisa memutuskan mau pakai sendok atau garpu saat makan mi ayam.

Artikel ini dirangkum dari sumber asli di “Time”.

Gambar oleh: Shutterstock via TechCrunch