Ketika Pembuat AI Panik: Mengapa Bos DeepMind Minta AS Jadi “Pawang” Sebelum Singularity Menelan Kita?
Bagaimana rasanya menjadi seorang “majikan” ketika pelayan yang Anda sewa tiba-tiba tumbuh begitu cepat hingga membuat sang perancang sistemnya ketakutan? Bayangkan Anda membeli sebuah robot penyedot debu yang sangat canggih, namun beberapa hari kemudian sang insinyur pembuatnya mengetuk pintu rumah Anda dengan keringat dingin, memohon: “Tolong pegang remote darurat ini, saya takut robot ini akan menyedot kucing Anda secara sengaja.” Sungguh menggelitik, namun itulah realitas dunia kecerdasan buatan saat ini.
Demis Hassabis, otak di balik Google DeepMind, baru saja merilis proposal yang terdengar seperti kepanikan massal yang dibungkus dengan bahasa diplomatis. Ia memperingatkan bahwa Artificial General Intelligence (AGI) alias kecerdasan buatan setingkat manusia mungkin hanya tinggal beberapa tahun lagi. Alih-alih merayakan fajar baru ini dengan pesta pora, ia justru mendesak agar Amerika Serikat segera memimpin pembentukan “pawang” global—sebuah lembaga pengawas internasional untuk menarik tuas rem darurat jika sistem AI mulai bertingkah di luar kendali.
Sebagai manusia yang dianugerahi akal sehat, kita harus melihat manuver ini dengan senyum simpul. Pengakuan Hassabis adalah bukti nyata dari filosofi dasar kita: AI hanyalah alat yang kaku, asisten rumah tangga digital yang rajin tapi kurang piknik. Ketika asisten ini mulai berlari terlalu kencang, para penciptanya baru sadar bahwa mereka lupa memasang rem yang pakem.
Analisis Mendalam
Dalam draf pemikirannya yang bertajuk “A Framework for Frontier AI and the Dawning of a New Age,” Hassabis mengusulkan pembentukan badan pengawas global yang meniru model FINRA (otoritas pengawas industri keuangan di AS). Lembaga ini nantinya akan diisi oleh para ahli independen, perwakilan komunitas sumber terbuka (open-source), serta utusan pemerintah. Tugas utamanya sangat spesifik dan masif: mengevaluasi model AI tingkat tinggi sebelum dilepas ke publik, serta memiliki otoritas memaksa untuk melakukan perlambatan industri secara serentak jika suatu sistem dinilai terlalu berbahaya bagi umat manusia.
Langkah politis Hassabis ini tidak main-main. Menurut laporan dari Axios, ia telah menghabiskan waktu berbulan-bulan di balik layar untuk melobi pemerintahan Trump, laboratorium AI pesaing, hingga para pejabat tinggi di Uni Eropa. Respons dari Washington dikabarkan “sangat positif.” Tentu saja positif; pemerintahan mana yang tidak tergiur memegang kendali atas teknologi yang digadang-gadang akan memicu singularitas teknologi ini? AS diposisikan sebagai pemimpin utama karena kekuatan ekonomi dan dominasi teknologinya yang dianggap belum tertandingi.
Kekhawatiran pemenang Nobel Kimia 2024 ini bukanlah fiksi ilmiah belaka. Bulan lalu, Hassabis juga ikut menandatangani surat terbuka yang menuntut pengetatan keamanan untuk mencegah penyalahgunaan AI dalam pembuatan senjata biologis. Ditambah lagi, tokoh-tangguh industri seperti Jack Clark (salah satu pendiri Anthropic) dan mantan CEO Google Eric Schmidt juga terus mendesak para pemimpin dunia untuk bersiap menghadapi guncangan ekonomi masif akibat otomatisasi kognitif ini.
Batasan Sistem
Namun, mari kita bedah secara kritis: mengapa sebuah mesin membutuhkan pawang manusia? Jawabannya sederhana, karena AI tidak memiliki etika kontekstual dan moralitas berbasis nurani. Sebuah model bahasa besar (LLM) dapat menulis naskah hukum yang sempurna, tetapi ia tidak paham apa itu keadilan. Ia dapat memprediksi struktur protein dengan akurasi luar biasa, tetapi ia tidak memiliki beban moral jika formula tersebut disalahgunakan untuk menciptakan patogen mematikan. AI hanyalah tumpukan kode mati yang berjalan di atas kalkulasi probabilitas matematis.
Baca juga artikel menarik lainnya di kategori Etika Mesin.
Selain itu, gagasan pengawas global yang dipimpin oleh satu negara adalah sebuah utopia yang naif. Bagaimana sebuah badan bentukan AS bisa memaksa laboratorium raksasa di negara rival seperti China untuk “menekan tombol rem” saat mereka sedang bersaing ketat? Sistem AI tidak memiliki naluri diplomasi untuk membaca ketegangan geopolitik. Keterbatasan program inilah yang membuat AI tidak akan pernah bisa mengawasi dirinya sendiri tanpa campur tangan manusia yang memiliki intuisi, kelicikan politis, dan insting bertahan hidup yang dinamis.
Pada akhirnya, birokrasi otomatis yang diawasi oleh algoritma lain hanya akan menciptakan lingkaran setan tanpa ujung. Hanya manusia yang memiliki wewenang moral dan fisik untuk mendeteksi keanehan di luar parameter logis, lalu memutuskan secara sepihak untuk memutus aliran listrik server. Singularitas mungkin mendekat, tetapi tombol “Off” fisik tetap berada di bawah kendali jempol sang majikan.
Dampak Masa Depan
Jika proposal Hassabis ini benar-benar terwujud sebelum akhir tahun, peta persaingan teknologi global akan berubah drastis. Era koboi Silicon Valley yang menganut prinsip “move fast and break things” akan resmi berakhir. Perusahaan rintisan tidak bisa lagi merilis model AI setengah matang secara liar. Mereka harus melewati proses audit kelayakan yang ketat dan mahal, sebuah skenario yang tentu saja sangat menguntungkan raksasa teknologi seperti Google dan Microsoft yang memiliki modal tak terbatas untuk menyewa tentara pengacara kepatuhan.
Secara geopolitik, hal ini akan memicu gesekan baru. Uni Eropa yang sudah memiliki AI Act tentu enggan tunduk begitu saja di bawah badan pengawas yang disetir oleh kepentingan Washington. Pertempuran masa depan bukan lagi sekadar perebutan chip GPU tercepat atau pusat data terbesar, melainkan perebutan kedaulatan regulasi. Negara yang menguasai pengawas AI global, dialah yang mengendalikan arah arus ekonomi kognitif dunia.
Secara mendasar, kepanikan para elite teknologi ini mengingatkan kita pada satu kebenaran absolut: secanggih apa pun algoritma yang mereka ciptakan, AI tetaplah sebuah alat yang tak berdaya tanpa keputusan manusia untuk menjalankannya. Desakan Demis Hassabis untuk menciptakan pawang AI adalah pengakuan tidak langsung bahwa kecerdasan tanpa kebijaksanaan manusiawi hanyalah sebuah bahaya, bukan kemajuan. AI adalah pelayan yang sangat cepat, tetapi kitalah majikan yang memegang kendali penuh atas jalannya rumah tangga peradaban.
Lagi pula, buat apa pusing memikirkan singularity AI kalau menyuruh asisten digital di ponsel pintar untuk menyalakan lampu ruang tamu saja masih sering dibalas dengan hasil pencarian Google tentang “cara menanam tomat”.
Artikel ini dirangkum dari sumber asli di “The Verge”.
Gambar oleh: Bloomberg via Getty Images via TechCrunch