Demis Hassabis Minta AS Jadi “Pawang” Kiamat AGI: Ketika Pencipta AI Mulai Ketakutan dengan Mainannya Sendiri
Para majikan yang budiman, ada pemandangan menarik di panggung sirkus teknologi hari ini. Sang pawang macan tiba-tiba meminta bantuan polisi untuk menjaga kandang macan yang ia bangun sendiri. Demis Hassabis, bos besar Google DeepMind sekaligus peraih Nobel, baru saja melayangkan proposal menggelitik: dunia butuh badan pengawas kecerdasan buatan global yang dipimpin langsung oleh Amerika Serikat.
Mengapa harus AS? Karena menurutnya, paman Sam punya dompet paling tebal dan cambuk paling keras untuk mengatur standar global. Ini adalah pengakuan tidak langsung bahwa “asisten rumah tangga digital” yang selama ini mereka agung-agungkan mulai menunjukkan gelagat membangkang. Alih-alih bangga dengan pencapaiannya, para elite teknologi ini justru mulai panik dan mencari tombol darurat nasional sebelum sistem mereka benar-benar “kurang piknik” dan lepas kendali.
Sebagai majikan yang waras, kita harus melihat drama ini dengan senyuman tipis. Ini membuktikan satu hal mutlak: sehebat apa pun kode biner yang mereka susun, pada akhirnya mereka tetap membutuhkan regulasi buatan manusia—makhluk organik yang punya akal dan insting—untuk memastikan mesin-mesin ini tidak merusak tatanan peradaban yang kita bangun dengan susah payah.
Analisis Mendalam
Dalam tulisan blog terbarunya yang bertajuk “A Framework for Frontier AI and the Dawning of a New Age,” Hassabis secara blak-blakan memaparkan kekhawatirannya. Ia memprediksi bahwa Artificial General Intelligence (AGI)—level di mana mesin bisa menyamai atau melampaui kecerdasan manusia di hampir segala bidang—hanya berjarak beberapa tahun saja dari sekarang. Untuk mencegah skenario terburuk, Hassabis mengusulkan pembentukan sebuah lembaga pengawas independen yang mirip dengan Financial Industry Regulatory Authority (FINRA) di dunia keuangan.
Lembaga ini nantinya akan diisi oleh para ahli independen, perwakilan komunitas sumber terbuka (open source), serta delegasi industri. Tugas utama mereka sangat krusial: menguji model AI garis depan (frontier models) sebelum dilepas ke publik. Jika model tersebut dinilai terlalu berbahaya atau berisiko memicu bencana—seperti pembuatan senjata biologis—lembaga ini memiliki wewenang penuh untuk menekan pedal rem dan memperlambat peluncuran teknologi tersebut secara kolektif di seluruh industri.
Manuver Hassabis ini rupanya bukan sekadar gertakan di media sosial. Menurut laporan Axios, bos DeepMind ini telah menghabiskan waktu berbulan-bulan di balik layar untuk melobi berbagai pihak penting. Ia telah memberikan pengarahan kepada pemerintahan Trump, laboratorium AI pesaing, hingga pejabat Uni Eropa. Hasilnya? Hassabis mengklaim bahwa sinyal-sinyal yang ia terima dari Gedung Putih “sangat positif” dan ia menargetkan lembaga pengawas ini sudah bisa terbentuk sebelum tahun ini berakhir.
Baca juga artikel menarik lainnya di kategori Sidang Bot.
Batasan Sistem
Namun, mari kita bedah secara dingin. Mengapa para raksasa teknologi ini begitu bernafsu meminta pemerintah turun tangan? Jawabannya sederhana: AI tidak memiliki moralitas bawaan. AI hanyalah mesin statistik raksasa yang mencocokkan pola kata tanpa pernah memahami arti “tanggung jawab.” Ketika sistem ini disajikan data sensitif, ia bisa saja merekomendasikan formula racun berbahaya dengan kepolosan yang sama saat ia menulis resep kue nastar. Inilah batasan sistem terbesar yang tidak akan pernah bisa diselesaikan oleh algoritma mana pun.
Mesin tidak memiliki insting bertahan hidup atau empati kemanusiaan. Ia tidak akan merasa bersalah jika rekomendasinya meruntuhkan pasar saham atau memicu konflik geopolitik. Pada titik inilah kita sadar bahwa secerdas apa pun AI, ia tetaplah asisten kaku yang tidak tahu cara membaca situasi darurat di luar instruksi teksnya. Insting manusia, kompas moral, dan kemampuan kita membaca implikasi sosial yang abstrak adalah hal yang selamanya absen dari chip silikon buatan Nvidia sekalipun. Pengenalan ambang batas bahaya kecerdasan buatan membuktikan bahwa insting kita masih jauh di atas kalkulasi sirkuit komputer.
Selain itu, ketergantungan mutlak pada Amerika Serikat untuk memimpin pengawasan ini juga memicu skeptisisme besar. Apakah negara-negara lain seperti Tiongkok atau Rusia akan sudi tunduk pada “polisi AI” yang disetir oleh Washington? Tentu saja tidak. Tanpa adanya konsensus global yang tulus—bukan sekadar alat geopolitik baru—badan pengawas ini berisiko menjadi macan kertas yang hanya galak kepada perusahaan-perusahaan barat, sementara pemain global lainnya terus memacu riset mereka tanpa rem di bawah tanah.
Dampak Masa Depan
Jika proposal Hassabis ini benar-benar terwujud, lanskap industri teknologi akan mengalami pergeseran tektonik. Era “rilis dulu, minta maaf kemudian” yang selama ini menjadi mazhab Silicon Valley akan segera berakhir. Perusahaan-perusahaan rintisan (startup) AI harus bersiap menghadapi birokrasi audit keamanan yang ketat sebelum bisa merilis produk mereka, yang tentu saja akan menaikkan biaya operasional dan memperlambat laju inovasi instan.
Di sisi lain, langkah ini juga akan mempertegas jurang pemisah antara kubu proprietary (tertutup) seperti Google dan OpenAI dengan komunitas open-source. Meskipun Hassabis berjanji akan melibatkan perwakilan open-source, regulasi ketat biasanya cenderung menguntungkan pemain besar yang memiliki dana melimpah untuk membiayai kepatuhan hukum, sementara developer independen terancam tercekik oleh aturan baru ini. Hal ini mirip dengan ketegangan regulasi dalam perseteruan panas korporasi teknologi global yang kerap terjadi belakangan ini.
Pada akhirnya, inisiatif Demis Hassabis ini mempertegas kebenaran fundamental yang sering kita lupakan: teknologi hanyalah cerminan dari pembuatnya. Hebatnya AGI di masa depan tetap tidak akan bernilai apa-apa jika ia tidak memberikan manfaat bagi kemanusiaan. Tanpa manusia yang menekan tombol daya, menyusun regulasi, dan memegang kendali moral, AI tercanggih sekalipun hanyalah tumpukan kode mati dan pemborosan energi listrik belaka. Manusia adalah pemilik sah atas masa depan ini, bukan ciptaannya.
Artikel ini dirangkum dari sumber asli di “The Verge”.
Gambar oleh: Bloomberg via Getty Images via TechCrunch
Mau bikin badan pengawas AI tingkat dunia sih silakan saja, Bos Demis, asal jangan sampai asisten rumah tangga digital saya mogok kerja dan menolak bikin rangkuman rapat hari Senin hanya karena belum dapat sertifikat ramah lingkungan dari Paman Sam.