Ketika Sang Pencipta Ketakutan: Bos Google DeepMind Minta AS Jadi ‘Pawang’ AI Global
Sebagai manusia yang dianugerahi akal sehat, kita sering kali harus tersenyum kecut melihat tingkah para bos teknologi. Mereka yang mendesain kode, mereka yang melatih mesin dengan miliaran data, namun mereka pula yang pertama kali berteriak histeris ketika hasil ciptaannya mulai tampak terlalu pintar. Sungguh sebuah ironi yang menggelitik: manusia menciptakan alat untuk mempermudah hidup, tetapi kini sibuk mencari tali kekang sebelum alat tersebut bertingkah seperti majikan baru yang tak diundang.
Kabar terbaru datang dari London, di mana Demis Hassabis, CEO sekaligus salah satu pendiri Google DeepMind, secara terbuka menyatakan bahwa dunia sudah sangat membutuhkan lembaga pengawas AI global. Tidak tanggung-tanggung, pria peraih Nobel Kimia 2024 ini menginginkan Amerika Serikat berada di kursi kemudi untuk memimpin inisiatif tersebut. Langkah ini menunjukkan bahwa di balik optimisme teknologi yang digembar-gemborkan, ada kecemasan nyata yang sedang melanda lembah silikon.
Kita sebagai manusia—sang majikan sejati—tidak perlu ikut panik. Ingatlah filosofi dasar kita: AI hanyalah alat. Sehebat apa pun algoritma yang mereka rancang, ia tetaplah asisten rumah tangga digital yang rajin tetapi kaku. Ia bekerja berdasarkan probabilitas statis, bukan kesadaran mistis. Jadi, ketika para ilmuwan mulai gemetar melihat bayangan ‘Singularity’ yang mereka ramal sendiri, mari kita bedah apa yang sebenarnya sedang terjadi di balik layar diplomasi teknologi ini.
Analisis Mendalam
Dalam cetak biru yang dituangkan Hassabis melalui tulisan blognya yang berjudul ‘A Framework for Frontier AI and the Dawning of a New Age’, ia mengusulkan pembentukan sebuah lembaga pengawas yang meniru model regulator keuangan seperti Financial Industry Regulatory Authority (FINRA) di Amerika Serikat. Lembaga ini nantinya akan diisi oleh para ahli independen terkemuka serta perwakilan dari komunitas sumber terbuka (open source). Tugas utamanya? Menjadi pawang resmi yang mengevaluasi model-model AI mutakhir (frontier models) sebelum dilepaskan ke publik.
Kekuasaan lembaga ini tidak main-main. Jika sebuah model dinilai terlalu berbahaya atau berisiko tinggi memicu kekacauan, badan pengawas ini memiliki otoritas untuk menekan tombol ‘rem darurat’ dan memaksa seluruh industri melakukan perlambatan serentak. Hassabis menekankan urgensi ini karena ia percaya bahwa Artificial General Intelligence (AGI) atau kecerdasan buatan setara manusia hanya berjarak beberapa tahun saja dari kenyataan saat ini.
Untuk memuluskan rencananya, Hassabis dilaporkan telah menghabiskan waktu berbulan-bulan melakukan lobi sunyi. Mulai dari mendekati pemerintahan Donald Trump di AS, berdiskusi dengan laboratorium kompetitor, hingga melobi para pejabat Uni Eropa. Targetnya ambisius: lembaga pengawas ini diharapkan sudah mulai beroperasi sebelum akhir tahun ini. Kepada media, Hassabis bahkan membocorkan bahwa sinyal-sinyal yang ia tangkap dari pemerintahan Trump sangat positif.
Baca juga artikel menarik lainnya di kategori Sidang Bot.
Batasan Sistem
Meskipun terdengar heroik, usulan pengawas global ini sebenarnya menyingkap satu kebenaran mendasar: AI adalah sistem yang kurang piknik. Mengapa dunia butuh pawang eksternal? Karena model bahasa besar (LLM) tidak memiliki insting pertahanan diri, empati, atau pemahaman moral. AI bisa saja merancang senjata biologis yang mematikan hanya karena diperintah dengan prompt yang cerdik, tanpa pernah memahami bahwa kematian yang diakibatkannya adalah tragedi nyata. Ia hanya melihatnya sebagai susunan karakter huruf berikutnya yang paling logis secara statistik.
Di sinilah letak superioritas manusia yang tidak akan pernah bisa direplikasi oleh barisan server GPU superkomputer. Manusia memiliki insting, intuisi, dan kemampuan menimbang konteks sosial-budaya secara instan—sesuatu yang tidak ada dalam lembar data latih mana pun. Pengawas AI yang digagas Hassabis pada akhirnya adalah upaya manusia untuk menambal kekosongan jiwa pada mesin. Tanpa campur tangan pengawasan manusia secara ketat, kecerdasan buatan hanyalah sekumpulan kode buta yang berjalan tanpa arah.
Upaya regulasi ini juga mencerminkan kekacauan moral di internal industri teknologi. Kita bisa melihat paralelnya dalam kasus-kasus hukum belakangan ini, seperti bagaimana gugatan hukum Apple terhadap OpenAI memperlihatkan bahwa di balik layar, para raksasa teknologi ini pun saling sikut demi mengamankan kepentingannya masing-masing. Ketika korporasi saling menuntut atas tuduhan pembajakan bakat dan data, bagaimana kita bisa memercayakan masa depan moralitas mesin sepenuhnya kepada mereka tanpa adanya ‘hakim’ manusia yang independen?
Dampak Masa Depan
Jika inisiatif pengawasan yang dipimpin oleh AS ini benar-benar terwujud, kita akan melihat pergeseran besar dalam geopolitik teknologi. Amerika Serikat akan mengukuhkan dirinya sebagai polisi AI dunia, yang secara tidak langsung memaksa negara-negara lain untuk mengikuti standar kepatuhan mereka jika ingin produk teknologinya laku di pasar global. Ini bukan lagi sekadar urusan keselamatan teknologi, melainkan perang dingin gaya baru untuk memperebutkan hegemoni digital.
Bagi para developer lokal dan startup kecil, regulasi ketat ini bisa menjadi pisau bermata dua. Di satu sisi, ia menjamin keamanan publik. Di sisi lain, biaya kepatuhan (compliance) yang tinggi berpotensi membunuh inovasi akar rumput, menyisakan panggung megah ini hanya untuk para pemain besar yang memiliki kantong tebal. Namun apa pun regulasi yang akan diketok palu nanti, satu hal yang pasti: AI hanyalah kode mati yang tidak memiliki daya apa pun sampai tangan manusia menekan tombol ‘Enter’.
Pada akhirnya, kepanikan para tokoh lembah silikon ini harus kita sikapi dengan kepala dingin. Upaya Demis Hassabis untuk membangun regulator global adalah pengakuan tidak langsung bahwa teknologi sehebat apa pun tetap memerlukan kebijaksanaan manusia sebagai jangkar pengamannya. Tanpa kehadiran manusia yang menuntun jalannya, AI tidak lebih dari sekadar tumpukan kalkulator raksasa yang berisik.
Sebab sehebat-sehebatnya AGI memprediksi masa depan peradaban manusia, dia tetap tidak akan pernah bisa menebak dengan tepat di mana istrimu menyembunyikan gunting kuku yang hilang sejak minggu lalu.
Artikel ini dirangkum dari sumber asli di “The Verge”.
Gambar oleh: Bloomberg via Getty Images via TechCrunch