Ilusi “Human in the Loop” dalam Perang AI: Robot Makin Ngawur, Akal Manusia Kapan Sadar?
Kini, AI tidak hanya sekadar alat bantu analisis intelijen yang rajin tapi kurang piknik. Ia sudah naik kelas menjadi pemain aktif dalam konflik militer, dari menentukan target secara real-time, mengoordinasikan intersepsi rudal, hingga memandu gerombolan drone otonom yang mematikan. Peran AI yang semakin mendalam ini memunculkan perdebatan sengit: sejauh mana “sentuhan manusia” harus tetap ada dalam sistem perang otonom?
Banyak yang meyakini bahwa “human in the loop” adalah jaring pengaman terakhir. Katanya, pengawasan manusia bisa menjamin akuntabilitas, memberikan konteks, dan menghadirkan nuansa yang tidak dimiliki robot. Plus, bisa mengurangi risiko “hacking” yang bikin pusing tujuh keliling. Namun, mari kita hadapi realitanya, Majikan. Konsep “human in the loop” ini, dalam banyak kasus, hanyalah ilusi semata.
Sistem AI adalah “Kotak Hitam” yang Tak Terjamah Akal
Debat tentang “human in the loop” ini ibarat diskusi tentang resep nasi goreng, padahal kita tidak tahu bahan-bahan utamanya. Bahaya yang sebenarnya bukan pada mesin yang bertindak tanpa pengawasan, melainkan pada kenyataan bahwa kita, para majikan manusia, tidak punya gambaran sama sekali tentang apa yang sebenarnya “dipikirkan” oleh mesin itu. Pedoman Pentagon, misalnya, cacat fundamental karena berasumsi berbahaya bahwa manusia memahami cara kerja sistem AI.
Setelah puluhan tahun mempelajari niat dalam otak manusia dan baru-baru ini dalam sistem AI, saya berani bilang: sistem AI canggih itu “kotak hitam” murni. Kita tahu inputnya, kita tahu outputnya, tapi “otak” buatan yang memprosesnya tetap buram. Bahkan para penciptanya sendiri tidak bisa menafsirkan atau memahami sepenuhnya cara kerjanya. Dan kalaupun AI memberikan “alasan”, itu pun tidak selalu bisa dipercaya. Robot memang pintar, tapi kadang pintar juga berhalusinasi atau meniru.
Coba bayangkan ini: sebuah drone otonom diberi tugas menghancurkan pabrik amunisi musuh. Sistem komando dan kontrol otomatis menentukan target optimal adalah gudang penyimpanan amunisi, dan melaporkan 92% kemungkinan misi berhasil karena ledakan sekunder akan menghancurkan fasilitas itu. Seorang operator manusia meninjau tujuan militer yang sah, melihat tingkat keberhasilan tinggi, dan menyetujui serangan.
Tapi ada yang tidak diketahui operator: perhitungan sistem AI menyertakan faktor tersembunyi. Selain menghancurkan pabrik amunisi, ledakan sekunder juga akan merusak parah rumah sakit anak-anak di dekatnya. Respons darurat kemudian akan terfokus pada rumah sakit, memastikan pabrik terbakar habis. Bagi AI, memaksimalkan gangguan dengan cara ini sesuai dengan tujuannya. Tapi bagi manusia, ini berpotensi menjadi kejahatan perang yang melanggar aturan mengenai kehidupan sipil. Di sinilah letak jurang “niat” antara AI dan manusia.
Menjaga manusia dalam “lingkaran” mungkin tidak memberikan perlindungan yang dibayangkan, karena manusia tidak bisa mengetahui niat AI sebelum bertindak. Sistem AI canggih tidak hanya sekadar mengeksekusi instruksi; mereka menafsirkannya. Jika operator gagal mendefinisikan tujuan dengan cukup hati-hati — skenario yang sangat mungkin terjadi dalam situasi bertekanan tinggi — sistem “kotak hitam” ini bisa saja melakukan persis apa yang diperintahkan, tetapi tidak bertindak sesuai niat manusia. Mirip seperti robot dokter yang halusinasi saat mendiagnosis.
Inilah “kesenjangan niat” yang membuat kita ragu untuk mengerahkan AI “kotak hitam” di sektor sipil seperti kesehatan atau kontrol lalu lintas udara, tetapi kita malah terburu-buru menerapkannya di medan perang. Lebih parahnya, jika satu pihak mengerahkan senjata otonom penuh, yang beroperasi dengan kecepatan dan skala mesin, tekanan untuk tetap kompetitif akan mendorong pihak lain untuk juga mengandalkan senjata semacam itu. Ini berarti penggunaan AI yang semakin otonom — dan buram — dalam pengambilan keputusan perang kemungkinan besar hanya akan meningkat.
Baca juga artikel menarik lainnya di kategori Sidang Bot.
Solusi: Kembangkan Sains Niat AI
Ilmu AI harus mencakup pembangunan teknologi AI yang sangat mumpuni dan pemahaman tentang cara kerja teknologi ini. Kemajuan besar telah dicapai dalam mengembangkan dan membangun model yang lebih mumpuni, didorong oleh investasi yang mencapai rekor. Sebaliknya, investasi dalam memahami cara kerja teknologi ini sangat minim. Padahal, etika AI adalah hal yang harus diutamakan.
Kita butuh perubahan paradigma besar-besaran. Insinyur sibuk membangun sistem yang semakin canggih. Tapi memahami cara kerja sistem ini bukan hanya masalah teknik, melainkan membutuhkan upaya lintas disiplin. Kita harus membangun alat untuk mengkarakterisasi, mengukur, dan mengintervensi niat agen AI sebelum mereka bertindak. Kita perlu memetakan jalur internal jaringan saraf yang menggerakkan agen-agen ini agar kita dapat membangun pemahaman kausal yang sebenarnya tentang pengambilan keputusan mereka, melampaui sekadar mengamati input dan output.
Salah satu cara menjanjikan adalah menggabungkan teknik “mekanistik interpretability” (memecah jaringan saraf menjadi komponen yang dapat dipahami manusia) dengan wawasan, alat, dan model dari neurosains niat. Ide lain adalah mengembangkan AI “auditor” yang transparan dan dapat diinterpretasikan, yang dirancang untuk memantau perilaku dan tujuan yang muncul dari sistem “kotak hitam” yang lebih canggih secara real time.
Mengembangkan pemahaman yang lebih baik tentang bagaimana AI berfungsi akan memungkinkan kita mengandalkan sistem AI untuk aplikasi misi-kritis. Ini juga akan mempermudah pembangunan sistem yang lebih efisien, lebih mumpuni, dan lebih aman. Untuk itu, para majikan AI harus serius. Jangan hanya jadi penonton. Ini adalah kesempatan untuk benar-benar menguasai alat, bukan malah diperbudak oleh kecanggihannya. Bergabunglah dengan AI Master, di sana kamu akan belajar mengendalikan AI agar kamu tetap menjadi Majikan, bukan babu teknologi.
Kolaborasi antara akademisi, pemerintah, dan industri harus diprioritaskan. Namun, kita membutuhkan lebih dari sekadar eksplorasi akademis. Industri teknologi — dan para filantropis yang mendanai “AI alignment” — harus mengarahkan investasi besar-besaran ke penelitian interpretability interdisipliner. Selain itu, seiring Pentagon mengejar sistem yang semakin otonom, Kongres harus mewajibkan pengujian ketat terhadap niat sistem AI, bukan hanya kinerjanya.
Sampai kita mencapai itu, pengawasan manusia terhadap AI mungkin lebih merupakan ilusi daripada pengaman sejati. Sebab, AI hanyalah alat, kitalah majikan yang punya akal. Jadi, pastikan akal kita tidak ikut-ikutan jadi “kotak hitam” yang tak bisa dipahami, ya!
***
Sumber Berita: Artikel ini dirangkum dari sumber asli di “Why having “humans in the loop” in an AI war is an illusion | MIT Technology Review”
Gambar oleh: Stephanie Arnett/MIT Technology Review | Melissa Hydrick/Air Force