Ketika Polisi Menyerahkan Borgol ke Tangan Algoritma: Menguak Gurita Bisnis AI di Sektor Keamanan
Bayangkan Anda memiliki asisten rumah tangga yang luar biasa rajin. Dia mencatat setiap kali kucing tetangga lewat, menyapu halaman sepuluh kali sehari, dan mengumpulkan tumpukan data tentang seberapa sering Anda membuka kulkas. Namun, ketika ada maling masuk, si asisten malah sibuk membuat grafik statistik tentang kemungkinan maling tersebut kembali minggu depan, alih-alih berteriak atau menelepon polisi. Kurang lebih, begitulah gambaran situasi ketika aparat penegak hukum mulai mabuk kepayang oleh janji manis kecerdasan buatan (AI).
Sebagai “majikan” sejati yang dibekali akal budi, manusia seharusnya sadar bahwa teknologi hanyalah alat bantu, bukan hakim penentu. Namun, di panggung keamanan modern, kita sedang menyaksikan pergeseran yang mencemaskan. Borgol, laporan kejadian, hingga keputusan taktis di lapangan perlahan didelegasikan kepada barisan kode yang tidak memiliki nurani, apalagi empati.
Pertemuan teknologi International Association of Chiefs of Police (IACP) di Fort Worth, Texas, baru-baru ini mempertegas satu hal: ada ladang emas baru di sektor anggaran kepolisian, dan para raksasa teknologi sedang berebut kapling dengan sangat agresif. Sebagai pemilik otoritas tertinggi, kita harus mulai bertanya: apakah kita sedang menciptakan lingkungan yang lebih aman, atau justru menyerahkan kedaulatan hukum kita kepada sistem yang kurang piknik?
Analisis Mendalam
Industri teknologi kepolisian kini sedang mengalami demam emas. Perusahaan raksasa seperti Axon Enterprise (yang awalnya kita kenal sebagai produsen alat kejut listrik TASER) dan Motorola Solutions sedang giat-giatnya mengonsolidasikan kekuatan untuk memonopoli seluruh infrastruktur teknologi polisi. Mereka tidak lagi hanya menjual kamera badan (body-worn camera) atau pemindai pelat nomor otomatis, melainkan menawarkan apa yang disebut sebagai Real-Time Crime Center (RTCC). Salah satu produk andalannya adalah Axon Fusus—hasil akuisisi strategis di awal 2024—dan Velocity dari ForceMetrics, platform berbasis AI yang bertindak sebagai “otak digital terpusat” untuk memproses lautan data dari panggilan darurat 911, CCTV, hingga data pembebasan bersyarat.
Mengapa bisnis ini begitu menggiurkan? Jawabannya ada pada model bisnis langganan jangka panjang. Axon, misalnya, merilis paket bernama “AI Era Plan” pada akhir 2024. Melalui skema ini, kepolisian membayar biaya tahunan tetap untuk mendapatkan akses ke semua alat AI mereka saat ini dan masa depan, termasuk alat pembuat laporan otomatis bernama Draft One. Hasilnya? Pendapatan produk AI milik Axon meroket hingga 700 persen dalam perbandingan tahun-ke-tahun. Tidak mengherankan jika lantai pameran teknologi kepolisian kini dipadati oleh para investor ekuitas swasta yang mencium bau amis uang dari anggaran publik.
Sayangnya, penetrasi teknologi ini sering kali berjalan mulus tanpa hambatan berkat taktik penjualan yang cerdik. Melalui apa yang disebut sebagai sole-source procurement agreements (perjanjian pengadaan sumber tunggal) dan masa uji coba gratis, vendor-vendor ini berhasil mengunci kontrak multi-tahun dengan departemen kepolisian tanpa harus melewati proses lelang yang kompetitif dan transparan. Akibatnya, aparat di lapangan kerap kali menjadi kelinci percobaan bagi perangkat lunak yang klaim keamanannya hanya didasarkan pada jaminan sepihak dari brosur penjualan sang vendor sendiri.
Baca juga artikel menarik lainnya di kategori Etika Mesin.
Batasan Sistem
Di sinilah akal sehat manusia diuji. Para promotor AI sering menggembar-gemborkan bahwa alat seperti Draft One—yang dibangun di atas versi modifikasi ChatGPT—dapat menghemat waktu polisi hingga 40 persen dengan menulis laporan kejadian secara otomatis. Klaim bahwa tingkat kreativitas model ini telah “diturunkan hingga nol” untuk mencegah halusinasi harus kita telan dengan segunung garam dapur. Bahkan laboratorium AI tercanggih di dunia pun belum bisa memecahkan teka-teki halusinasi sistem LLM mereka, seperti yang terlihat dalam kasus kekacauan hukum akibat penyalahgunaan generatif dalam artikel xAI terhadap pengguna Grok.
Bukti konkret rapuhnya sistem ini tidak perlu dicari jauh-jauh. Dalam sebuah insiden yang menggelitik sekaligus mengerikan di Utah, sistem Draft One menuliskan laporan bahwa seorang petugas polisi di lapangan telah “berubah menjadi katak”. Mengapa? Karena mikrofon kamera badan petugas tersebut menangkap suara latar belakang dari film kartun Disney, The Princess and the Frog, yang sedang diputar di lokasi kejadian. Jika kesalahan dari AI yang masih perlu sekolah ini terjadi pada kasus sengketa sepele, kita mungkin bisa tertawa. Namun, bagaimana jika halusinasi tersebut masuk ke dalam berkas perkara pengadilan untuk kasus kejahatan berat?
Hal yang lebih mengerikan adalah hilangnya rantai akuntabilitas hukum. Pada awalnya, Draft One dirancang untuk tidak menyimpan salinan draf laporan asli yang dibuat oleh AI demi menghindari kerumitan keterbukaan informasi bagi pengacara dan jaksa. Artinya, di ruang sidang, sangat mustahil untuk menguji silang apakah suatu detail krusial ditulis berdasarkan memori obyektif petugas manusia atau karangan indah dari algoritma kotak hitam (black box). Meskipun pembaruan sistem di akhir tahun akhirnya memungkinkan penyimpanan draf asli, kekhawatiran mendasar tentang hilangnya insting manusiawi dalam menilai situasi psikologis di tempat kejadian perkara tetap tidak terjawab. AI tidak memiliki intuisi moral; ia hanya menyusun kata yang paling mungkin muncul berikutnya berdasarkan statistik.
Dampak Masa Depan
Sejarah mencatat bahwa kecerobohan kepolisian dalam mengadopsi algoritma bukanlah barang baru. Kita tentu ingat kegagalan sistem “predictive policing” seperti PredPol (yang buru-buru ganti nama menjadi Geolitica setelah reputasinya hancur) dan CompStat. Alih-alih menciptakan keadilan objektif, algoritma tersebut justru mereproduksi bias historis dari data masa lalu. Karena area pemukiman miskin secara historis lebih sering dipatroli, sistem terus-menerus mengirimkan lebih banyak polisi ke sana, menciptakan lingkaran setan diskriminatif yang berkedok objektivitas matematika.
Di masa depan, tanpa adanya regulasi federal yang komprehensif, dominasi vendor swasta atas data publik akan semakin tidak terkontrol. Ketika seluruh data penegakan hukum dienkripsi dan dikunci di balik hak paten korporasi swasta, transparansi publik akan mati secara perlahan. Kita akan menghadapi situasi di mana sistem peradilan dipandu oleh algoritma komersial yang mengabaikan aspek keadilan sosial demi mengejar target efisiensi operasional dan penguasaan pangsa pasar.
Pada akhirnya, kita harus kembali pada kebenaran hakiki: AI hanyalah deretan kode mati yang tidak akan berfungsi tanpa manusia yang menekan tombolnya. Teknologi tidak boleh memikul tanggung jawab moral atas kebebasan atau nyawa seseorang. Ketika penegak hukum mulai malas berpikir dan menyerahkan keputusan penting kepada mesin, di situlah kedaulatan manusia sebagai majikan runtuh.
AI mungkin bisa memprediksi kejahatan di lingkungan Anda, tetapi mereka tetap tidak akan pernah tahu ke mana perginya sebelah kaos kaki Anda yang hilang di dalam mesin cuci setiap hari Selasa.
Artikel ini dirangkum dari sumber asli di “The Verge”.
Gambar oleh: Cath Virginia / The Verge, Getty Images via TechCrunch