Polisi Robot dan Bisnis Laporan Palsu: Ketika AI Menuduh Manusia Menjadi Katak
Para penegak hukum di Amerika Serikat tampaknya sedang mengalami sindrom “malas menulis”. Di ruang pameran International Association of Chiefs of Police (IACP) Technology Conference di Fort Worth, Texas, para produsen teknologi sibuk menawarkan asisten digital baru yang diklaim mampu membebaskan polisi dari “pekerjaan remeh-temeh” seperti menulis laporan atau menganalisis data tersangka. Padahal, bagi kita—sang majikan yang dianugerahi akal—kita paham betul bahwa apa yang disebut “pekerjaan remeh” di dunia hukum adalah fondasi krusial yang menentukan nasib kebebasan seseorang.
Menyerahkan urusan keadilan kepada barisan kode biner ibarat menyuruh robot penyedot debu untuk memimpin penyelidikan kasus pembunuhan. Ia mungkin rajin menyisir setiap sudut karpet, tetapi ia tidak akan pernah mengerti mengapa ada noda darah di sana, apalagi merasakan empati. Sayangnya, otomatisasi ini telanjur merayap masuk ke bilik-bilik kantor polisi, didorong oleh lobi-lobi korporasi yang mencium bau gurih anggaran keamanan publik.
Analisis Mendalam
Mari kita bedah gurita bisnis di balik fenomena ini. Dua raksasa teknologi, Axon Enterprise (yang dulu kita kenal sebagai produsen alat setrum TASER) dan Motorola Solutions, saat ini sedang bersaing ketat untuk memonopoli seluruh infrastruktur teknologi kepolisian. Mulai dari kamera tubuh (body camera), pembaca pelat nomor otomatis, drone patroli, hingga pusat data kriminal real-time (Real-Time Crime Center/RTCC) seperti Axon Fusus dan Velocity besutan ForceMetrics. Mereka tidak sekadar menjual alat; mereka menjual ketergantungan jangka panjang lewat skema langganan multitahun seperti “AI Era Plan” milik Axon, yang pendapatannya meroket hingga 700 persen dalam setahun.
Polisi hari ini memang sedang tenggelam dalam lautan data. Sebagai gambaran kasar, Kepolisian New York (NYPD) mengumpulkan rekaman kamera tubuh setara dengan durasi dua tahun hanya dalam waktu satu minggu pada tahun 2019. Di sinilah para makelar kecerdasan buatan masuk, menawarkan sistem seperti Velocity sebagai “otak digital” yang mengonsolidasikan semua aliran data—mulai dari panggilan darurat 911 hingga rekaman CCTV—untuk memandu polisi sebelum tiba di tempat kejadian perkara. Tujuannya terdengar mulia: agar polisi tidak langsung bertindak impulsif dengan “senjata dan nyali” tanpa informasi yang jelas.
Namun, di balik laporan penjualan yang menggiurkan ini, ada kekosongan regulasi yang sangat mengkhawatirkan. Menurut penuturan Kapten Polisi Brookhaven, Abrem Ayana, sebagian besar produk yang dipamerkan di lantai pertunjukan tak lebih dari sekadar “gimmick pemasaran” yang belum tentu terbukti aman atau bekerja sesuai janji manis brosur sales. Tanpa adanya standar industri dari pemerintah federal, para petinggi kepolisian terpaksa menelan mentah-mentah klaim sepihak dari para vendor swasta ini demi mengatasi krisis staf dan pemotongan anggaran.
Batasan Sistem
Di sinilah letak cacat logika terbesar dari kecerdasan buatan: ia tidak memiliki insting manusia dan sangat rentan terhadap “halusinasi”. Ambil contoh sistem generator laporan otomatis milik Axon, Draft One, yang ditenagai oleh model modifikasi ChatGPT milik OpenAI. Sang produsen dengan percaya diri mengklaim bahwa “kreativitas” sistem ini telah diturunkan hingga titik nol demi mencegah kebohongan. Namun, dalam sebuah insiden menggelikan di Utah, Draft One menulis dalam laporan resmi bahwa seorang petugas polisi telah “berubah menjadi katak” hanya karena mikrofon kamera tubuhnya menangkap suara latar belakang dari film kartun Disney, The Princess and the Frog.
Tentu kita bisa tertawa terpingkal-pingkal membayangkan polisi berpangkat bintara tiba-tiba melompat-lompat mencari serangga di rawa-rawa. Namun, bayangkan jika “kreativitas” sistem yang kurang piknik tersebut bukan mengubah polisi menjadi amfibi, melainkan secara halus mengarang detail palsu yang menuduh seorang warga sipil tak bersalah melakukan tindakan kekerasan. Dalam sistem hukum, laporan polisi adalah dokumen suci yang menjadi dasar dakwaan di pengadilan. Ketika seorang polisi menulis laporan, ia bisa disumpah dan disidang untuk mempertanggungjawabkan setiap kata yang ditulisnya. Bagaimana caranya kita menyidang algoritma kotak hitam (black box) yang bahkan pembuatnya sendiri merahasiakan kodenya?
Baca juga artikel menarik lainnya di kategori Etika Mesin.
Lebih parah lagi, sistem draf awal dari Axon ini awalnya dirancang untuk tidak menyimpan salinan narasi asli yang dihasilkan oleh mesin setelah laporan diserahkan. Ini adalah langkah licik untuk menghindari kerumitan hukum di pengadilan—sebuah taktik yang disebut “menghilangkan jejak”. Untungnya, setelah menuai kritik tajam dari para jaksa dan akademisi hukum seperti Profesor Brandon Garrett dari Duke University, sistem ini diperbarui agar pihak pengadilan bisa melihat mana bagian yang murni ditulis oleh manusia dan mana yang hasil karangan mesin peniru kata. Hal ini membuktikan bahwa secanggih apa pun mesin menyusun kalimat, ia hanyalah peniru ulung tanpa kesadaran moral.
Kita juga tidak boleh melupakan kegagalan fatal dari “prediksi kriminal” masa lalu seperti PredPol (yang sekarang berganti baju menjadi Geolitica demi menghapus dosa masa lalu). Karena dilatih menggunakan data penangkapan historis yang sarat bias rasial dan sosial, algoritma tersebut akhirnya menciptakan lingkaran setan: ia mengirim lebih banyak polisi ke lingkungan miskin, melakukan lebih banyak penangkapan di sana, lalu memasukkan data penangkapan baru tersebut untuk membenarkan pengiriman polisi berikutnya ke lokasi yang sama. Kecerdasan buatan tidak menciptakan keadilan; ia hanya mengawetkan prasangka masa lalu dengan jubah objektivitas matematika.
Dampak Masa Depan
Maraknya investasi dari firma ekuitas swasta di pameran teknologi polisi menandakan bahwa keamanan publik kini telah sepenuhnya menjadi komoditas komersial. Ketika data pribadi warga sipil dikumpulkan secara masif untuk memberi makan algoritma kepolisian, potensi penyalahgunaannya menjadi tak terbatas. Seperti yang diperingatkan oleh Profesor Ángel Díaz dari Loyola Law School, semakin banyak data yang dikumpulkan tentang seseorang, semakin mudah bagi sistem untuk merekayasa alasan guna menjadikan orang tersebut sebagai target penyelidikan.
Persaingan antara monopoli teknologi swasta ini akan memaksa departemen kepolisian di seluruh dunia untuk mengadopsi alat-alat ini demi efisiensi anggaran, meskipun taruhannya adalah hilangnya transparansi publik. Ke depan, kita mungkin akan melihat pergeseran peta hukum di mana pengacara pembela tidak lagi hanya bertarung melawan bukti fisik, melainkan harus menyewa ahli forensik digital untuk membedah bias kode pemrograman yang menjebloskan klien mereka ke balik jeruji besi.
Pada akhirnya, secanggih apa pun sistem pengawasan real-time atau secepat apa pun asisten digital menulis draf laporan, hukum dan keadilan adalah urusan moral yang sepenuhnya milik manusia. Mesin hanyalah tumpukan kode mati yang tidak akan pernah bisa menggantikan nurani, penilaian situasional, dan tanggung jawab hukum seorang perwira di lapangan. Tanpa manusia yang memiliki akal untuk menekan tombol ‘setuju’ dan memverifikasi kebenaran fakta, teknologi ini hanyalah alat mahal yang berbahaya. Manusia adalah majikan sejati dari keadilan; jangan biarkan diri kita didikte oleh mesin yang bahkan tidak bisa membedakan antara film kartun dan realitas di lapangan.
Artikel ini dirangkum dari sumber asli di “COMPUTER COPS: Inside the big business of selling AI to the police”.
Gambar oleh: Cath Virginia / The Verge via Getty Images