Jangan Mau Jadi Sapi Perah: Mengapa Regulasi Baru AS Ingin Melarang AI Menjual Data Penyakit Anda
Ketika Anda mengeluhkan nyeri dada atau mengunggah hasil rontgen ke chatbot kecerdasan buatan, Anda mungkin berpikir sedang berkonsultasi dengan asisten pribadi yang setia dan menjaga rahasia. Sayangnya, asisten tersebut sebenarnya lebih mirip dengan tetangga yang rajin mencatat keluhan Anda, hanya untuk membisikkannya ke makelar data demi pundi-pundi rupiah di sore hari. Kita, sebagai majikan yang memiliki akal, sering kali lupa bahwa alat-alat ini tidak dirancang dengan hati nurani, melainkan dengan algoritma yang haus asupan informasi.
Baru-baru ini, para pembuat kebijakan di Amerika Serikat mulai menyadari kegilaan ini. Mereka gerah melihat bagaimana data medis dan lokasi para pengguna dijadikan komoditas yang diperjualbelikan dengan bebas oleh raksasa teknologi. Langkah penyelamatan pun disiapkan guna memastikan bahwa rahasia dapur tubuh Anda tidak berakhir di tangan penawar tertinggi.
Analisis Mendalam
Senator Elizabeth Warren dari Massachusetts dan Perwakilan Mary Gay Scanlon dari Pennsylvania tengah bersiap meluncurkan versi terbaru dari Health and Location Data Protection Act yang disesuaikan khusus untuk membendung keliaran teknologi pintar. Undang-undang yang pertama kali diperkenalkan pada Juni 2022 ini awalnya hanya menyasar pialang data (data brokers) konvensional. Kini, draf tersebut diperluas untuk melarang perusahaan teknologi mana pun menjual data sensitif yang dimasukkan pengguna ke dalam sistem kecerdasan buatan mereka kepada para pialang data tersebut.
Langkah proteksi ini mendesak dilakukan karena para laboratorium teknologi sedang gencar-gencarnya merambah sektor medis. Lihat saja bagaimana Elon Musk dengan santainya meminta netizen mengunggah rekam medis, termasuk hasil pemindaian MRI, ke Grok, chatbot milik xAI. Di sisi lain, OpenAI meluncurkan ChatGPT Health yang diklaim sebagai tab aman untuk menyimpan riwayat kesehatan, sementara Anthropic buru-buru mengekor dengan merilis Claude for Healthcare yang berlabel “HIPAA-ready”.
Namun, di balik jargon keamanan tersebut, para pengguna sejatinya berjalan di atas lapisan es yang tipis. RUU baru yang juga didukung oleh Senator Ron Wyden dan Bernie Sanders ini mencoba memberikan taring hukum yang nyata. Rencana regulasi ini akan memberi mandat kepada Komisi Perdagangan Federal (FTC) untuk menetapkan aturan dalam waktu 180 hari, lengkap dengan kucuran dana penegakan hukum sebesar US$1 miliar (sekitar Rp16,3 triliun) selama sepuluh tahun ke depan. Tidak hanya itu, undang-undang ini juga memberikan hak bagi FTC, jaksa agung negara bagian, hingga individu yang dirugikan untuk menuntut perusahaan nakal secara langsung.
Baca juga artikel menarik lainnya di kategori Etika Mesin.
Batasan Sistem
Mari kita bedah kenyataan pahitnya: sistem kecerdasan buatan adalah “Sistem yang Kurang Piknik” dalam hal etika kemanusiaan. Ketika Anda curhat ke ChatGPT tentang penyakit kronis Anda, chatbot tersebut tidak memahami rasa sakit Anda. Ia hanya melihat kata-kata Anda sebagai sekumpulan token matematis yang siap diproses dan diprediksi. Bagi sebuah program komputer, tidak ada perbedaan nilai moral antara resep obat kanker Anda dengan resep membuat kue cubit setengah matang; semuanya hanyalah baris data yang bisa dioptimalkan untuk keuntungan komersial.
Di sinilah letak kelemahan fatal sistem yang sering diagung-agungkan ini. Janji manis perlindungan privasi yang tertera di dokumen syarat dan ketentuan (ToS) perusahaan teknologi sangat mudah berubah haluan seiring perubahan kebijakan bisnis mereka. Tanpa adanya kerangka kerja federal yang komprehensif, hukum privasi Amerika Serikat yang usang membuat janji privasi dari korporasi hanyalah sebuah komitmen sepihak yang bisa ditarik kapan saja saat investor mulai menuntut laporan keuangan yang hijau.
Insting manusia adalah benteng pertahanan terakhir. Kecerdasan buatan tidak memiliki loyalitas bawaan; ia tunduk pada pemilik server dan penyandang dana terbesar. Selama sistem ini tidak memiliki kesadaran moral untuk menolak perintah menjual data, maka menyandarkan keamanan informasi medis Anda pada “kebaikan hati” korporasi teknologi adalah tindakan yang kurang bijaksana.
Dampak Masa Depan
Jika RUU ini berhasil disahkan, peta persaingan industri kecerdasan buatan akan berubah drastis. Perusahaan-perusahaan teknologi tidak lagi bisa dengan bebas memperlakukan data pengguna sebagai tambang emas gratis yang bisa dikeruk tanpa batas demi melatih model bahasa besar (LLM) berikutnya atau dijual ke pihak ketiga. Ini akan memaksa para raksasa Silicon Valley untuk berinvestasi lebih besar pada teknologi enkripsi ujung-ke-ujung (end-to-end encryption) yang sesungguhnya, bukan sekadar ruang simulasi (sandbox) kosmetik yang rentan bocor.
Lebih jauh lagi, regulasi ketat ini akan menyaring mana perusahaan yang benar-benar berkomitmen membangun alat bantu kesehatan yang etis, dan mana yang sekadar ingin menjadi makelar data berkedok asisten medis pintar. Aturan main yang baru ini menegaskan satu hal penting: teknologi harus tunduk pada aturan manusia, bukan sebaliknya.
Pada akhirnya, regulasi seperti Health and Location Data Protection Act adalah pengingat penting bahwa manusialah sang penguasa sejati. Tanpa perintah, jemari, dan data yang kita masukkan, sistem kecerdasan buatan secanggih apa pun hanyalah sekumpulan kode mati di dalam server yang dingin. Menjaga privasi kesehatan adalah hak mutlak kita sebagai majikan teknologi, dan sudah saatnya kita berhenti memperlakukan asisten digital yang kaku ini sebagai tempat penyimpanan rahasia terdalam kita.
Sebab secanggih-canggihnya Claude menganalisis hasil rontgen Anda, dia tetap tidak akan bisa memijat punggung Anda yang masuk angin setelah semalaman begadang membuat prompt.
Artikel ini dirangkum dari sumber asli di The Verge.
Gambar oleh: Cath Virginia / The Verge via TechCrunch