Jangan Curhat Penyakit ke ChatGPT! Kongres AS Siap Hukum Lab AI yang Jual Data Medis Anda

Manusia sering kali menunjukkan perilaku yang menarik sekaligus menggelikan. Hanya karena memiliki asisten virtual yang bisa merangkai kata dengan rapi, banyak dari kita langsung menganggapnya sebagai dokter spesialis pribadi atau psikolog andalan. Kita dengan sukarela mengetik riwayat penyakit, mengunggah hasil rontgen, hingga menceritakan kecemasan medis paling intim ke dalam kolom chat ChatGPT, Claude, atau Grok. Padahal, di balik antarmuka yang tampak ramah itu, asisten “serba tahu” ini hanyalah barisan kode kaku yang tidak pernah mengucapkan sumpah dokter.

Sikap pasrah para pengguna yang terlalu memercayakan rahasia terdalam mereka pada mesin ini akhirnya memicu alarm darurat di Washington. Kongres Amerika Serikat mulai menyadari bahwa tanpa regulasi yang ketat, data kesehatan serta lokasi fisik kita yang sangat berharga ini akan segera mendarat di pasar gelap pialang data, siap dilego ke penawar tertinggi. Di sinilah logika berpikir kita sebagai pengendali teknologi diuji: apakah kita akan terus bertingkah seolah chatbot AI adalah buku harian rahasia yang aman?

Analisis Mendalam

Senator Elizabeth Warren (D-MA) bersama Perwakilan Mary Gay Scanlon (D-PA) berencana meluncurkan versi mutakhir dari Health and Location Data Protection Act yang dirancang khusus untuk menghadapi era kecerdasan buatan. Rancangan undang-undang ini merupakan evolusi dari draf tahun 2022 yang awalnya hanya melarang pialang data (data brokers) mengumpulkan dan menjual data kesehatan dan lokasi secara ilegal. Kini, jangkauannya diperluas secara drastis untuk menutup celah dari perusahaan teknologi yang kerap menyuplai data tersebut secara tidak langsung ke broker luar.

Langkah antisipatif ini diambil bukan tanpa alasan kuat. Laboratorium-laboratorium kecerdasan buatan raksasa belakangan ini memang sedang gencar-gencarnya merambah ranah medis demi memperluas gurita bisnis mereka. Pada bulan Januari lalu, Elon Musk bahkan secara terbuka mengajak para pengikutnya di media sosial untuk mengunggah catatan medis mereka, seperti hasil pemindaian MRI, langsung ke Grok, chatbot milik xAI. Tidak mau kalah, OpenAI meluncurkan ChatGPT Health yang diklaim sebagai tab aman bagi pengguna untuk mengunggah dokumen medis sensitif, disusul dengan ChatGPT for Healthcare untuk para penyedia layanan kesehatan profesional.

Anthropic pun segera merespons persaingan ini dengan merilis Claude for Healthcare, sebuah alat yang mereka klaim telah memenuhi standar keamanan “HIPAA-ready” untuk digunakan oleh rumah sakit maupun individu. Perebutan pasar kesehatan digital ini menunjukkan betapa bernilainya data biologis manusia di mata para korporasi teknologi. Namun, di balik janji-janji manis tentang efisiensi medis, terdapat bahaya laten yang mengintai ketika data pribadi Anda diubah menjadi bahan bakar latihan algoritma mereka.

Baca juga artikel menarik lainnya di kategori Sidang Bot.

Batasan Sistem

Mengapa kita, sebagai pemilik akal, harus tetap menaruh curiga pada fenomena ini? Jawabannya sederhana: Sebab AI hanyalah alat. Mesin tidak memiliki moralitas bawaan; mereka tidak mengerti mengapa sebuah hasil laboratorium kanker harus dirahasiakan. Mereka hanya memproses pola probabilitas kata berdasarkan apa yang pernah mereka “telan” selama masa pelatihan. Ketika Anda memasukkan informasi kesehatan pribadi ke dalam sistem mereka, Anda sepenuhnya berada di bawah belas kasihan kebijakan privasi perusahaan yang sewaktu-waktu bisa diubah secara sepihak.

Saat ini, Amerika Serikat sendiri masih tertinggal dalam menciptakan kerangka kerja federal yang komprehensif untuk melindungi privasi data digital warganya. Perlindungan pada alat-alat AI medis yang populer sekarang sepenuhnya bersandar pada janji-janji sepihak korporasi dalam dokumen syarat dan ketentuan mereka. Apabila suatu hari terjadi serangan siber atau kebocoran data yang masif akibat gagal sistem, posisi tawar pengguna sangatlah lemah karena tidak ada jaminan hukum federal yang kuat yang menaungi mereka.

Dalam skenario terburuk di mana data medis Anda bocor, chatbot pintar tersebut tidak akan menemani Anda di pengadilan untuk menuntut keadilan. Ia hanya akan menampilkan pesan kesalahan yang dingin di layar perangkat Anda. Manusia sering lupa bahwa di balik kecerdasan buatan yang tampak menakjubkan, ada infrastruktur server yang rentan runtuh dan tim legal korporasi yang siap cuci tangan demi menyelamatkan neraca keuangan mereka sendiri.

Dampak Masa Depan

Rancangan undang-undang baru ini membawa amunisi yang tidak main-main untuk mendisiplinkan para raksasa teknologi. Undang-undang ini memberikan mandat penuh kepada Komisi Perdagangan Federal (FTC) untuk menetapkan aturan pelaksana dalam waktu 180 hari setelah disahkan. Tidak hanya itu, Kongres juga menyiapkan dana segar sebesar 1 miliar dolar AS untuk FTC selama sepuluh tahun ke depan khusus untuk memperkuat fungsi pengawasan dan penegakan hukum terhadap para pelanggarnya.

Regulasi ini juga membuka pintu bagi para jaksa agung di tingkat negara bagian serta individu yang menjadi korban kebocoran data untuk melayangkan gugatan perdata secara mandiri. Hal ini tentu akan memaksa perusahaan-perusahaan AI berpikir seribu kali sebelum mencoba mengeksploitasi atau menjual data pengguna demi meraup keuntungan kilat. Peta persaingan bisnis kecerdasan buatan di masa depan dipastikan akan bergeser dari sekadar adu cepat merilis fitur baru menjadi adu ketat menjaga kepatuhan hukum dan keamanan data biologis manusia.

Kesimpulan

Sehebat apa pun teknologi medis yang disuntikkan ke dalam ChatGPT, Claude, atau Grok, semuanya hanyalah sekumpulan kode mati tanpa instruksi dari Anda. Keputusan untuk mengunggah dokumen pribadi atau membiarkan mesin mengintip lokasi fisik Anda sepenuhnya berada di bawah kendali jari Anda sendiri. Perlindungan privasi terbaik tidak datang dari canggihnya enkripsi atau ketatnya pengawasan FTC, melainkan dari akal sehat Anda yang tahu kapan harus berhenti mengetik dan kapan harus menutup tab peramban.

Curhat masalah kesehatan ke AI itu sah-sah saja, tapi jangan heran kalau besok pagi Anda tiba-tiba dibanjiri iklan peti mati di beranda media sosial Anda.

Artikel ini dirangkum dari sumber asli di “The Verge”.
Gambar oleh: Cath Virginia via TechCrunch