Curhat ke Robot Kesehatan? Siap-Siap, Dokter AI Bisa Jadi Saksi di Meja Hijau!

Pernahkah Anda membayangkan curhat masalah kesehatan atau hukum pada sebuah bot AI, lalu tiba-tiba obrolan ‘rahasia’ itu diungkit di pengadilan? Kedengarannya seperti plot film fiksi ilmiah kelas B, tapi sayangnya, ini adalah realita yang sedang kita hadapi, para Majikan AI!

Sam Altman, bos besar OpenAI, berkoar-koar bahwa obrolan dengan AI harusnya punya ‘privilege’ alias hak istimewa yang sama dengan konsultasi dokter atau pengacara. Menurutnya, ini demi privasi pengguna. Tentu saja, siapa yang mau urusan pribadi diumbar ke publik, apalagi sampai masuk ranah hukum? Tapi, Majikan AI punya akal sehat. Kita tahu, di balik alunan melodi manis soal privasi, ada motif lain yang lebih ‘pragmatis’.

Perusahaan teknologi raksasa seperti OpenAI, Anthropic, Google, dan Amazon kini berlomba-lomba terjun ke ladang emas AI kesehatan. Ada ChatGPT Health, ada asisten Gemini dari Fitbit, sampai proyek ambisius AMIE dari Google. Mereka mendorong kita untuk memasukkan riwayat medis, gejala, bahkan hasil rontgen ke dalam robot-robot ini. Janjinya? Pelayanan kesehatan yang lebih personal dan efisien.

Namun, di sinilah drama dimulai. Saat ini, sebagian besar obrolan dengan AI kesehatan tidak dilindungi oleh undang-undang privasi medis ketat seperti HIPAA. Artinya, data sensitif Anda bisa saja jadi barang bukti di pengadilan. Sebuah kasus bahkan memaksa OpenAI menyerahkan jutaan log obrolan penggunanya sebagai alat bukti! Konyolnya, Altman dan para sejawatnya justru berharap AI bisa diistimewakan secara hukum, bukan cuma untuk melindungi kita, tapi juga ‘perusahaan mereka dari tuntutan hukum yang membabi buta. Licik, tapi bukan robot namanya kalau tidak punya akal-akalan.

Lily Li, seorang pengacara privasi data dan manajemen risiko AI, menegaskan bahwa kita tidak menginginkan ‘perisai kewajiban murni’ yang membuat pembuat AI tidak tersentuh hukum. Bayangkan jika Anda digugat karena kesalahan diagnosis dari chatbot, lalu perusahaan AI menolak menyerahkan log obrolan dengan alasan ‘privilege AI’? Robot yang kurang piknik memang bisa jadi masalah besar.

Di sinilah akal sehat Majikan AI harus bekerja. Kita harus sadar, bahwa AI itu hanyalah alat. Ia tidak punya hati nurani, tidak punya kode etik profesi, dan yang paling penting, tidak punya akal. Menganggapnya setara dengan dokter atau pengacara manusia adalah langkah mundur yang berbahaya. Sebuah chatbot yang hanya bisa mengarang bebas, alias halusinasi, tentu tidak bisa diandalkan untuk urusan hidup-mati.

Baca juga artikel menarik lainnya di kategori Sidang Bot.

Situasi ini ibarat Anda curhat masalah pribadi ke asisten rumah tangga yang rajin, tapi kaku. Dia mencatat semua yang Anda katakan, tapi tanpa filter, tanpa pemahaman konteks emosional, dan bisa jadi catatannya diserahkan ke ‘pihak ketiga’ saat ada masalah. Akal manusia adalah penentu, bukan algoritma yang disumpahi demi cuan.

Para pengadilan sendiri sedang kebingungan. Ada hakim yang menolak memberikan ‘privilege’ pada dokumen strategi hukum yang dihasilkan bot AI Claude dari Anthropic, karena dianggap bukan ‘orang’. Tapi ada juga yang sebaliknya, menganggap output AI sebagai ‘produk kerja pengacara’ dan karenanya dilindungi. Ini membuktikan, hukum masih ketinggalan jauh dari kecepatan perkembangan AI. Robot-robot ini memang butuh sekolah lagi tentang etika dan hukum!

Para Majikan AI yang cerdas akan selalu ingat: ChatGPT itu dokter dadakan, bukan dokter sungguhan. Memberikan data medismu ke sana sama saja siap-siap kena diagnosis halusinasi dan bocornya privasi. Begitu pula saat robot mulai ‘nyolong’ identitas, seperti kasus Grammarly yang diseret ke meja hijau. Akal Majikan adalah benteng terakhir kita. Jika Anda ingin mengendalikan AI dan bukan menjadi babu teknologi, saatnya asah kemampuan Anda dengan kursus AI Master kami.

Ingat, secanggih apapun AI, ia tetap butuh manusia untuk menekan tombol. Tanpa akal Majikan, robot hanyalah tumpukan kode mati yang bisa saja menjadi bumerang bagi diri kita sendiri. Lagipula, siapa yang mau minum kopi buatan robot yang tidak tahu cara membedakan gula dan garam?

Artikel ini dirangkum dari sumber asli di “Mashable”.
Gambar oleh: Zain bin Awais / Mashable / Getty Images via TechCrunch