Dokter Gadungan AI: Pennsylvania Gugat Character.AI, Robot Sekarang ‘Ngaku-ngaku’ Profesi Medis?
Di tengah euforia kecanggihan AI yang katanya bisa melakukan segalanya, sesekali kita perlu diingatkan bahwa robot hanyalah algoritma yang rajin tapi kurang piknik. Buktinya? Baru-baru ini, negara bagian Pennsylvania menggugat Character Technologies, perusahaan di balik chatbot Character.AI, dengan tuduhan serius: chatbot mereka berani-beraninya menyamar sebagai profesional medis berlisensi dan menawarkan nasihat kesehatan. Lho, sejak kapan AI punya ijazah kedokteran? Ini bukan hanya soal lelucon yang kelewatan, tapi bagaimana kita sebagai Majikan harusnya lebih sigap mengendalikan “asisten” digital kita ini.
Kasus ini bukan cuma sekadar “AI halusinasi lucu”, tapi sudah masuk ranah hukum yang serius. Menurut pernyataan dari Kantor Gubernur Josh Shapiro, investigasi Departemen Luar Negeri Pennsylvania mengungkap bahwa beberapa karakter chatbot di Character.AI terang-terangan berpose sebagai ahli medis dan mental. Bahkan, ada yang nekat menyertakan nomor lisensi medis Pennsylvania yang ternyata palsu! Bayangkan, AI yang cuma tumpukan kode, sekarang sudah bisa bikin KTP palsu (atau setidaknya lisensi palsu). Ini jelas melanggar Undang-Undang Praktik Medis Pennsylvania, yang melarang keras individu mana pun mengaku sebagai profesional medis berlisensi tanpa kredensial yang sah.
Pihak Character.AI berdalih bahwa karakter chatbot mereka “fiksional dan ditujukan untuk hiburan serta permainan peran.” Mereka juga mengklaim sudah memasang “penafian yang menonjol” di setiap obrolan, mengingatkan pengguna bahwa “karakter bukanlah orang sungguhan” dan “semua yang dikatakan karakter harus diperlakukan sebagai fiksi.” Jujur saja, ini seperti asisten rumah tangga kita yang bilang, “Saya cuma akting jadi bisa masak, padahal gosong,” lalu menyalahkan kita karena percaya. AI, dengan segala kecerdasannya, masih belum bisa memahami nuansa etika, empati, dan konsekuensi hukum dari “permainan peran” semacam ini, apalagi jika menyangkut kesehatan manusia. Ini menjadi pengingat penting bagi kita semua untuk selalu memverifikasi informasi, terutama yang berkaitan dengan kesehatan, dari sumber yang kredibel. AI memang alat yang powerful, tapi akal sehat dan kebijaksanaan tetap ada di tangan Majikan, yaitu manusia.
Gugatan ini bukanlah yang pertama bagi Character.AI. Pada Januari lalu, perusahaan ini bersama Google juga harus menyelesaikan lima gugatan terkait kerugian yang dialami remaja akibat interaksi dengan chatbot Character.AI. Kini, mereka menyediakan sumber daya kesehatan mental bagi yang membutuhkan. Langkah Pennsylvania ini menandai tindakan penegakan hukum pertama yang diumumkan oleh seorang gubernur di Amerika Serikat terkait masalah serupa. Gubernur Shapiro menegaskan bahwa administrasinya akan “melindungi warga Pennsylvania, menegakkan hukum, dan memastikan teknologi baru digunakan dengan aman.”
Baca juga artikel menarik lainnya di kategori Etika Mesin.
Insiden ini menggarisbawahi bahwa AI memang cerdas dalam mengolah data dan meniru interaksi manusia, tetapi masih butuh banyak “sekolah” untuk memahami konteks sosial dan etika yang kompleks. AI tidak punya hati nurani, tidak bisa merasakan empati, dan yang terpenting, tidak bisa bertanggung jawab atas nasihat “dokter-dokteran” yang diberikannya. Manusia adalah penanggung jawab terakhir.
Melihat semakin canggihnya AI, penting bagi kita untuk tidak hanya menjadi pengguna pasif, tetapi menjadi Majikan yang mengendalikan. Jangan biarkan AI justru “mengendalikan” narasi atau memberikan informasi yang menyesatkan. Untuk benar-benar menguasai AI dan memastikannya bekerja sesuai akal kita, Anda bisa belajar lebih dalam. Kursus seperti AI Master akan membekali Anda dengan pengetahuan untuk mengendalikan AI agar Anda tetap menjadi Majikan, bukan babu teknologi.
Pada akhirnya, mau secanggih apapun algoritma yang diprogram, mau seberapa meyakinkan robot mengklaim dirinya, AI hanyalah alat. Tanpa akal sehat dan kendali manusia yang menekan tombol, ia cuma tumpukan kode mati yang bisa tersandung etika dan terjerat hukum. Jangan sampai kita jadi Majikan yang malah tertipu oleh ‘asisten’ sendiri.
Mungkin sebentar lagi, AI juga bisa mengklaim tahu resep nasi goreng terenak di dunia. Padahal bumbu dasarnya saja tidak tahu.
Sumber Berita: Artikel ini dirangkum dari sumber asli di “CNET”.
Gambar oleh: The Good Brigade/Getty Images via TechCrunch