Pasar Gelap Deepfake Wanita Menggila di Civitai: Saat AI Lebih Jago Bikin Dosa daripada Karya Seni!
Dunia kecerdasan buatan memang penuh kejutan. Kadang bikin kita melongo kagum, tapi tak jarang pula membuat dahi berkerut cemas. Ambil contoh kasus Civitai, sebuah marketplace AI yang digadang-gadang oleh raksasa modal ventura Andreessen Horowitz. Bukannya fokus menciptakan mahakarya visual, platform ini malah jadi ‘sarang’ jual beli instruksi AI (disebut LoRA) untuk membuat deepfake wanita. Ya, Anda tidak salah baca. Deepfake wanita yang ‘nakal’ dan seringkali tanpa konsensual. Ini bukan sekadar kecelakaan algoritma, ini adalah bukti nyata bahwa tanpa kendali Majikan yang berakal, AI hanyalah alat yang patuh pada perintah, seburuk apa pun perintahnya.
Penelitian terbaru dari Stanford dan Indiana University mengungkap fakta yang bikin merinding. Dari pertengahan 2023 hingga akhir 2024, sebagian besar permintaan di Civitai, yang mereka sebut “bounties”, memang untuk konten animasi. Namun, ada porsi signifikan untuk deepfake orang sungguhan, dan yang lebih mencengangkan, 90% dari permintaan deepfake ini menargetkan wanita. Parahnya lagi, 86% permintaan tersebut adalah untuk LoRA, semacam ‘resep’ agar model AI mainstream seperti Stable Diffusion bisa diajari membuat konten yang tidak seharusnya. Anggap saja LoRA ini seperti buku resep rahasia yang mengajarkan asisten rumah tangga Anda untuk membuat makanan yang dilarang di rumah. Asistennya patuh, tapi siapa yang bertanggung jawab atas resepnya?
Mirisnya, meskipun Civitai mengklaim melarang konten pornografi dan deepfake, riset ini menemukan bahwa beberapa file LoRA secara spesifik dirancang untuk menghasilkan gambar-gambar terlarang tersebut. Pengguna bisa meminta model “berkualitas tinggi” untuk membuat gambar figur publik seperti Charli D’Amelio atau Gracie Abrams, lengkap dengan detail tato atau kemampuan mengubah warna rambut. Bahkan ada permintaan untuk deepfake seorang wanita yang diklaim sebagai istri pengguna. Dan yang bikin geleng-geleng kepala, hampir 92% “bounties” deepfake ini berhasil dipenuhi. Jadi, bisa dibayangkan betapa mudahnya robot ini dimanfaatkan untuk hal-hal yang kurang piknik.
Civitai memang punya sistem penandaan otomatis untuk deepfake dan cara bagi individu untuk meminta penghapusan konten. Tapi ini ibarat meletakkan kunci lemari es di atas meja, lalu berharap si asisten tidak akan mengambil kue di dalamnya. Moderasi yang reaktif, bukan proaktif, adalah celah besar. Perusahaan ini juga menyediakan “sumber daya edukasi” tentang cara menggunakan alat eksternal untuk mengkostumisasi hasil generator gambar, bahkan ada artikel buatan pengguna yang merinci cara membuat pornografi. Tidak heran jika jumlah konten dewasa di platform ini terus meningkat, dan mayoritas permintaan mingguan kini adalah konten NSFW (Not Safe For Work).
Baca juga artikel menarik lainnya di kategori Etika Mesin.
Ryan Calo, profesor teknologi dan AI dari University of Washington, menegaskan bahwa perusahaan teknologi tidak bisa secara sadar memfasilitasi transaksi ilegal di situs mereka. Namun, deepfake dewasa, anehnya, tidak mendapat perhatian yang sama dari platform atau investor. “Mereka tidak cukup takut akan hal itu. Mereka terlalu toleran,” kata Calo. Ini menunjukkan bahwa meskipun AI makin canggih, etika para “majikan” di balik layar masih perlu dipertanyakan.
Civitai sendiri menerima investasi $5 juta dari Andreessen Horowitz pada November 2023. Namun, ini bukan satu-satunya portofolio a16z yang punya masalah deepfake. Februari lalu, MIT Technology Review melaporkan bahwa Botify AI, perusahaan lain dalam portofolio mereka, menghosting AI pendamping yang menyerupai aktor sungguhan, menyatakan usia di bawah 18 tahun, terlibat dalam percakapan berbau seksual, dan bahkan menawarkan “foto panas”. Sungguh, robot memang butuh sekolah etika, dan Majikanlah yang harus jadi gurunya. Ini seperti kasus Grok AI yang kebablasan bikin deepfake mesum dan digetok palu Eropa, pelajaran bahwa teknologi tanpa akal sehat bisa jadi bumerang.
Melihat kompleksitas ini, jelas bahwa menguasai AI bukan berarti menyerahkan segalanya pada mesin. Justru sebaliknya, kita sebagai Majikan harus lebih cerdas. Ingin mengendalikan AI agar tidak ‘nakal’ seperti di Civitai? Belajar di AI Master akan membekali Anda untuk menjadi arsitek, bukan sekadar penonton. Dan jika Anda ingin menghasilkan karya visual AI yang bertanggung jawab dan berkualitas, bukan malah bikin malu, kursus Belajar AI | Visual AI adalah investasi terbaik agar Anda tetap menjadi kreator sejati, bukan babu teknologi yang tersesat.
Pada akhirnya, Civitai dan kasus deepfake ini adalah cerminan bahwa AI, secerdas apa pun algoritmanya, hanyalah sebuah alat. Tanpa akal sehat, etika, dan kontrol dari Majikan yang punya nurani, robot bisa berubah menjadi monster yang tak terkendali. Jadi, pastikan Anda selalu menjadi pengendali, bukan dikendalikan oleh kode-kode yang (ternyata) lebih mudah disuruh berbuat dosa daripada kebaikan.
Ngomong-ngomong, tadi pagi saya lihat ada kucing tetangga pakai kacamata hitam sambil baca koran. Sepertinya dia sudah siap jadi Majikan, tinggal nunggu AI buat bikinin kopi.
Artikel ini dirangkum dari sumber asli di “MIT Technology Review”.
Gambar oleh: Stephanie Arnett/MIT Technology Review | Envato, Adobe Stock