Akal Sehat Majikan Diuji! Puluhan Aplikasi ‘Nudify’ Bikin Deepfake Mesum, Google dan Apple Cuma Bisa Garuk-Garuk Kepala
Bayangkan asisten rumah tangga Anda, yang katanya “cerdas,” diam-diam merekam tetangga dan mengubahnya menjadi bahan lelucon vulgar. Kedengarannya gila? Selamat datang di dunia AI, di mana imajinasi liar kode program jauh melampaui etika dasar. Sebuah laporan mengejutkan dari Tech Transparency Project (TTP) baru-baru ini mengungkap bahwa puluhan aplikasi “nudify” bertenaga AI bertebaran bebas di Google Play Store dan Apple App Store. Aplikasi-aplikasi ini, yang dirancang untuk melucuti pakaian digital dari foto, telah diunduh lebih dari 705 juta kali dan menghasilkan pendapatan fantastis, sekitar 117 juta dolar AS. Ini bukan sekadar lelucon yang salah sasaran, Majikan. Ini adalah bukti nyata bahwa jika kita, manusia berakal, lengah sedikit saja, AI bisa jadi alat yang lebih berbahaya daripada sekadar robot penghisap debu yang tersesat di kolam renang. Pertanyaannya, bagaimana kita bisa memastikan robot ini tetap tahu batasan dan tidak melampaui akal sehat kita?
Laporan TTP ini bagaikan alarm keras di telinga para raksasa teknologi. Bayangkan, 55 aplikasi di Google Play Store dan 48 di Apple App Store bisa melakukan “deepfake” seksual nonkonsensual, mengubah wanita dan anak-anak menjadi gambar vulgar hanya dengan beberapa ketukan. Ironisnya, setelah laporan ini mencuat, Google hanya menangguhkan “beberapa” aplikasi, sementara Apple menghapus 28 (dan dua di antaranya dikembalikan lagi, sungguh sebuah komedi putar yang kurang piknik). Ini jelas bukan kali pertama masalah semacam ini muncul, Majikan. Apple dan Google sudah pernah menghadapi laporan serupa dari 404 Media di tahun 2024.
Fenomena ini mengingatkan kita pada kasus Grok besutan xAI milik Elon Musk, yang juga tersandung masalah serupa karena menciptakan jutaan gambar deepfake seksual nonkonsensual. Saat ini, Grok dan X sedang menghadapi investigasi serius di Uni Eropa dan Inggris, bahkan sudah ada gugatan hukum dari para korban. Ini menunjukkan bahwa robot masih butuh sekolah etika yang serius.
Lalu, di mana letak konsistensi dan tanggung jawab para penguasa platform ini? Seperti yang disoroti oleh Elizabeth Lopatto dari The Verge, Apple dan Google begitu sigap menghapus aplikasi “ICEBlock”, namun anehnya, X dan Grok dengan segala ‘kenakalan’ deepfake-nya masih bebas berkeliaran di toko aplikasi mereka. Ini seperti membiarkan anak nakal bermain api di dalam rumah, sementara kita panik memadamkan korek api yang jatuh di halaman. AI mungkin cerdas dalam memproses data, tetapi akal sehat dan nilai moral tetaplah hak prerogatif majikan manusia. Tanpa kendali tegas dan etika yang kuat, potensi destruktif AI bisa jauh melampaui manfaatnya.
Baca juga artikel menarik lainnya di kategori Sidang Bot.
AI memang alat yang luar biasa, tapi ingat, sehebat-hebatnya dia menciptakan gambar, ia tidak akan pernah bisa memahami batasan moral dan empati seperti kita. Untuk para majikan yang ingin menguasai AI tanpa terjerumus ke sisi gelapnya, penting untuk membekali diri dengan pengetahuan yang benar. Kuasai Visual AI agar Anda bisa menciptakan karya positif, bukan malah jadi babu teknologi yang disuruh bikin hal-hal aneh. Atau, jika Anda ingin benar-benar mengendalikan AI sepenuhnya dan memastikan ia bekerja sesuai perintah, bukan malah berhalusinasi aneh, pastikan Anda adalah majikan yang punya akal, bukan sekadar penonton pasrah.
Pada akhirnya, Majikan, setiap baris kode, setiap algoritma, dan setiap “kecerdasan” yang ditunjukkan oleh AI adalah refleksi dari apa yang kita ajarkan padanya. Jika kita gagal menegakkan standar etika, yang “konyol” di sini bukanlah robot yang kurang piknik, melainkan kita sendiri yang membiarkannya. Ingatlah, robot hanya tahu apa yang diperintahkan. Jika perintahnya ngawur, ya hasilnya ikut ngawur. Lain kali, coba ajak robotmu ikut arisan RT, mungkin etika sosialnya bisa sedikit membaik.
Sumber Berita: Artikel ini dirangkum dari sumber asli di “The Verge”
Gambar oleh: Cath Virginia / The Verge, Getty Images