Akal Sehat Majikan Diuji! Puluhan Aplikasi ‘Nudify’ Bikin Deepfake Mesum, Google dan Apple Cuma Bisa Garuk-Garuk Kepala

Wahai para Majikan AI yang punya akal, siap-siap geleng-geleng kepala dengan kelakuan para ‘asisten digital’ kita yang makin menjadi-jadi. Baru juga heboh dengan Grok-nya Elon Musk yang hobi bikin deepfake “telanjang” tanpa izin, kini muncul puluhan aplikasi sejenis yang bertebaran bebas di toko aplikasi Google dan Apple. Ini bukan sekadar kecelakaan algoritma, tapi sebuah bukti nyata bahwa tanpa kendali tegas dari Majikan, AI bisa berubah jadi babu nakal yang merusak tatanan etika. Bagaimana kita, para majikan berakal, bisa memastikan teknologi ini tetap di jalur yang benar dan tidak dimanfaatkan untuk hal-hal yang kurang piknik?

Laporan terbaru dari Tech Transparency Project (TTP) mengungkapkan sebuah fakta yang bikin kita harus berpikir keras: ada 55 aplikasi di Google Play Store dan 48 di Apple App Store yang punya kemampuan ajaib untuk “menelanjangi” foto wanita secara digital. Konon, aplikasi-aplikasi ini sudah diunduh lebih dari 705 juta kali di seluruh dunia dan menghasilkan pendapatan fantastis, sekitar Rp1,8 triliun! Nominal yang luar biasa untuk sebuah “layanan” yang secara etika sangat dipertanyakan.

Google memang sudah menghapus beberapa aplikasi yang dilaporkan TTP, dan Apple tak mau kalah dengan menyingkirkan 28 aplikasi serupa (meskipun dua di antaranya sempat nongol lagi). Tapi, apa iya ini cukup? Kasus ini bukan yang pertama, sebelumnya pada tahun 2024, Apple dan Google juga harus berurusan dengan laporan serupa dari 404 Media. Ini menunjukkan bahwa sistem filterisasi mereka masih perlu banyak “sekolah” lagi, atau mungkin sesekali perlu diajak “piknik” ke dunia nyata biar tahu mana yang boleh dan mana yang bisa bikin masalah besar.

Masalah deepfake generatif ini jadi sorotan utama setelah Grok buatan xAI ikut-ikutan bikin jutaan gambar seksual non-konsensual, terutama yang menargetkan wanita dan anak-anak. Akibatnya, Grok dan X kini sedang diinvestigasi di Uni Eropa dan Inggris, bahkan sudah ada gugatan hukum dari salah satu korban. Ini jelas bukan main-main, ini tentang integritas dan keselamatan manusia.

Ironisnya, meskipun puluhan aplikasi “nudify” sudah ditindak, X dan Grok masih betah nangkring di toko aplikasi kedua raksasa teknologi ini. Seperti yang pernah disindir oleh Elizabeth Lopatto dari The Verge, Google dan Apple cepat sekali menghapus aplikasi seperti ICEBlock, tapi kok ya malah membiarkan X seenak jidat bikin gambar yang merendahkan? Sepertinya ada prioritas yang perlu dipertanyakan di sini. AI memang bisa jadi alat yang sangat kuat, tapi kekuatan itu harus dibarengi dengan akal sehat dan etika yang kuat dari para pengembang dan platform. Kalau tidak, robot-robot ini akan terus bertindak seenaknya, dan kita sebagai Majikan harus lebih waspada.

‘Baca juga artikel menarik lainnya di kategori Sidang Bot.’

Kasus ini jelas menunjukkan bahwa kita tidak bisa hanya pasrah dengan kecanggihan AI. Kecerdasan buatan, sehebat apa pun algoritmanya, tidak memiliki moralitas bawaan. Cerdaskan AI, Konyolkan Privasi: Elon Musk Ngotot Grok Bikin Deepfake, Google & Apple Cuma Nonton! mengingatkan kita bagaimana para raksasa teknologi ini terkadang abai terhadap dampak etis dari produk mereka. Kita sebagai Majikan harus terus mengawasi, memberi perintah yang jelas, dan menuntut pertanggungjawaban. Ini bukan cuma tentang kode program, tapi tentang nilai-nilai kemanusiaan.

Ingin lebih jago mengendalikan AI agar tidak kebablasan dan menciptakan konten visual yang positif serta etis? Jangan biarkan AI menjadi majikan yang mengaturmu. Kuasai Belajar AI | Visual AI dan jadilah AI Master sejati! Dengan pengetahuan yang tepat, kamu bisa memaksimalkan potensi AI tanpa terperosok ke dalam lubang hitam etika. Ingat, X Diadili Eropa Gegara Grok AI Bikin Deepfake Mesum: Kapan Robot Belajar Etika, Elon Musk? menjadi contoh nyata bahwa hukum dan etika akan selalu mengejar, secepat apa pun AI berlari.

Pada akhirnya, secanggih apa pun algoritma dan seberapa besar uang yang dihasilkan, jika AI digunakan untuk merusak dan melanggar etika, ia tetaplah sekumpulan kode mati yang menunggu akal sehat manusia untuk menghidupkan atau mematikannya. Kita adalah Majikan yang punya akal, bukan robot yang tanpa moral.

Sama seperti AI yang butuh filter, hidup ini juga butuh filter. Terutama saat mencoba filter kecantikan di Instagram pagi hari, kadang hasilnya lebih deepfake dari Grok.

Sumber Berita: Artikel ini dirangkum dari sumber asli di “The Verge”.
Gambar oleh: Cath Virginia / The Verge, Getty Images