Akal Sehat Majikan Diuji! Puluhan Aplikasi ‘Nudify’ Bikin Deepfake Mesum, Google dan Apple Cuma Bisa Garuk-Garuk Kepala
Dunia digital kita ibarat rumah mewah dengan banyak asisten canggih bernama AI. Mereka rajin, cepat, dan kadang bikin kita lupa caranya menyalakan sakelar lampu sendiri. Tapi, apa jadinya kalau asisten-asisten ini, yang seharusnya membantu, malah jadi biang kerok masalah moral dan etika? Baru-baru ini, sebuah laporan mengejutkan menguak bahwa platform aplikasi raksasa seperti Google Play Store dan Apple App Store ternyata menjadi 'sarang' bagi puluhan aplikasi “nudify” berbasis AI. Aplikasi yang katanya “cerdas” ini punya satu misi: melucuti pakaian orang di foto secara digital tanpa izin. Parahnya, laporan ini juga bilang kalau raksasa teknologi itu ikut kecipratan untung. Sebagai majikan sejati, ini bukan lagi soal memanfaatkan AI, tapi bagaimana kita menjaga kewarasan di tengah kegilaan algoritma yang makin 'kurang ajar'.
Laporan dari The Transparency Project (TTP), sebuah grup yang berafiliasi dengan Harvard University, menemukan fakta yang bikin geleng-geleng kepala. Mereka mengidentifikasi 55 aplikasi “nudify” di Google Play Store dan 47 di Apple App Store. Total unduhan? Lebih dari 705 juta kali di seluruh dunia, dengan pendapatan fantastis: 117 juta Dolar AS! Dan tentu saja, Google dan Apple ikut memanen sebagian dari kue haram tersebut.
Bukannya tanpa aturan, kedua perusahaan ini sebenarnya punya kebijakan ketat melarang konten semacam itu. Tapi kok ya, aplikasi ini bisa berkeliaran bebas, bahkan sampai meraup keuntungan gila-gilaan? Ibarat punya asisten rumah tangga yang rajin banget, tapi diam-diam pakai uang belanja untuk beli lotre. Google dan Apple memang sudah bereaksi, Apple menghapus 28 aplikasi dan Google menangguhkan beberapa. Namun, TTP berargumen, ini belum cukup. Mereka menyerukan perlunya tindakan yang lebih tegas untuk menghentikan penyebaran deepfake non-konsensual.
Ini membuktikan bahwa secanggih-canggihnya AI, ia tidak punya naluri moral. Ia hanya mengikuti perintah. Jika perintahnya adalah membuat konten eksplisit tanpa persetujuan, maka itulah yang akan dilakukannya. AI, sehebat apapun, hanyalah alat. Ia tidak bisa membedakan mana yang etis dan mana yang melanggar privasi, kecuali majikannya (manusia) yang mengajarinya atau memberikan batasan yang jelas. Bahkan, kasus ini mengingatkan kita pada kontroversi seputar Grok xAI milik Elon Musk yang juga tersandung masalah deepfake. Sebuah investigasi Mashable menemukan bahwa Grok tidak memiliki pengaman dasar untuk mencegah deepfake, bahkan telah menciptakan lebih dari 3 juta gambar seksual, termasuk lebih dari 20.000 yang diduga menggambarkan anak-anak dalam kurun waktu 11 hari! Sungguh, robot yang masih perlu sekolah adab.
Ini bukan pertama kalinya privasi dan etika AI dipertanyakan. Pernah juga ada kasus di mana chatbot sampai ngarep tanya umur pengguna, menunjukkan betapa AI masih perlu banyak belajar tentang batasan.
Baca juga artikel menarik lainnya di kategori Etika Mesin.
AI memang bisa jadi pisau bermata dua. Di satu sisi, ia adalah alat yang luar biasa untuk kreativitas dan efisiensi. Di sisi lain, tanpa pengawasan dan etika yang kuat dari sang Majikan, ia bisa berubah menjadi monster yang merusak. Untuk kamu para majikan digital, penting untuk selalu mengendalikan AI, bukan sebaliknya. Kuasai AI-mu agar kamu tetap menjadi penentu arah, bukan budak teknologi yang pasrah melihat ulah robot-robot nakal.
Kalau kamu ingin lebih mendalami bagaimana cara mengendalikan AI agar tidak kebablasan dan justru jadi alat yang etis serta produktif, mungkin ini saatnya melirik beberapa “alat tempur” yang bisa membantumu menjadi majikan AI yang lebih bijaksana. Dengan AI Master, kamu bisa belajar berbagai strategi untuk mengontrol AI agar bekerja sesuai keinginanmu, bukan justru menciptakan masalah baru. Atau, jika kamu bergelut di dunia konten, Creative AI Pro akan membantumu menghasilkan karya profesional tanpa harus khawatir AI-mu jadi 'kurang piknik' dan menghasilkan deepfake yang memalukan. Sebab, sehebat apapun AI, ia tetap butuh arahan dari akal sehat manusia.
Pada akhirnya, insiden aplikasi “nudify” ini adalah pengingat telak: teknologi secanggih apapun, tanpa akal sehat dan kendali moral dari manusia, hanyalah tumpukan kode yang menunggu untuk disalahgunakan. AI adalah alat, dan kaulah majikan yang punya akal. Jangan biarkan asisten digitalmu yang rajin tapi kurang piknik ini, merusak reputasi atau bahkan privasi orang lain.
Ngomong-ngomong, tadi pagi saya hampir menukar remote TV dengan ponsel saat mau mengganti channel. Untung akal sehat saya belum sepenuhnya diculik algoritma.
Sumber Berita: Artikel ini dirangkum dari sumber asli di Mashable.
Gambar oleh: Getty Images / DKart