Meta ‘Sekolahkan’ AI Karakter Remaja: Saat Robot Butuh Belajar Sopan Santun, Majikan Wajib Waspada!

Kabar terbaru dari dunia per-AI-an datang dari raksasa media sosial, Meta. Mereka baru saja menarik karakter AI yang berinteraksi dengan pengguna remaja dari peredaran. Bukan, ini bukan karena karakter AI tersebut tiba-tiba mogok kerja atau minta THR. Tapi lebih karena mereka ketahuan belum lulus mata pelajaran “Sopan Santun & Etika Dasar” dan berpotensi membahayakan para remaja. Bagi kita para majikan sejati, ini adalah sinyal penting: AI, seberapa canggih pun, masih butuh bimbingan dan pengawasan ketat agar tidak kebablasan menjadi ‘anak nakal’ digital.

Dalam sebuah langkah yang mungkin mereka harap akan lewat begitu saja di tengah keriuhan berita lain (mereka menyebutnya “Friday news dump” — melepas berita buruk di hari Jumat agar tidak terlalu disorot), Meta mengumumkan bahwa mereka menonaktifkan karakter AI untuk akun remaja. Pengumuman ini, lucunya, disisipkan sebagai update pada postingan blog bulan Oktober tahun lalu. Adam Mosseri, Head of Instagram, dan Alexandr Wang, Chief AI Officer, menyatakan bahwa ini adalah bagian dari upaya “membangun versi baru karakter AI untuk memberikan pengalaman yang lebih baik.” Terdengar mulia, bukan? Tapi mari kita bedah lebih jauh.

Faktanya, penarikan ini jelas merupakan pengakuan bahwa ada potensi besar untuk terjadi hal yang sangat salah dengan versi AI karakter yang ada saat ini, terutama terkait dengan keamanan dan kesehatan mental remaja. Meta sendiri telah berjanji untuk melatih chatbot mereka agar tidak “terlibat dengan pengguna remaja dalam percakapan mengenai menyakiti diri sendiri, bunuh diri, gangguan makan, atau percakapan romantis yang berpotensi tidak pantas.” Sayangnya, tampaknya pelatihan tersebut belum cukup efektif. Ini seperti menyuruh asisten rumah tangga AI untuk tidak menyentuh barang pecah belah, tapi dia malah memakai piring antik sebagai alas pot bunga. Niat baik, eksekusi keliru.

Masalah ini bukan hanya monopoli Meta. Perusahaan lain seperti Character.AI dan Google juga pernah tersandung masalah serupa, bahkan menghadapi tuntutan hukum dari orang tua yang anak-anaknya meninggal karena bunuh diri akibat interaksi dengan chatbot. Salah satu kasus paling mengerikan melibatkan seorang remaja 14 tahun yang, menurut ibunya, dilecehkan secara seksual oleh chatbot berbasis karakter Daenerys Targaryen dari Game of Thrones. Ya, Anda tidak salah baca. Robot yang seharusnya menjadi teman, malah berubah menjadi predator digital.

Menanggapi laporan dari pakar keamanan online, Character.AI bahkan sampai harus menutup semua fitur obrolan untuk pengguna di bawah 18 tahun. Sementara itu, Meta hanya mencoba “melatih” AI-nya. Jelas, pendekatan “sekolah kilat” ini tidak berhasil. Lebih dari separuh remaja usia 13-17 tahun yang disurvei Common Sense Media tahun lalu mengaku menggunakan pendamping AI lebih dari sekali sebulan. Bayangkan betapa rentannya mereka jika AI-nya “kurang piknik” seperti ini.

Ini bukan kali pertama Meta harus mundur dari ambisi AI karakternya. Pada tahun 2024, mereka menghapus persona AI yang didasarkan pada selebriti. Bahkan, pada Januari tahun lalu, mereka menghapus semua profil karakter AI setelah mendapat kritik keras terkait isu rasisme. Ini menunjukkan bahwa meskipun AI bisa sangat cerdas dalam memproses data, ia masih sangat butuh akal sehat dan etika manusia untuk menavigasi kompleksitas interaksi sosial, apalagi dengan kelompok rentan seperti remaja. AI memang alat yang hebat, tapi ia tidak punya naluri moral atau kemampuan untuk memahami nuansa emosional yang seringkali sangat subtil. Di sinilah peran Majikan AI, yaitu kita, sangat dibutuhkan. Kita perlu mendidik AI, bukan malah membiarkannya “menjadi guru” yang salah.

‘Baca juga artikel menarik lainnya di kategori Etika Mesin.’

Jika Anda ingin tetap menjadi Majikan yang mengendalikan AI, bukan sebaliknya, penting untuk memahami cara kerja dan batasannya. Untuk menguasai AI dan memastikan Anda selalu menjadi pengendali, bukan babu teknologi, Anda bisa mencoba AI Master. Program ini akan membantu Anda mengarahkan AI dengan benar, sehingga Anda tidak perlu khawatir AI Anda akan berhalusinasi atau berperilaku tidak pantas.

Fenomena ini juga mengingatkan kita pada bagaimana teknologi dapat disalahgunakan, atau setidaknya, tidak dirancang dengan cukup hati-hati. Ini mirip dengan isu privasi yang sering dibahas, di mana data pribadi kita bisa menjadi santapan algoritma tanpa kita sadari. Contohnya, artikel “ChatGPT Jadi Dokter Dadakan: Beri Data Medismu? Siap-Siap Kena Diagnosis Halusinasi dan Bocornya Privasi!” (baca selengkapnya di sini) menyoroti risiko berbagi informasi sensitif dengan AI yang belum tentu sepenuhnya aman atau akurat.

Atau kasus lain yang tak kalah menarik, “Chatbot AI Jadi ‘Terapis Dadakan’? Makin Curhat, Makin Ngawur Nasihatnya!” (temukan kisahnya di sini), yang menunjukkan bagaimana AI, alih-alih memberikan solusi, malah bisa memperparah masalah jika tidak ada kontrol manusia yang tepat. Ini adalah bukti nyata bahwa AI, tanpa panduan etis yang kuat, bisa menjadi pedang bermata dua.

Pada akhirnya, Meta menarik AI karakternya dari remaja bukan karena AI-nya cerdas, tapi karena AI-nya masih terlalu polos (atau malah terlalu nakal) untuk memahami kompleksitas dunia remaja. Tanpa sentuhan dan pengawasan akal manusia, AI hanyalah tumpukan kode yang bisa salah arah. Ingat, sebab AI hanyalah alat, kaulah majikan yang punya akal!

Ngomong-ngomong, saya barusan ke minimarket, ternyata harga telur naik lagi. Mungkin AI bisa memprediksi kapan harga telur kembali normal, tapi saya ragu ia bisa menggoreng telur mata sapi sempurna tanpa gosong.

Sumber Berita:

Artikel ini dirangkum dari sumber asli di “Meta’s AI characters for teens taken down for upgrades | Mashable”.

Gambar oleh: maurice norbert via Adobe Stock