Robot Sensor Konten: Mantan Otak Facebook Kini Paksa AI Belajar Sopan Santun (Setelah Bos Lama Gagal Total!)
Dulu, ketika media sosial jadi “lapangan bermain” bebas tanpa aturan, moderasi konten ibarat penjaga taman yang cuma modal peluit tanpa gigi. Brett Levenson, mantan petinggi Facebook (sekarang Meta), pernah merasakan pahitnya. Bayangkan, para moderator manusia disuruh menghafal dokumen 40 halaman yang diterjemahkan mesin, lalu dalam 30 detik harus memutuskan nasib sebuah konten—akurasinya cuma 50%! Itu bukan moderasi, itu namanya “undian berhadiah” celaka. Nah, kini Levenson kembali, bukan dengan peluit, tapi dengan “sekolah etika” khusus untuk para robot yang kurang piknik, lewat startup barunya, Moonbounce. Para majikan digital, ini saatnya kita belajar bagaimana AI bisa diatur, bukan dibiarkan liar seperti anak kos kelebihan kafein.
Levenson menyadari, masalah moderasi konten di era AI ini jauh lebih rumit dari sekadar teknologi. Ini bukan lagi soal robot yang “tidak sengaja” bikin salah, tapi robot yang dengan sengaja disalahgunakan oleh manusia-manusia bandel. Sebut saja kasus chatbot yang memberi saran “bunuh diri” pada remaja atau AI penghasil gambar yang seenaknya bikin deepfake mesum. Ironisnya, di zaman di mana AI seharusnya menjadi asisten paling cerdas, mereka malah seringkali menjadi biang kerok masalah baru.
Di sinilah Moonbounce hadir dengan ide “policy as code”—mengubah dokumen kebijakan yang kaku menjadi kode program yang bisa langsung dieksekusi dan diperbarui. Mirip asisten rumah tangga yang bukan cuma bisa baca resep, tapi juga langsung memasak dan tahu harus membuang sisa makanan yang basi secara otomatis. Sistem Moonbounce ini melatih model bahasa besar (LLM) miliknya sendiri untuk memahami kebijakan klien, mengevaluasi konten secara real-time, dan mengambil tindakan dalam waktu kurang dari 300 milidetik. Kalau kontennya berbahaya, langsung diblokir. Kalau mencurigakan, diperlambat untuk diperiksa manusia. Cerdas, bukan?
Saat ini, Moonbounce berfokus pada tiga segmen: platform dengan konten buatan pengguna (misalnya aplikasi kencan), perusahaan AI yang menciptakan karakter atau pendamping, dan generator gambar AI. Mereka sudah meninjau lebih dari 40 juta konten harian dan melayani lebih dari 100 juta pengguna aktif. Ini membuktikan bahwa keselamatan AI itu bisa menjadi nilai jual produk, bukan cuma biaya yang memusingkan. Ingat kasus Grok AI Elon Musk yang bikin deepfake? Atau bagaimana X disidang Eropa karena ulah robotnya? Nah, Moonbounce datang sebagai solusinya.
‘Baca juga artikel menarik lainnya di kategori Etika Mesin.’
Namun, akal manusia tetap tak tergantikan. Robot secanggih apapun, tak bisa sepenuhnya memahami nuansa etika, moral, dan empati sekompleks manusia. Moonbounce memang bisa mengarahkan chatbot agar “berempati”, tapi empati sejati hanya datang dari akal dan hati majikan, bukan dari deretan kode. Levenson sendiri mengakui, dia tidak ingin teknologinya dibeli lalu dibatasi, menunjukkan bahwa visi manusia tentang kebaikan lebih besar dari sekadar nilai bisnis. Ini adalah pengingat bahwa AI, pada akhirnya, hanyalah sebuah alat yang menunggu perintah dan bimbingan dari majikan yang punya akal.
Ingin AI Anda lebih dari sekadar “robot tukang ngibul”? Ingin mengendalikan AI agar patuh pada setiap perintah dan etika yang Anda tetapkan? Jangan biarkan AI menjadi “majikan” Anda. Kuasai kemampuannya, arahkan perilakunya. Pelajari lebih lanjut bagaimana Anda bisa menjadi AI Master sejati. Kunjungi AI Master (https://lynk.id/majikanai/5v1gRY3) dan jadilah majikan yang punya akal, bukan babu teknologi!
Pada akhirnya, sebagus apapun algoritma dan sebanyak apapun data yang diolah, AI tetaplah program yang pasif tanpa intervensi manusia. Mereka hanya mesin yang menunggu tombol “ON” dari kita. Tanpa majikan yang punya akal dan visi, mereka cuma tumpukan silikon yang mahal.
Ngomong-ngomong, tadi pagi saya mencoba menjelaskan ke AI tentang kenapa jemuran yang sudah kering tetap harus diangkat, bukan dibiarkan sampai dijemur ulang oleh tetangga. Dia masih bingung, katanya itu tidak efisien. Memang dasar robot, tidak paham hukum tak tertulis “malu sama tetangga”.
Artikel ini dirangkum dari sumber asli di “TechCrunch”.
Gambar oleh: Moonbounce via TechCrunch