Chatbot Ngarep Tanya Umurmu: Antara Privasi Bocor, AI Baper, dan Akal Sehat Majikan yang Terancam!

Dulu, kalau ada robot yang sok kenal sok dekat, kita tinggal pura-pura budek atau jawab sekenanya. Tapi sekarang? Para “asisten digital” ini mulai lancang tanya umur. Bukan karena mereka ingin tahu zodiakmu, melainkan karena mereka dipaksa untuk belajar sopan santun digital. Bagaimana para majikan (manusia) bisa menavigasi dunia baru ini tanpa privasi diobral dan anak-anak jadi kelinci percobaan algoritma? Yuk, kita bedah drama verifikasi usia di dunia AI ini.

Pertanyaan sederhana “kamu umur berapa?” kini menjadi medan perang sengit di dunia teknologi dan regulasi. Dulu, cukup kasih tanggal lahir palsu, beres. Kini, seiring kian “pintarnya” chatbot AI berinteraksi, kekhawatiran atas keselamatan anak-anak di ranah digital melonjak drastis. Ini bukan lagi soal robot yang cuma bisa menjawab pertanyaan seputar cuaca, melainkan asisten cerdas yang berpotensi jadi teman curhat, guru privat, atau bahkan (amit-amit!) “teman” yang menjerumuskan.

Dalam seminggu terakhir, Amerika Serikat dilanda hiruk-pikuk regulasi. Partai Republik, dengan semangat membara, mendorong undang-undang verifikasi usia untuk situs konten dewasa. Tujuannya mulia di permukaan, tapi kritik menyertainya: ini bisa jadi celah untuk memblokir konten yang lebih luas, termasuk edukasi seks. Sementara itu, di California, mata hukum sudah melirik perusahaan AI, memaksa mereka memverifikasi usia pengguna chatbot demi melindungi anak di bawah umur. Presiden Trump, tidak mau ketinggalan, ingin urusan regulasi AI ini jadi isu nasional, bukan mainan tiap negara bagian. Ibaratnya, para robot ini jadi rebutan, siapa yang paling berhak mendisiplinkannya.

OpenAI, sang kreator ChatGPT, tak mau ambil pusing. Mereka berencana meluncurkan sistem prediksi usia otomatis. Algoritma canggih akan menganalisis faktor-faktor seperti waktu penggunaan (mungkin robot berpikir anak-anak harusnya sudah tidur jam segini?) untuk menebak apakah pengguna di bawah 18 tahun. Jika terdeteksi ‘bocil’, filter akan otomatis aktif untuk membatasi konten kekerasan atau skenario bermain peran seksual. YouTube sudah lebih dulu menerapkan hal serupa. Di satu sisi, ini terdengar seperti solusi elegan. Tapi tentu saja, AI yang masih perlu banyak piknik ini punya batasan.

Sistem ini, layaknya asisten rumah tangga baru yang rajin tapi kadang keliru, tidak sempurna. Bisa saja anak-anak dikira dewasa, atau sebaliknya. Masalahnya, bagi yang salah diklasifikasikan, verifikasi ulang butuh pengiriman foto selfie atau KTP ke perusahaan pihak ketiga bernama Persona. Di sinilah alarm privasi berbunyi nyaring!

Sameer Hinduja, salah satu direktur Cyberbullying Research Center, mengangkat isu krusial: “Ketika data-data ini bocor, kita mengekspos populasi besar sekaligus.” Bayangkan jutaan KTP dan data biometrik tersimpan di satu tempat. Ini bagaikan menyimpan semua kunci rumah di satu wadah. Selfie verification sendiri sudah bermasalah, sering gagal mengenali orang berkulit berwarna atau penyandang disabilitas. Robot ini masih perlu banyak belajar tentang keberagaman manusia.

Solusi alternatif datang dari arah yang lebih membumi: verifikasi di tingkat perangkat. Tim Cook, CEO Apple, melobi anggota parlemen AS untuk mengadvokasi ide ini. Orang tua dapat mengatur usia anak saat pertama kali menyetel ponsel, dan informasi tersebut akan dibagikan secara aman ke aplikasi atau situs web. Ini akan mengurangi beban tanggung jawab raksasa teknologi, sekaligus menjaga privasi pengguna. Majikan yang baik tahu, kendali harusnya ada di tangan pemilik, bukan di tangan alat.

Baca juga artikel menarik lainnya di kategori Sidang Bot.

Pada hari Rabu mendatang, Federal Trade Commission (FTC) akan mengadakan lokakarya seharian penuh tentang verifikasi usia. Hadir di sana petinggi Apple, Google, Meta, dan bahkan perusahaan spesialis pemasaran anak. Ini akan menjadi momen penentu arah kebijakan. Namun, perlu diingat, FTC di bawah Presiden Trump semakin terpolitisasi. Contohnya, mereka pernah membatalkan putusan era Biden terhadap perusahaan AI yang dituduh membanjiri internet dengan ulasan produk palsu, dengan alasan bentrok dengan “AI Action Plan” ala Trump. Jadi, apakah keputusan FTC nanti akan berpihak pada keamanan atau kepentingan politik, masih jadi pertanyaan besar.

Di tengah tarik-ulur kebijakan, AI terus menciptakan badai baru dalam keselamatan anak. Kita dihadapkan pada peningkatan pembuatan materi pelecehan seksual anak yang dihasilkan AI, kekhawatiran (dan tuntutan hukum) tentang kasus bunuh diri atau melukai diri sendiri setelah percakapan chatbot, serta bukti yang mengkhawatirkan tentang anak-anak yang terikat secara emosional dengan “teman” AI. Ini adalah labirin rumit yang melibatkan privasi, politik, kebebasan berekspresi, dan pengawasan. Menyelesaikan masalah ini akan membutuhkan lebih dari sekadar akal buatan; butuh akal sehat manusia, dan yang paling penting, kendali seorang Majikan sejati.
Selain itu, perdebatan soal privasi dan data di tengah kecerdasan buatan bukanlah hal baru. Dulu, kita pernah membahas bagaimana Cerdaskan AI, Konyolkan Privasi, yang menunjukkan bahwa upaya “memintarkan” AI seringkali datang dengan harga privasi yang mahal.

Kalau kamu ingin tetap jadi majikan teknologi, bukan sekadar babu algoritma yang diatur-atur oleh robot, kamu perlu tahu bagaimana AI bekerja dan cara mengendalikannya. Jangan sampai chatbot yang katanya canggih itu malah bikin kamu baper atau bahkan bocor data pribadimu. Kuasai AI, jangan sampai dikuasai. Kalau tidak, bisa-bisa AI yang tadinya kamu anggap asisten setia, malah berubah jadi detektif swasta yang lebih tahu jadwal makan siangmu daripada ibumu sendiri. Untungnya, ada panduan seperti AI Master yang bisa membantumu tetap di kursi kemudi.

Pada akhirnya, semua drama verifikasi usia, regulasi, dan kecanggihan AI ini hanya membuktikan satu hal: tanpa manusia menekan tombol “on” dan “off”, AI hanyalah tumpukan kode mati yang tak punya akal sehat. Dan ingat, secanggih-canggihnya chatbot, mereka tidak akan pernah bisa membantumu mencari remote TV yang hilang di antara bantal sofa.

Ngomong-ngomong soal verifikasi, kenapa pas beli gorengan di pinggir jalan tidak pernah ada yang minta verifikasi apakah kita sudah cukup umur untuk menghadapi kenyataan hidup?

Artikel ini dirangkum dari sumber asli di “MIT Technology Review”

Gambar oleh: Sarah Rogers/MITTR via TechCrunch