Google Gemini Jadi Makelar Belanja: Privasi Anda Diobral Murah, Senator Warren Pun Geleng-Geleng Kepala!
Google Gemini Jadi Makelar Belanja: Privasi Anda Diobral Murah, Senator Warren Pun Geleng-Geleng Kepala!
Di dunia yang makin kecanduan AI, kita sering lupa bahwa setiap kemudahan punya harga. Ambil contoh terbaru: Google Gemini, asisten AI kebanggaan Google, kini merambah dunia perbelanjaan daring dengan fitur checkout langsung. Konon, ini demi memanjakan para Majikan (alias Anda) agar tak perlu repot berpindah aplikasi. Tapi, Senator Elizabeth Warren dari Massachusetts, dengan akal sehatnya yang masih berfungsi, justru geleng-geleng kepala.
Ia menekan keras Google untuk menjelaskan lebih rinci tentang niat mereka. Kekhawatiran utamanya jelas: apakah integrasi ini akan menjadi karpet merah bagi Google dan para pengecer untuk mengeksploitasi data sensitif pengguna atau, lebih parah lagi, memanipulasi konsumen agar belanja lebih banyak dan membayar harga yang lebih tinggi? Terdengar seperti skenario di mana AI berubah jadi sales door-to-door yang tak kenal waktu, bukan?
Bulan lalu, Google memang sudah mengumumkan bahwa Gemini akan segera memungkinkan pengguna untuk membeli produk langsung di dalam chatbot-nya. Ini semua berkat Universal Commerce Protocol (UCP), sebuah standar yang dikembangkan Google bekerja sama dengan raksasa ritel seperti Shopify, Target, Walmart, Wayfair, dan Etsy. Ide dasarnya adalah memudahkan agen AI untuk “berkomunikasi” dengan pengecer. Namun, di balik kemudahan itu, Senator Warren ingin tahu seberapa banyak dan jenis informasi apa saja yang akan Google sediakan kepada pengecer melalui pipa data ini.
Coba pikirkan ini: Google sudah memiliki segudang data pencarian dan percakapan AI Anda yang tak terhingga. Data intim ini, jika digabungkan dengan data pengguna dari layanan Google lainnya dan data pengecer pihak ketiga, bisa menjadi alat ampuh untuk mendorong perilaku konsumen secara eksploitatif. Ini seperti punya asisten rumah tangga yang rajin, tapi diam-diam tahu semua isi lemari es, daftar belanjaan, bahkan obrolan Anda dengan tetangga, lalu menyarankan produk-produk tertentu tanpa Anda sadari motivasinya. Bahkan sebelumnya, ada kekhawatiran serupa saat Google Search mulai “mengintip” email dan foto pribadi untuk personalisasi yang lebih dalam.
Warren juga mempertanyakan, apakah Google akan memprioritaskan hasil belanja dari mitra ritelnya ketimbang pesaing lainnya? Ini bukan lagi tentang rekomendasi yang cerdas, tapi potensi monopoli yang terselubung. Google sendiri sudah mengakui akan menggunakan “data sensitif untuk membantu pengecer menjual produk ‘premium’ kepada konsumen.” Mereka bahkan mengklarifikasi di X (dulunya Twitter) bahwa pengecer akan bisa “menampilkan opsi produk premium tambahan yang mungkin diminati orang.” Jadi, intinya, AI Anda akan disuruh menjadi juru kampanye produk mahal.
Membaca berita ini, para Majikan sejati wajib waspada. Kemudahan yang ditawarkan AI seringkali datang dengan harga privasi dan otonomi pengambilan keputusan. Robot memang cerdas dalam mengumpulkan dan menganalisis data, tapi akal manusialah yang bisa membedakan antara rekomendasi yang tulus dan manipulasi berkedok kecerdasan. Jangan sampai AI yang harusnya jadi babu kita, malah balik jadi juragan yang mengatur isi dompet. Apalagi jika kita mengingat bagaimana Google berencana semakin “mengkepo” data pribadi kita demi AI super personal.
Penting bagi kita untuk selalu mempertanyakan: apakah rekomendasi produk dari Gemini itu murni karena AI mengira Anda butuh, atau karena ada insentif iklan dan data sensitif yang dimanfaatkan? Senator Warren meminta Google memberikan informasi tentang bagaimana data pengguna akan memengaruhi harga, dan apakah pengguna akan diberi tahu jika Gemini merekomendasikan produk berdasarkan tujuan upselling, insentif iklan, atau data sensitif pengguna. Google diberi waktu hingga 17 Februari untuk merespons. Mari kita tunggu jawaban si raksasa teknologi, sambil tetap menggenggam erat kendali atas keputusan belanja kita.
Baca juga artikel menarik lainnya di kategori Sidang Bot.
Ingat, Majikan: Kecerdasan buatan itu alat, bukan akal. Tanpa perintah yang jelas dan pengawasan ketat, robot bisa jadi kurang piknik dan malah bikin rugi. Pelajari cara mengendalikan AI agar kamu tetap menjadi Majikan, bukan babu teknologi, dengan mengikuti program AI Master kami. Atau jika Anda ingin agar strategi marketing Anda ‘nggak robot banget’, mungkin Creative AI Marketing bisa jadi jawabannya.
Sebab AI Hanyalah Alat, Kaulah Majikan yang Punya Akal.
Kalau kata tetangga, “Harga kerupuk sekarang mahal banget, jangan sampai AI ikut-ikutan naikin harga juga!”
Artikel ini dirangkum dari sumber asli di “The Verge”.
Gambar oleh: Cath Virginia / The Verge via TechCrunch