Sensor AI Google dan OpenAI: Siap Melabeli Deepfake, Tapi Bukan Berarti AI Tak Bisa Menipu Lagi
Para majikan digital sekalian, kabar terbaru dari medan perang antara kenyataan dan rekayasa digital datang dari markas besar Google dan OpenAI. Mereka baru saja mengumumkan perluasan sistem pelabelan AI yang diklaim akan membantu kita mendeteksi deepfake dan konten buatan AI lainnya. Ini bukan sekadar update biasa, melainkan sebuah pertaruhan besar yang akan menentukan apakah kita, para manusia berakal, masih bisa membedakan mana yang asli dan mana yang “halusinasi” robot yang makin canggih. Sebab AI hanyalah alat, kaulah Majikan yang punya akal.
Dua sistem pelabelan utama, SynthID dari Google dan C2PA Content Credentials, kini mendapatkan panggung yang lebih luas. Google baru saja mengumumkan di konferensi I/O bahwa kemampuan verifikasi penanda SynthID—sistem watermarking tak terlihat yang dibenamkan pada konten buatan model AI Google—akan hadir di Chrome dan Google Search. Bayangkan, alat pendeteksi kebohongan digital ini akan nongkrong di peramban web dan mesin pencari yang paling banyak dipakai sedunia. Dulu, jika ingin memeriksa gambar, kita harus mengunggahnya ke aplikasi Gemini, seperti mengantar cucian kotor ke laundry. Sekarang, lebih praktis, tapi bukan berarti bebas drama.
Tidak hanya itu, antarmuka verifikasi Google juga akan memeriksa informasi C2PA, yaitu metadata yang disematkan langsung saat konten dibuat atau dimanipulasi, termasuk jika ada sentuhan AI. Ini berarti, kita tak perlu lagi lompat sana-sini antara aplikasi Gemini dan portal verifikasi C2PA, karena satu antarmuka bisa memeriksa keduanya. Mirip asisten rumah tangga yang tadinya hanya bisa menyapu, sekarang bisa mengepel sekaligus. Lumayanlah.
Kolaborasi ini memang sudah lama ditunggu. Baik Google maupun Content Authenticity Initiative (promotor standar C2PA) sama-sama koar-koar tentang pentingnya partisipasi semua pihak. Maksudnya, makin banyak model AI yang menyematkan data ini, dan platform online harus menampilkannya dengan jelas. Untungnya, alat verifikasi yang tertanam di peramban bisa jadi jalan pintas bagi situs web yang kurang “piknik” dalam urusan verifikasi metadata AI ini.
OpenAI juga tak mau ketinggalan. Mereka mengumumkan akan menyematkan SynthID ke gambar yang dihasilkan oleh ChatGPT, Codex, dan OpenAI API. Sebenarnya, OpenAI sudah menyertakan metadata C2PA, tapi ironisnya, data ini seringkali “tertelan” alias hilang saat konten diunggah ke platform lain. OpenAI sendiri bahkan sempat merendahkan ekspektasi terhadap C2PA, meskipun mereka adalah anggota penting C2PA. Dulu, di halaman bantuan C2PA-nya, OpenAI bilang:
“Metadata like C2PA is not a silver bullet to address issues of provenance. It can easily be removed either accidentally or intentionally. For example, most social media platforms today remove metadata from uploaded images, and actions like taking a screenshot can also remove it. Therefore, an image lacking this metadata may or may not have been generated with ChatGPT or our API.”
Untuk ukuran teknologi yang digadang-gadang sebagai yang terbaik dalam autentikasi konten, pernyataan ini terdengar seperti janji manis kampanye yang gampang luntur. Google bahkan menyebut C2PA sebagai standar industri, dan ia dipromosikan ke pemerintah dunia sebagai solusi transparansi AI. Namun, meski semakin banyak diadopsi, saya pribadi jarang melihatnya berhasil digunakan untuk membongkar deepfake di alam liar. SynthID, di sisi lain, tampak lebih tangguh karena tidak mudah dihilangkan. Saya masih ingat beberapa kasus di mana pemeriksa fakta menggunakan SynthID untuk membongkar deepfake. Jika Majikan ingin memahami lebih dalam tentang rekayasa visual AI, ada baiknya Anda juga menguasai dasar-dasar pembuatannya. Pelajari lebih lanjut di Belajar AI | Visual AI.
Kedua sistem ini bisa bekerja sama untuk memperluas jaring pengaman. Perang standar verifikasi tidak akan menguntungkan siapa pun di industri ini. Google punya peluang emas untuk membuktikan sistemnya lebih andal dan merebut perhatian dari C2PA. Agar hal itu tidak terjadi, C2PA harus membuktikan dirinya bisa diandalkan untuk mengungkap asal-usul konten online.
Kesempatan untuk C2PA telah tiba: Google mengumumkan bahwa Meta akan mulai menggunakan C2PA metadata untuk menandai gambar di Instagram yang diambil oleh kamera. Kita bisa bayangkan akan ada label seperti “diambil dengan Pixel 10,” mirip notifikasi “sent from my iPhone” di email. Ini akan membantu pengguna Instagram membedakan foto “asli” dari deepfake AI yang meyakinkan. Ini sejalan dengan prediksi kepala Instagram, Adam Mosseri, tentang perlunya bergeser dari “mengasumsikan apa yang kita lihat itu nyata secara default.” Tentu saja, itu jika pelabelan ini benar-benar bekerja. Jangan lupa, Instagram sebelumnya pernah kena batunya karena salah melabeli foto asli fotografer sebagai buatan AI. Baca juga betapa rawannya dunia digital ini di artikel kami: “Deepfake Itu Nyata, Apa Majikan Perlu Panik?”.
Saya juga tidak akan buru-buru memuji Google. Perusahaan ini gencar bicara tentang transparansi AI dan memerangi deepfake digital, tapi di sisi lain, mereka juga mengembangkan teknologi yang sama yang digunakan untuk menyesatkan orang. Google memposisikan dirinya sebagai pemasok dan sekaligus solusi. Saya bisa memaafkan itu jika SynthID benar-benar memberikan perbedaan nyata dalam perang melawan deepfake, tapi saya tak terlalu berharap banyak mengingat skala masalahnya. Seakan AI adalah pisau bermata dua: bisa membantu menciptakan mahakarya, tapi juga bisa menusuk kejujuran. Mengendalikan AI adalah kunci agar kita tetap menjadi Majikan, bukan babu teknologi. Temukan cara menjadi Majikan sejati di AI Master.
Pada akhirnya, kuat atau tidaknya, SynthID dan C2PA hanya bisa mendeteksi watermark jika memang sudah ditambahkan sejak awal. Saya ragu banyak model open-source yang digunakan untuk menghasilkan deepfake berbahaya akan sukarela mengadopsi sistem ini. Verifikasi asal-usul memang tidak akan pernah menjadi solusi sempurna, tapi Google dan C2PA kini punya kesempatan untuk membuktikan bahwa ini bukan sekadar buang-buang waktu belaka.
Ingat, secanggih apapun algoritma dan sensornya, di ujung hari, AI itu cuma tumpukan kode yang menunggu perintah. Tanpa Majikan yang cerdas dan waspada menekan tombol, ia hanyalah robot kurang piknik yang butuh diarahkan.
Ngomong-ngomong, tadi pagi saya ke warung, si ibu penjual masih saja pakai kalkulator manual. Entah dia belum kenalan sama AI, atau memang lebih percaya sentuhan manusia.
Sumber Berita: Artikel ini dirangkum dari sumber asli di “The Verge”.
Gambar oleh: Reddit / u/trippy_art_special via TechCrunch