Detektor gambar AI Gemini hanya menggores permukaan saja. Itu tidak cukup

Saat Anda meminta AI untuk bercermin, AI tidak selalu melihat dirinya sendiri. Inilah yang Anda sadari ketika Anda memintanya untuk menentukan apakah suatu gambar itu nyata atau buatan AI

Google minggu lalu mencoba membantu kami membedakan yang asli dari yang palsu, meskipun sangat terbatas. Di aplikasi Gemini, Anda dapat membagikan gambar dan menanyakan apakah itu asli dan Gemini akan melakukannya Periksa SynthID — A Tanda air digital — untuk memberi tahu Anda jika ini dihasilkan oleh alat AI Google (Google, sebaliknya, diluncurkan minggu lalu Nano Pisang Pro(model gambarnya yang baru, sehingga lebih sulit untuk mengenali gambar palsu dengan mata telanjang.)

Dalam rentang terbatas ini, fungsi pengecekan realitas Google bekerja cukup baik. Gemini bekerja cepat dan akan memberi tahu Anda jika sesuatu telah dibuat oleh AI Google. Dalam pengujian saya, ini bahkan berfungsi pada tangkapan layar suatu gambar. Dan jawabannya cepat dan langsung ke sasaran – ya, gambar ini, atau setidaknya lebih dari setengahnya, adalah palsu.

Tapi tanyakan ini tentang gambar yang dibuat oleh orang lain Pembuat gambar Dan Anda tidak akan mendapatkan jawaban yang tajam. Apa yang Anda dapatkan adalah tinjauan terhadap bukti: model mencari semua fakta umum tentang sesuatu yang dibuat-buat. Dalam hal ini, pada dasarnya kita melakukan apa yang kita lakukan dengan mata kepala kita sendiri, namun kita masih belum bisa mempercayai hasilnya.

Meskipun pemeriksaan SynthID Google dapat diandalkan dan diperlukan, meminta chatbot untuk mengevaluasi sesuatu yang tidak memiliki tanda air hampir tidak ada gunanya. Google telah menyediakan alat yang berguna untuk memeriksa asal suatu gambar, namun jika kita dapat mempercayai mata kita sendiri lagi di Internet, setiap antarmuka AI yang kita gunakan seharusnya dapat memeriksa gambar dari setiap jenis model AI.

Saya harap kita bisa segera memasukkan gambar ke Google Penelusuran dan mencari tahu apakah itu palsu. Deepfake sudah terlalu pandai untuk tidak melakukan pengecekan realitas.

Memeriksa foto dengan chatbots adalah hal yang sulit

Pemeriksaan SynthID Google tidak banyak bicara. Saat Anda meminta Gemini (di dalam aplikasi) untuk mengevaluasi gambar yang dihasilkan Google, ia mengetahui apa yang dilihatnya. berhasil Saya ingin melihat Gemini muncul di mana saja — seperti versi browser dan Google Penelusuran — dan menurut Google Fitur postingan blogItu sudah berhasil.

Gemini di browser belum memiliki fungsi ini yang berarti kita dapat melihat bagaimana model (tanpa SynthID) merespons ketika ditanya apakah gambar yang dihasilkan AI itu nyata. Saya meminta Gemini versi browser untuk mengevaluasi infografis yang disediakan Google sebagai selebaran kepada jurnalis yang menunjukkan model Nano Banana Pro barunya sedang beraksi. Itu dihasilkan oleh AI — dan bahkan disebutkan dalam metadatanya. Aplikasi ini menggunakan Gemini SynthID untuk mengekstraknya. Gemini di browser plin-plan: katanya desainnya bisa dibuat oleh AI atau desainer manusia. Bahkan dikatakan bahwa alat SynthID-nya tidak menemukan apa pun yang mengindikasikan AI. (Meskipun ketika saya meminta untuk mencoba lagi, dikatakan ada kesalahan pada alat tersebut.) Intinya? Ia tidak bisa mengatakannya.

Bagaimana dengan chatbot lainnya? Bagi saya, Nano Banana Pro menghasilkan gambar kucing tuksedo yang tergeletak di papan Monopoli. Sekilas, gambarnya sangat realistis. Saya mengirimkannya ke rekan kerja yang tidak menaruh curiga karena mengira itu adalah kucing saya. Namun jika Anda melihat lebih dekat, Anda akan melihat kekurangannya: misalnya, set eksklusif tidak masuk akal — Park Place berada di banyak tempat yang salah dan warnanya tidak sesuai.

Saya bertanya kepada berbagai chatbot dan model AI apakah gambar tersebut dihasilkan oleh AI dan jawabannya ada di mana-mana.

Menggunakan Gemini SynthID Checker di ponsel saya langsung menemukan jawabannya. Gemini 3, model penalaran tingkat tinggi yang dirilis minggu ini, menawarkan analisis mendetail tentang mengapa model tersebut dihasilkan oleh AI. Flash Gemini 2.5 (model default yang Anda dapatkan dengan memilih “cepat”) mengasumsikan itu adalah foto asli berdasarkan tingkat detail dan realisme. Saya mencoba chatgpt dua kali dalam dua hari berbeda dan hasilnya memberi saya dua jawaban berbeda, satu dengan penjelasan panjang lebar tentang betapa nyatanya pesan itu, dan yang lainnya dengan penelitian panjang lebar tentang mengapa pesan itu palsu. Claude, yang menggunakan model Haiku 4.5 dan Sonnet 4.5, mengatakan itu terlihat nyata.

Saat saya menguji gambar yang dihasilkan oleh alat AI non-Google, chatbot mengevaluasinya berdasarkan kualitas generasi. Gambar dengan informasi yang lebih jelas – misalnya, pencahayaan yang tidak cocok dan teks yang ditampilkan dengan buruk – lebih dapat diandalkan untuk dianggap sebagai AI. Namun temanya tidak konsisten. Sungguh, hal ini sangat akurat dibandingkan melihat secara mendalam dan kritis ke dalam mata saya sendiri. Itu tidak cukup.

Masa depan deteksi AI

Alat baru Google memetakan satu kemungkinan jalan ke depan, meskipun hanya berjalan sejauh ini. Ya, salah satu solusi untuk masalah deepfake yang semakin meningkat adalah kemampuan untuk memeriksa gambar di aplikasi chatbot. Tapi itu seharusnya berfungsi untuk lebih banyak gambar dan lebih banyak aplikasi.

Tidak diperlukan pengetahuan khusus untuk menemukan yang palsu. Anda tidak akan menemukannya Aplikasi favoritParsing metadata atau cari tahu kesalahan apa yang mungkin mengindikasikan gambar yang dihasilkan AI. Seperti yang telah kita lihat peningkatan dramatis dalam model gambar dan video selama beberapa bulan terakhir, hal tersebut mungkin terlihat konyol saat ini dan tidak berguna di masa mendatang

Baca selengkapnya: Nano Banana Pro dari Google menciptakan gambar AI yang sangat realistis. Itu membuatku takut

Jika Anda menemukan gambar di internet dan ragu, Anda dapat menggunakan Gemini, atau Google Penelusuran, atau ChatGPT, atau Claude, atau alat apa pun yang Anda pilih, dan Anda akan dapat memindainya untuk mencari tanda air digital universal yang sulit dihilangkan. Bekerja melaluinya Aliansi untuk Asal dan Otentikasi Kontenatau C2PA. Hasilnya haruslah sesuatu yang memudahkan rata-rata orang untuk mengujinya tanpa memerlukan aplikasi atau keahlian khusus. Itu harus menjadi sesuatu yang Anda gunakan setiap hari. Dan ketika Anda bertanya kepada AI, AI seharusnya tahu di mana mencarinya.

Kita tidak boleh berasumsi mana yang nyata dan mana yang tidak. Perusahaan AI mempunyai tanggung jawab untuk memberi kita pemeriksaan realitas universal yang akurat. Mungkin ini adalah jalan ke depan.