Google mengatakan Gemini sekarang akan dapat mengenali gambar AI, tetapi ada kendala besar

Google bertaruh bahwa tanda air AI yang tidak terlihat akan sama bagusnya dengan tanda air yang terlihat. Perusahaan melanjutkan minggu ini Berita Gemini 3 Dengan pengumuman bahwa mereka mengeluarkan pendeteksi konten AI, SynthID Detector, dari versi beta pribadi untuk digunakan semua orang.

Berita ini hadir bersamaan dengan rilisnya nano pisang proEditor gambar AI paling populer dari Google. Model Pro baru hadir dengan sejumlah peningkatan, termasuk kemampuan untuk membuat teks yang dapat dibaca dan meningkatkan gambar Anda ke 4K. Hal ini merupakan hal yang bagus bagi para pembuat konten yang menggunakan AI, namun hal ini juga berarti mengidentifikasi konten yang dihasilkan oleh AI akan menjadi lebih sulit dari sebelumnya.

kami melakukannya palsu Jauh sebelum AI generatif. Namun alat AI, seperti yang dikembangkan oleh Google dan OpenAI, memungkinkan siapa pun membuat konten palsu yang kredibel dengan lebih cepat dan lebih murah dibandingkan sebelumnya. Hal ini mengakibatkan masuknya konten AI secara besar-besaran secara online, dari segala hal Kegagalan AI yang buruk Deepfake yang tampak realistis. Aplikasi video AI viral OpenAI, SoraAlat penting lainnya yang menunjukkan kepada kita betapa mudahnya alat AI ini dapat disalahgunakan. Ini bukan masalah baru, namun AI telah menyebabkan peningkatan dramatis dalam krisis deepfake.

Baca selengkapnya: Kegagalan AI telah mengubah media sosial menjadi gurun antisosial

Itu sebabnya SynthID dibuat. Google memperkenalkan SynthID pada tahun 2023 dan sejak itu telah melampirkan tanda air tak kasat mata ini ke setiap model AI yang diterbitkan konten AI. Google juga menambahkan tanda air kecil, terlihat, berbentuk berkilau, tetapi tidak ada yang membantu ketika Anda dengan cepat menelusuri umpan media sosial Anda dan tidak menganalisis setiap kiriman dengan penuh semangat. Untuk mencegah krisis Deepfake (yang dibantu oleh perusahaan) menjadi lebih buruk, Google memperkenalkan alat baru yang menggunakan AI untuk mendeteksi konten.

Detektor SynthID melakukan persis seperti namanya; Ini menganalisis gambar dan dapat mengambil tanda air SynthID yang tidak terlihat. Jadi secara teori, Anda bisa mengunggah foto ke Gemini dan bertanya pada chatbot apakah itu dibuat dengan AI. Namun ada kendala besar — Gemini hanya dapat mengonfirmasi bahwa gambar tersebut dibuat dengan AI Google, bukan buatan perusahaan lain. Karena ada begitu banyak model gambar dan video AI yang tersedia, itu berarti Gemini mungkin tidak akan dapat memberi tahu Anda apakah model tersebut dibuat oleh AI dengan program non-Google.

Saat ini, Anda hanya dapat bertanya tentang gambar, tetapi Google mengatakan dalam postingan blognya bahwa mereka berencana untuk memperluas kemampuan ke video dan audio. Meskipun terbatas, alat-alat tersebut masih merupakan langkah menuju arah yang benar. Ada banyak alat pendeteksi AI, tetapi tidak ada satupun yang sempurna. Model media generatif berkembang pesat, terkadang terlalu cepat untuk diimbangi oleh alat pendeteksi. Itulah mengapa sangat penting untuk memberi label pada konten AI apa pun yang Anda bagikan secara online dan curiga terhadap gambar atau video mencurigakan apa pun yang Anda lihat di feed Anda.

Jangan lewatkan konten teknologi kami yang tidak memihak dan ulasan berbasis laboratorium Tambahkan CNET Sebagai sumber Google pilihan.

Untuk lebih lanjut, lihat Segala sesuatu di Gemini 3 Dan Apa yang Baru di Nano Banana Pro.