Jangan percaya begitu saja apa yang dikatakan AI kepada Anda, kata bos Google kepada BBC

Bos perusahaan induk Google, Alphabet, mengatakan kepada BBC bahwa masyarakat tidak boleh “mempercayai begitu saja” apa pun yang dikatakan alat AI kepada mereka.

Dalam sebuah wawancara eksklusif, CEO Sundar Pichai mengatakan model AI “rentan terhadap kesalahan” dan mendesak orang untuk menggunakannya bersama dengan alat lain.

Pichai mengatakan hal ini menyoroti pentingnya memiliki ekosistem data yang kaya dibandingkan hanya mengandalkan teknologi AI.

“Itulah sebabnya orang-orang juga menggunakan Google Penelusuran, dan kami memiliki produk lain yang lebih mampu memberikan informasi akurat.”

Meskipun alat AI sangat membantu “jika Anda ingin menulis sesuatu secara kreatif”, Pichai mengatakan orang-orang “perlu belajar menggunakan alat ini untuk melakukan apa yang dapat mereka lakukan, dan tidak begitu saja mempercayai apa yang mereka katakan”.

Dia mengatakan kepada BBC: “Kami bangga dengan upaya yang telah kami lakukan untuk memberikan informasi seakurat mungkin, namun teknologi AI tercanggih saat ini rentan terhadap beberapa kesalahan.”

Dunia teknologi sedang menunggu peluncuran terbaru model AI pelanggan Google, Gemini 3.0, yang mulai mendapatkan kembali pangsa pasar dari ChatGPT.

Sejak Mei tahun ini, Google telah mulai memperkenalkan “mode AI” baru dalam pencariannya dengan mengintegrasikan chatbot Gemini yang Ditujukan untuk memberi pengguna pengalaman berbicara dengan seorang ahli.

Pada saat itu, Pichai mengatakan integrasi Gemini dengan Pencarian menandakan “fase baru evolusi platform AI”.

Langkah ini juga merupakan upaya raksasa teknologi tersebut untuk tetap bersaing dengan layanan AI seperti ChatGPT, yang mengancam dominasi pencarian online Google.

Komentarnya mendukung penelitian BBC awal tahun ini, yang menemukan bahwa chatbot AI salah merangkum berita.

ChatGPT OpenAI, Copilot Microsoft, Gemini Google, dan Perplexity AI diberi konten dari situs BBC dan mengajukan pertanyaan tentangnya, dan penelitian tersebut menemukan jawaban AI. “Mengandung ketidakakuratan yang signifikan”“

Dalam wawancaranya dengan BBC, Pichai mengatakan ada ketegangan antara seberapa cepat teknologi berkembang dan bagaimana mitigasi dilakukan untuk mencegah dampak yang berpotensi membahayakan.

Bagi Alphabet, Pichai mengatakan bahwa mengelola ketegangan berarti menjadi “berani dan bertanggung jawab pada saat yang sama”.

“Jadi kami bergerak cepat saat ini. Saya pikir konsumen kami menuntut hal itu,” katanya.

Raksasa teknologi ini telah meningkatkan investasinya pada keamanan AI sebanding dengan investasinya pada AI, tambah Pichai.

“Misalnya, kami memiliki teknologi sumber terbuka yang memungkinkan Anda mengidentifikasi apakah suatu gambar dihasilkan oleh AI,” katanya.

Ketika ditanya tentang komentar bertahun-tahun yang baru-baru ini terungkap dari miliarder teknologi Elon Musk hingga para pendiri OpenAI bahwa DeepMind yang sekarang dimiliki Google dapat menciptakan “kediktatoran” AI, Pichai mengatakan “tidak ada perusahaan yang boleh memiliki teknologi sekuat AI”.

Namun dia menambahkan ada banyak perusahaan di ekosistem AI saat ini.

“Jika hanya ada satu perusahaan yang mengembangkan teknologi AI dan semua orang harus menggunakannya, saya juga akan khawatir tentang hal itu, namun skenario tersebut masih jauh dari yang kita capai saat ini,” ujarnya.