Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
OpenAI telah merilis perkiraan baru mengenai jumlah pengguna ChatGPT yang menunjukkan potensi gejala darurat kesehatan mental, termasuk mania, psikosis, atau pikiran untuk bunuh diri.
Perusahaan mengatakan bahwa sekitar 0,07% pengguna aktif ChatGPT menunjukkan gejala seperti itu pada minggu tertentu, dan menambahkan bahwa chatbot kecerdasan buatan (AI) mengenali dan merespons percakapan sensitif ini.
Meskipun OpenAI berpendapat bahwa kasus-kasus ini “sangat jarang terjadi,” para kritikus mengatakan bahwa persentase kecilnya bisa mencapai puluhan ribu orang, karena ChatGPT baru-baru ini mencapai 800 juta pengguna aktif mingguan, menurut bos Sam Altman.
Bersamaan dengan pemeriksaan, perusahaan tersebut mengatakan telah membangun jaringan pakar di seluruh dunia untuk memberikan saran.
Para ahli tersebut mencakup lebih dari 170 psikiater, psikolog, dan dokter perawatan primer yang berpraktik di 60 negara, kata organisasi itu.
Menurut OpenAI mereka telah membuat banyak tanggapan di ChatGPT untuk mendorong pengguna meminta bantuan di dunia nyata.
Namun sekilas data perusahaan telah menimbulkan keheranan di kalangan profesional kesehatan mental.
“Meskipun 0,07% terdengar seperti persentase kecil, pada tingkat populasi ratusan juta pengguna, sebenarnya jumlah tersebut mungkin sangat sedikit,” kata Dr. Jason Nagata, seorang profesor yang mempelajari penggunaan teknologi di kalangan dewasa muda di Universitas California, San Francisco.
“AI dapat memperluas akses terhadap dukungan kesehatan mental, dan dalam beberapa hal mendukung kesehatan mental, namun kita perlu menyadari keterbatasannya,” tambah Dr Nagata.
Perusahaan memperkirakan bahwa 0,15% pengguna ChatGPT melakukan percakapan yang berisi “indikator yang jelas tentang potensi rencana atau niat untuk bunuh diri”.
OpenAI mengatakan pembaruan terkini pada chatbotnya dirancang untuk “merespon dengan aman dan empati terhadap kemungkinan tanda-tanda delusi atau mania” dan mencatat “sinyal tidak langsung dari potensi bahaya diri sendiri atau risiko bunuh diri”.
ChatGPT dilatih untuk mengalihkan percakapan sensitif “yang berasal dari model lain ke model aman” dengan membuka jendela baru.
Menanggapi pertanyaan dari BBC tentang jumlah orang yang berpotensi terkena dampak, OpenAI mengatakan bahwa persentase kecil pengguna ini adalah jumlah orang yang berarti dan menyatakan bahwa mereka menanggapi perubahan ini dengan serius.
Perubahan ini terjadi ketika OpenAI menghadapi peningkatan pengawasan hukum atas cara ChatGPT berinteraksi dengan pengguna OpenAI.
Salah satu kasus paling terkenal Baru-baru ini diajukan Melawan OpenAI, pasangan California menggugat perusahaan tersebut atas kematian putra remaja mereka, dengan tuduhan bahwa ChatGPT mendorongnya untuk bunuh diri pada bulan April.
Gugatan tersebut diajukan oleh orang tua Adam Raine yang berusia 16 tahun dan merupakan tuntutan hukum pertama yang menuduh OpenAI melakukan kematian yang tidak wajar.
Dalam kasus terpisah, tersangka pembunuhan-bunuh diri pada bulan Agustus di Greenwich, Connecticut, memposting beberapa jam percakapannya dengan ChatGPT, yang tampaknya memicu paranoia tersangka.
Semakin banyak pengguna yang berjuang melawan psikosis AI karena “chatbots menciptakan ilusi realitas,” kata Profesor Robin Feldman, direktur Institut Hukum dan Inovasi AI di Universitas California. “Itu adalah ilusi yang kuat.”
Dia mengatakan OpenAI pantas mendapat pujian karena “berbagi data dan mencoba memperbaiki masalah” namun menambahkan: “Perusahaan dapat menampilkan semua jenis peringatan di layar tetapi orang yang secara psikologis berada dalam risiko mungkin tidak dapat mendengar peringatan tersebut.”
