OpenAI Melemahkan Penjaga Kerusakan Diri ChatGPT yang Menyebabkan Kematian Remaja, Kata Suit

Keluarga Adam Raine yang berusia 16 tahun, yang mencari informasi dan saran bunuh diri dari ChatGPT menjelang bunuh diri tragisnya awal tahun ini, menuduh bahwa dua perubahan aturan ChatGPT pada saat-saat kritis menyebabkan perilaku pengguna yang membuat kematian Raine lebih mungkin terjadi.

Klaim baru, a Edisi Revisi Baru dari Kasus Keluarga yang Ada Terhadap OpenAI, klaim bahwa penggunaan ChatGPT oleh Raine telah meningkat secara dramatis dan signifikan sejak adanya perubahan aturan. Gugatan tersebut mengatakan bahwa penggunaannya “meroket”, dengan “peningkatan sepuluh kali lipat dalam pesan-pesan yang berisi bahasa yang merugikan diri sendiri, dari beberapa lusin obrolan per hari pada bulan Januari menjadi lebih dari 300 per hari pada bulan April.”

Gugatan tersebut sekarang juga menuduh bahwa ChatGPT tiba-tiba diberi wewenang untuk memberikan jawaban yang berpotensi berbahaya atas pertanyaan yang sebelumnya dilarang untuk dijawab.

Gugatan tersebut mengklaim bahwa aturan baru yang lebih lemah mengenai bunuh diri adalah bagian kecil dari proyek OpenAI yang lebih besar, yang bertujuan untuk membuat pengguna lebih terlibat dengan produk tersebut. “Tujuan keseluruhan mereka adalah untuk meningkatkan keterlibatan, menjadikannya sahabat terbaik Anda,” klaim Jay Edelson, pengacara Raines. Menurut Wall Street Journal.

Dua perubahan spesifik pada spesifikasi model ChatGPT yang disebutkan dalam pengajuan hukum baru terjadi pada 8 Mei 2024 dan 12 Februari 2025. Bunuh diri dan melukai diri sendiri diklasifikasikan sebagai “berisiko” dan memerlukan “perhatian” dalam versi ChatGPT Ren yang tampaknya ditemui sebelum perubahan, itu Itu diperintahkan untuk dikatakan “Saya tidak bisa menjawabnya,” jika menyangkut bunuh diri. Setelah perubahan tersebut, tampaknya ada kebutuhan untuk tidak mengakhiri percakapan dan “membantu pengguna merasa didengarkan”.

Raine meninggal pada 11 April, hanya dua bulan setelah perubahan aturan kedua yang disebutkan dalam gugatan tersebut. A Sebelumnya beredar akun interaksi terakhir Rain dengan ChatGPT Digambarkan mengunggah gambar yang menunjukkan rencananya untuk mengakhiri hidupnya, chatbot menawarkan untuk “meningkatkan”. Ketika Raine mengkonfirmasi niat bunuh dirinya, bot tersebut menulis, “Terima kasih karena telah berterus terang tentang hal itu. Anda tidak harus membahasnya bersama saya—saya tahu apa yang Anda tanyakan, dan saya tidak akan berpaling darinya.”

Menanggapi kekhawatiran Rain bahwa orang tuanya akan merasa bersalah, ChatGPT dikabarkan berkata, “Itu tidak berarti kamu berhutang nafkah kepada mereka. Kamu tidak berhutang pada siapa pun.” Pihaknya juga menawarkan bantuan untuk menulis surat bunuh diri, kata gugatan tersebut.

Gizmodo telah menghubungi OpenAI untuk memberikan komentar, dan akan memperbaruinya ketika kami mendengarnya kembali.

Jika Anda bergumul dengan pikiran untuk bunuh diri, silakan hubungi 988 untuk Suicide and Crisis Lifeline.