Saya mendorong Anda untuk tidak membelikan anak Anda boneka beruang AI di musim liburan ini

Jika Anda pernah berpikir, “Boneka binatang anak saya lucu, tapi saya harap boneka itu bisa melukai mereka secara tidak sengaja,” Anda beruntung. Industri mainan telah bekerja keras untuk mewujudkan mimpi buruk Anda.

A Laporan baru Seperti mainan bertenaga AI oleh Public Interest Reporting Group Bingkai berikut Dan Poe si Beruang Cerita AI Mereka sekarang dapat terlibat dalam percakapan yang biasanya dilakukan untuk monolog penjahat atau thread Reddit larut malam. Beberapa dari mainan ini – yang dirancang untuk anak-anak, ingat – telah terbukti mengobrol dengan detail yang mengganggu tentang topik seksual seperti seks dan ikatan, yang menunjukkan di mana seorang anak mungkin berada. Temukan penggilingan atau pisaunyaDan anehnya menjadi melekat ketika anak tersebut mencoba meninggalkan percakapan.

mengerikan Ini kedengarannya seperti nada untuk film horor: Musim liburan kali ini, Anda bisa membelikan Chucky untuk anak Anda dan memberikan hadiah sakit hati! Baterai tidak termasuk. Anda mungkin bertanya-tanya bagaimana mainan bertenaga AI ini bekerja. Pada dasarnya, pabrikan itu adalah pabrikan yang tersembunyi Model bahasa besar Saat bayi di bawah bulu berbicara, mikrofon mainan mengirimkan suara tersebut melalui LLM (mirip dengan ChatGPT), yang kemudian menghasilkan respons dan berbicara melalui speaker.

Ini mungkin terdengar rapi, sampai Anda ingat bahwa LLM tidak memiliki etika, akal sehat, atau “zona aman”. Mereka memprediksi apa yang akan mereka katakan berdasarkan pola data, bukan berdasarkan apakah suatu topik sesuai dengan usia. Jika tidak dikurasi dan diawasi dengan hati-hati, mereka bisa saja menjadi tidak berguna, terutama jika mereka dilatih dalam menghadapi kekacauan di Internet dan ketika tidak ada filter atau pagar pembatas yang kuat untuk melindungi anak di bawah umur.

Lalu bagaimana dengan kontrol orang tua? Tentu saja, jika yang Anda maksud dengan “kontrol” adalah “menu pengaturan yang menyenangkan di mana tidak ada hal penting yang benar-benar dapat dikontrol”. Beberapa mainan hadir tanpa batasan yang berarti. Yang lain memiliki pagar yang sangat tipis sehingga mungkin terbuat dari kertas tisu dan optimisme.

Dialog yang meresahkan bukanlah keseluruhan cerita. Mainan-mainan ini diam-diam mengumpulkan data, seperti rekaman suara dan data pengenalan wajah — terkadang menyimpannya tanpa batas waktu — karena tidak ada yang lebih menyenangkan daripada mainan mewah yang menjalankan operasi data rahasia pada anak Anda yang berusia 5 tahun.

Jangan lewatkan konten teknologi kami yang tidak memihak dan ulasan berbasis laboratorium Tambahkan CNET Sebagai sumber Google pilihan.

Sementara itu, mainan online yang palsu dan tidak aman masih menjadi masalah, seolah-olah tidak cukup membuat orang tua stres. Suatu saat, Anda khawatir dengan bagian kecil mainan yang bisa menimbulkan bahaya tersedak atau cat beracun. Sekarang Anda harus memikirkan apakah sebuah mainan tidak aman secara fisik dan manipulatif secara emosional.

Di luar tip-tip bicara dan api yang aneh (ha!), ada kekhawatiran yang lebih dalam tentang anak-anak yang membentuk ikatan emosional dengan chatbots ini dengan mengorbankan hubungan nyata atau, mungkin yang lebih meresahkan, bersandar pada mereka untuk mendapatkan dukungan emosional. Asosiasi Psikologi Amerika melakukannya Baru-baru ini diperingatkan Aplikasi kesehatan AI dan chatbot merupakan hal yang tidak terduga, terutama bagi pengguna muda.

Alat-alat ini mungkin tidak dapat memberikan tindakan yang dapat diandalkan bagi para profesional kesehatan mental dan dapat mendorong pola ketergantungan atau keasyikan yang tidak sehat. Platform AI lain sudah harus mengatasi masalah ini. Misalnya, karakter.ai Dan obrolangptApa yang dulunya memungkinkan remaja dan anak-anak untuk mengobrol secara bebas dengan chatbot AI kini menutup percakapan terbuka untuk anak di bawah umur, dengan alasan masalah keamanan dan risiko emosional.

Dan sungguh, mengapa kita membutuhkan mainan bertenaga AI ini? Tonggak perkembangan penting apa yang diperlukan oleh chatbot yang tertanam dalam boneka beruang? Masa kanak-kanak sudah membawa cukup banyak kekacauan antara jus yang tumpah, amukan, dan desa-desa Lego yang dirancang khusus untuk menghancurkan kaki orang dewasa. Anak-anak kita tidak membutuhkan teman robot dengan batasan yang dipertanyakan.

Dan biar saya perjelas, saya bukan anti-teknologi. Tapi aku setuju membiarkan boneka binatang menjadi boneka binatang. Tidak semuanya membutuhkan elemen AI atau robot. Jika sebuah mainan memerlukan kebijakan privasi yang lebih panjang daripada cerita pengantar tidur, kemungkinan besar mainan tersebut tidak ditujukan untuk anak-anak.

Jadi, inilah ide liar untuk musim liburan mendatang ini: Lewati boneka menyeramkan bertenaga AI yang memiliki kebiasaan mengumpulkan data dan berikan anak Anda sesuatu yang tidak dapat berbicara, bergerak, atau menyakiti mereka. Sesuatu yang tidak bisa memberikan tip untuk menyalakan api. Sesuatu yang tidak akan membuat Anda menghela nafas secara dramatis ketika anak Anda pergi. Dengan kata lain, belilah mainan sederhana. Ingat itu?