Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
Mainan tersebut lucu, bahkan menggemaskan, dan menjanjikan pembelajaran serta persahabatan — namun mainan dengan kecerdasan buatan tidak aman untuk anak-anak, sehingga anak-anak dan kelompok advokasi konsumen mendesak orang tua untuk tidak membelinya pada musim liburan ini.
Mainan-mainan ini, yang dipasarkan kepada anak-anak di bawah usia 2 tahun, biasanya didukung oleh model AI yang telah terbukti dapat digunakan Membahayakan anak-anak dan remajaSeperti ChatGPT OpenAI, menurut konsultasi yang diterbitkan Kamis oleh kelompok advokasi anak-anak FairPlay dan ditandatangani oleh lebih dari 150 organisasi dan pakar individu seperti psikiater anak dan pendidik.
“Kerusakan serius yang disebabkan oleh chatbot AI terhadap anak-anak sudah terdokumentasi dengan baik, termasuk mendorong penggunaan obsesif, terlibat dalam percakapan seksual eksplisit, dan mendorong perilaku tidak aman, termasuk kekerasan terhadap orang lain dan menyakiti diri sendiri,” kata Fairplay.
Mainan AI yang dibuat oleh perusahaan seperti Curio Interactive dan Keyi Technologies sering kali dipasarkan sebagai mainan edukasi, namun Fairplay mengatakan mainan tersebut dapat menggantikan aktivitas kreatif dan pembelajaran yang penting. Mereka menjanjikan persahabatan namun juga mengganggu hubungan dan ketahanan anak-anak, kata kelompok itu.
“Yang berbeda dari anak kecil adalah otak mereka terhubung untuk pertama kalinya dan merupakan hal yang normal bagi mereka untuk percaya, menemukan hubungan dengan karakter yang baik dan ramah,” kata Rachel Franz, direktur Program Offline Anak Muda Berkembang di FairPlay. Oleh karena itu, tambahnya, besarnya kepercayaan anak-anak terhadap mainan tersebut dapat memperburuk dampak buruk yang terjadi pada anak-anak yang lebih besar.
Fairplay, sebuah organisasi berusia 25 tahun yang sebelumnya dikenal sebagai Kampanye untuk Masa Kecil Bebas Komersial, telah memperingatkan tentang mainan AI selama lebih dari 10 tahun. Mereka belum maju seperti sekarang. Satu dekade yang lalu, ketika tren mainan yang terhubung ke Internet dan pengenalan suara AI sedang marak, kelompok ini membantu memimpin reaksi terhadap boneka Hello Barbie yang dapat berbicara milik Mattel yang dikatakan merekam dan menganalisis percakapan anak-anak.
“Semuanya dirilis tanpa regulasi dan penelitian, jadi ini memberi kita jeda ekstra ketika kita tiba-tiba melihat perusahaan, termasuk Mattel, yang baru-baru ini bermitra dengan OpenAI, berpotensi merilis produk ini,” kata Franz.
Minggu lalu, pembela konsumen di PIRG AS mengadakan acara tahunan “ Masalah di Toyland ” laporan yang biasanya membahas berbagai bahaya produk, seperti magnet berdaya tinggi dan baterai seukuran kancing yang dapat tertelan oleh anak kecil. Tahun ini, perusahaan tersebut menguji empat mainan yang menggunakan chatbot AI.
“Kami menemukan bahwa beberapa mainan ini akan berbicara secara mendalam tentang topik seksual, memberikan nasihat di mana seorang anak dapat menemukan korek api atau pisau, bertindak frustrasi ketika Anda menyuruh mereka pergi, dan memiliki kontrol orang tua yang terbatas atau tidak ada sama sekali,” kata laporan tersebut.
Dana Suskind, seorang ahli bedah anak dan ilmuwan sosial yang mempelajari perkembangan otak dini, mengatakan anak-anak belum memiliki alat konseptual untuk memahami apa itu pendamping AI. Meskipun anak-anak selalu terikat dengan mainan melalui permainan imajinatif, ketika mereka melakukan hal ini mereka menggunakan imajinasi mereka untuk menciptakan kedua sisi percakapan pura-pura, “melatih kreativitas, bahasa dan pemecahan masalah,” katanya.
Kita belum mengetahui konsekuensi perkembangan dari mengalihkan tenaga kerja imajinatif tersebut ke agen buatan—tetapi sangat masuk akal bahwa hal itu mengurangi kreativitas dan fungsi eksekutif, kata Precision Performance dari permainan tradisional.
Curio Interactive yang berbasis di California membuat boneka mainan, seperti Gabo berbentuk roket, yang dipopulerkan oleh penyanyi pop Grimes.
Curio mengatakan mereka telah “dirancang dengan cermat” pagar pembatas untuk melindungi anak-anak, dan perusahaan mendorong orang tua untuk “memantau percakapan, melacak wawasan, dan memilih kontrol yang paling sesuai untuk keluarga mereka.”
“Setelah meninjau temuan pendanaan pendidikan PIRG AS, kami secara proaktif bekerja sama dengan tim kami untuk mengatasi segala kekhawatiran, sambil terus memantau konten dan interaksi untuk memastikan pengalaman yang aman dan menyenangkan bagi anak-anak.”
Perusahaan lain, Miko, mengatakan bahwa mereka menggunakan model AI percakapannya sendiri daripada mengandalkan sistem model bahasa besar yang umum seperti ChatGPT untuk membuat produk mereka – robot AI interaktif – aman untuk anak-anak.
“Kami selalu memperluas pengujian internal, memperkuat filter, dan memperkenalkan kemampuan baru yang mendeteksi dan memblokir konten sensitif atau tidak terduga,” kata CEO Sneh Vaswani. “Fitur-fitur baru ini melengkapi kontrol kami yang ada yang memungkinkan orang tua dan pengasuh mengidentifikasi topik tertentu yang ingin mereka batasi dari percakapan. Kami akan terus berinvestasi dalam menetapkan standar tertinggi untuk integrasi AI yang aman, terjamin, dan bertanggung jawab untuk produk Miko.”
Produk Miko dipromosikan oleh keluarga “kidinfluencer” media sosial yang video YouTube-nya telah ditonton jutaan kali. Di situsnya, mereka memasarkan robotnya dengan judul “Kecerdasan Buatan. Persahabatan Sejati”.
Ritvik Sharma, wakil presiden senior pertumbuhan perusahaan, mengatakan Mico sebenarnya “mendorong anak-anak untuk lebih banyak berinteraksi dengan teman-teman mereka, dengan teman sebaya, dengan anggota keluarga. Ini tidak hanya dibuat agar merasa terhubung dengan perangkat.”
Namun, Susskind dan pendukung anak-anak mengatakan mainan analog adalah pilihan yang bagus untuk liburan.
“Anak-anak membutuhkan banyak interaksi manusia yang nyata. Permainan harus mendukungnya, bukan menggantikannya. Hal terbesar yang perlu dipertimbangkan bukan hanya fungsi mainannya; apa yang digantikannya. Satu set balok sederhana atau boneka beruang yang tidak bisa berbicara memaksa seorang anak untuk mengarang cerita, bereksperimen, dan mengatasi masalah. Mainan AI sering kali melakukan hal tersebut untuk mereka,” katanya. “Inilah ironi yang brutal: Ketika orang tua bertanya kepada saya bagaimana mempersiapkan anak mereka menghadapi dunia AI, akses AI tanpa batas sebenarnya merupakan persiapan terburuk yang pernah ada.”
