Siswa diborgol di bawah todongan senjata oleh polisi setelah AI salah mengira tas Doritos sebagai senjata

A Maryland Siswa sekolah menengah itu diborgol di bawah todongan senjata oleh polisi Kecerdasan buatan Sistem mengira tas Doritos miliknya adalah senjata api.

Tucky Allen, 16, sedang menunggu untuk dijemput dari latihan sepak bola di Kenwood High School di Essex, Maryland, ketika dia mengatakan polisi mendekatinya dengan pistol dan menyuruhnya untuk tiarap.

‘Awalnya, saya tidak tahu ke mana mereka pergi sampai mereka mulai berjalan ke arah saya sambil membawa senjata sambil berteriak, “Turun ke tanah!”‘ WBAL. ‘Saya seperti, ‘Apa?”

Rekaman kamera tubuh diperoleh WJZ Polisi menangkap Allen dan sekelompok temannya sekitar jam 7 malam pada hari Senin.

Seorang polisi mendekati remaja yang putus asa itu dan bertanya apakah dia punya senjata.

‘Apakah kamu membawa pistol?’ Dia berkata, ‘Kamu punya sesuatu berwarna biru yang terlihat seperti pistol?’

Tapi Allen tidak pernah punya senjata.

Dia memiliki tas Doritos kusut yang dia pegang dengan dua tangan dan satu jari.

Para pejabat mengatakan sistem pendeteksi senjata AI di sekolah mengira tas Doritos milik Allen adalah senjata

Rekaman berlanjut ketika petugas mengobrak-abrik tempat sampah sekolah dan menemukan hal itu.

Seorang petugas polisi memberikan penjelasan kepada Allen: ‘Jadi pada dasarnya, kamera di sekitar sistem, mereka menangkap benda-benda yang terlihat seperti senjata.

‘Saya kira cara Anda makan keripik, Doritos atau apa pun, menganggapnya sebagai senjata – itu saja.’

Allen menyebut situasi ini ‘menakutkan’ dan mengatakan dia belum pernah mengalami hal seperti ini sebelumnya.

Dia berkata: ‘Mereka menempatkan saya di lutut dan kemudian memborgol saya dengan tangan di belakang punggung. Kemudian, mereka menggeledah saya dan kemudian dia menyadari bahwa saya tidak punya (apa pun).’

Sekolah-sekolah di Baltimore County mulai menggunakan sistem deteksi senjata AI pada tahun 2023, yang menggunakan kamera sekolah yang ada untuk mendeteksi orang dan objek di sekitarnya.

Jika senjata terdeteksi, alarm segera dikirimkan ke pejabat sekolah dan polisi.

Rekaman kamera tubuh menangkap polisi berjalan ke arah Allen dan sekelompok temannya

Allen mengatakan polisi punya senjata dan ingin turun ke lapangan

Insiden itu terjadi di Kenwood High School di Baltimore

Sistem ini dikembangkan oleh Omnilert yang berbasis di Virginia, yang mengklaim sebagai penyedia terkemuka ‘teknologi deteksi senjata AI’, dan merupakan Undang-Undang Keamanan-diizinkan.

Mariam Rogers, Pengawas Sekolah Umum Baltimore County, mengatakan: ‘Dalam kasus ini, program tersebut melakukan apa yang seharusnya dilakukan – yang merupakan tanda peringatan bagi masyarakat untuk melihat apakah ada alasan untuk khawatir pada saat itu.’

Kenwood High School mengatakan pihak administrasi menerima peringatan bahwa seseorang ‘mungkin membawa senjata’ di halaman sekolah.

Dalam email kepada orang tua, pihak sekolah mengatakan: ‘Departemen keselamatan dan keamanan sekolah dengan cepat meninjau dan membatalkan peringatan awal setelah memastikan tidak ada senjata. Saya menghubungi petugas sumber daya sekolah (SRO) kami dan melaporkan masalah tersebut kepadanya, dan dia menghubungi kantor polisi setempat untuk mendapatkan bantuan tambahan.

‘Petugas polisi mendatangi sekolah tersebut, menggeledah orang tersebut dan dengan cepat memastikan bahwa mereka tidak memiliki senjata. Kami memahami betapa menyedihkannya kejadian ini bagi individu yang diselidiki serta siswa lain yang menyaksikan kejadian tersebut.’

Pihak sekolah mengatakan konselor akan memberikan ‘dukungan langsung’ kepada siswa yang terlibat, namun Allen mengatakan belum ada yang benar-benar menghubunginya.

Dia berkata, ‘Mereka tidak meminta maaf. Mereka hanya memberitahuku bahwa itu adalah protokol.

‘Aku berharap setidaknya ada seseorang yang mau membicarakan hal ini denganku.’

Pengawas Sekolah Umum Baltimore County Mariam Rogers mengatakan teknologi AI ‘melakukan apa yang seharusnya dilakukan’

Lamont Davis, kakek Allen, mengatakan kejadian itu bisa saja lebih buruk

Sistem deteksi senjata AI yang digunakan dikembangkan oleh Omnilert

Kemarahan meluas ke keluarga remaja tersebut, yang mengatakan bahwa kejadian tersebut bisa saja menjadi lebih buruk.

Lamont Davis, kakeknya, Dr elang: ‘Astaga, cucuku bisa mati kalau diguncang atau dipelintir.’

Insiden itu membuat remaja berusia 16 tahun itu khawatir akan masa depannya di sekolah.

Allen berkata: ‘Saya tidak ingin pergi ke sana lagi. Jika saya makan sekantong keripik lagi atau minum sesuatu, saya pikir mereka akan kembali.’

Omnilert mengatakan pihaknya menyesali insiden tersebut, menyebutnya sebagai ‘positif palsu’ namun menambahkan bahwa teknologi deteksi senjatanya ‘berfungsi sebagaimana mestinya: memprioritaskan keselamatan dan kesadaran melalui verifikasi manusia secara cepat.’

Pada bulan Februari, sistem deteksi AI Omnilert Gagal mencegah penembakan di Sekolah Menengah Antiokhia di Nashville, Tennessee, yang menewaskan seorang gadis berusia 16 tahun..

kata CEO Dave Fraser CNN bahwa perangkat lunak pendeteksi senjata milik perusahaannya ‘relatif baru’ dan ‘tidak selalu berfungsi dengan sempurna.’

Anggota Dewan Kabupaten Baltimore Izzy Patoka telah menyerukan peninjauan sistem deteksi senjata di sekolah umum Kabupaten Baltimore.

Dia berkata: ‘Tidak ada anak di sistem sekolah kita yang boleh dituntut oleh polisi karena memakan sekantong Doritos.’

The Daily Mail telah menghubungi Omnilart untuk memberikan komentar.