Inggris ingin mencegah gambar pelecehan seksual terhadap anak-anak AI melalui pengujian yang lebih ketat

Pemerintah Inggris akan mengizinkan perusahaan teknologi dan badan amal perlindungan anak untuk secara proaktif menguji alat kecerdasan buatan (AI) untuk memastikan mereka tidak menghasilkan gambar pelecehan seksual terhadap anak.

Amandemen terhadap RUU Kejahatan dan Perpolisian yang diumumkan pada hari Rabu akan memungkinkan “pemeriksa yang berwenang” untuk menilai model kemampuan mereka dalam memproduksi materi pelecehan seksual terhadap anak (CSAM) sebelum mereka dibebaskan.

Menteri Teknologi Liz Kendall mengatakan langkah-langkah tersebut akan “memastikan sistem AI dapat diamankan pada sumbernya” – meskipun beberapa penggiat berpendapat bahwa masih banyak yang perlu dilakukan.

Internet Watch Foundation (IWF) mengatakan jumlah laporan CSAM terkait AI meningkat dua kali lipat sejak tahun lalu.

Badan amal tersebut, salah satu dari sedikit badan amal di dunia yang memiliki izin untuk secara aktif mencari konten pelecehan anak secara online, mengatakan bahwa mereka menghapus 426 materi yang dilaporkan antara Januari dan Oktober 2025.

Jumlah tersebut naik dari 199 pada periode yang sama pada tahun 2024, katanya.

Kepala eksekutifnya, Kerry Smith, menyambut baik usulan pemerintah tersebut, dengan mengatakan bahwa usulan tersebut akan melanjutkan upaya jangka panjang untuk memerangi CSAM online.

“Alat AI telah membuat para penyintas dapat kembali menjadi korban hanya dengan beberapa klik, memberikan para penjahat kemampuan untuk menciptakan materi pelecehan seksual terhadap anak-anak yang canggih dan fotorealistik yang berpotensi tak terbatas,” katanya.

“Pengumuman hari ini dapat menjadi langkah penting dalam memastikan produk AI aman sebelum dirilis.”

Rani Govender, manajer kebijakan keamanan anak online di badan amal anak-anak NSPCC, menyambut baik langkah untuk mendorong perusahaan agar lebih akuntabel dan memperhatikan model dan keselamatan anak mereka.

“Tetapi untuk membuat perbedaan nyata bagi anak-anak, hal itu tidak bisa dilakukan secara opsional,” katanya.

“Pemerintah harus memastikan bahwa pengembang AI mempunyai kewajiban wajib untuk menggunakan ketentuan ini sehingga perlindungan terhadap pelecehan seksual terhadap anak merupakan bagian penting dari desain produk.”

Pemerintah mengatakan usulan perubahan undang-undang tersebut akan memastikan pengembang AI dan badan amal bahwa model AI memberikan perlindungan yang memadai terhadap pornografi ekstrem dan gambar intim non-konsensual.

Pakar dan organisasi perlindungan anak telah sering memperingatkan bahwa alat AI yang dikembangkan, sebagian, digunakan untuk membuat gambaran yang sangat realistis tentang pelecehan terhadap anak-anak atau orang dewasa yang tidak memberikan persetujuan dengan menggunakan konten online dalam jumlah besar.

sesuatu, termasuk IWF Dan badan amal perlindungan anak, Thorne, mengatakan konten semacam itu membuat upaya polisi menjadi rentan karena menyulitkan mereka untuk mengidentifikasi apakah konten tersebut asli atau buatan AI.

Para peneliti berpendapat bahwa permintaan akan gambar-gambar ini secara online semakin meningkat, Terutama di web gelapDan itulah yang terjadi Dibangun oleh anak-anak.

Awal tahun ini, Kementerian Dalam Negeri mengatakan Inggris akan menjadi negara pertama di dunia yang melarang kepemilikan, pembuatan, atau distribusi alat AI yang dirancang untuk memproduksi materi pelecehan seksual terhadap anak (CSAM), yang dapat dihukum hingga lima tahun penjara.

Kendall mengatakan pada hari Rabu bahwa “dengan memberdayakan organisasi tepercaya untuk memvalidasi model AI mereka, kami memastikan bahwa perlindungan anak dirancang ke dalam sistem AI, bukan hanya sekedar pemikiran belaka”.

“Kami tidak akan membiarkan kemajuan teknologi melampaui kemampuan kami dalam menjaga keamanan anak-anak,” katanya.

Menteri Perlindungan Lingkungan Hidup Jess Phillips mengatakan tindakan tersebut berarti “alat AI yang sah tidak dapat dimanipulasi untuk menghasilkan materi yang menyinggung dan sebagai hasilnya, lebih banyak anak akan terlindungi dari predator”.