Amazon menarik rekap AI dari acara TV Fallout setelah melakukan beberapa kesalahan

Amazon telah menarik rekap video bertenaga kecerdasan buatan (AI) dari acara TV terkenalnya, Fallout, setelah pengguna mengatakan beberapa informasi tentang serial tersebut tidak benar.

Perusahaan tersebut mengatakan pada bulan November bahwa mereka sedang menguji alat “pertama dari jenisnya” di AS untuk membantu pemirsa menonton beberapa acara di layanan streaming Prime Video, termasuk franchise video game populer Fallout.

Namun gambar tersebut menghilang dari situs setelah pengguna menyoroti kesalahan dalam video yang merangkum peristiwa Fallout musim pertama – termasuk mengklaim bahwa adegan tersebut terjadi lebih dari 100 tahun yang lalu.

BBC telah menghubungi Amazon untuk memberikan komentar.

Tampaknya langkah untuk menghentikan rekap yang didukung AI pertama kali dilaporkan oleh Publikasi teknologi The Verge.

Amazon mengatakan pada bulan November bahwa rekap akan tersedia bagi pengguna sebagai fitur eksperimental dan hanya untuk “Seri Prime Original berbahasa Inggris tertentu di Amerika Serikat.”

“Rekap video menggunakan AI untuk meringkas poin plot acara yang paling relevan dalam video berkualitas teater yang mencakup narasi, dialog, dan musik,” mengatakannya.

Namun para penggemar yang menantikan rilis seri Fallout berikutnya pada 17 Desember telah menyoroti kekurangan yang diperkenalkan dalam rekap video seri pertamanya.

Pengguna di Reddit mengatakan klip yang menunjukkan The Ghoul – salah satu karakter utama acara tersebut, yang diperankan oleh aktor Walton Goggins – secara keliru digambarkan sebagai “kilas balik tahun 1950-an” dalam narasi AI.

Terlepas dari estetika klipnya yang retro, klip tersebut sebenarnya menggambarkan sebuah adegan dari tahun 2077 – sesuatu yang langsung dikenali oleh para penggemar serial ini.

Penggemar juga mengatakan rekap tersebut salah merangkum adegan antara The Ghoul dan protagonis Lucy MacLean, yang diperankan oleh Ella Purnell, mengubah dinamika mereka sedemikian rupa sehingga membingungkan pemirsa baru.

Ini merupakan daftar panjang kesalahan saat menggunakan alat AI generatif untuk menghasilkan ringkasan konten.

Pada awal tahun 2025, Apple menangguhkan fitur AI yang merangkum pemberitahuan setelah dituduh melakukan kesalahan berulang kali dalam merangkum berita utama.

BBC termasuk di antara kelompok tersebut Keluhan tentang fiturLuigi Mangione, yang di AS dituduh membunuh CEO UnitedHealthcare Brian Thompson, menembak dirinya sendiri setelah peringatan yang dihasilkan oleh AI Apple memberikan informasi palsu kepada beberapa pembaca.

Ikhtisar AI Google, yang bertujuan untuk memberikan ringkasan singkat hasil pencarian, juga telah hadir Di bawah kritik dan ejekan karena kesalahan.