Kegagalan AI telah mengubah media sosial menjadi gurun antisosial

Media sosial tidak pernah dipuji karena realismenya, namun penipuan online telah mencapai puncaknya.

Sejak lahirnya platform seperti Facebook, Instagram, dan TikTok, konten aspiratif telah membanjiri feed kami. Tubuh yang sangat sempurnaRumah dan gaya hidup. Terlepas dari tujuan media sosial untuk membuat kita tetap terhubung, online Merasa semakin terisolasi dan terlepas dari kenyataan. Cadangan air kotor Dan deepfake membuatnya semakin buruk

Munculnya Alat AI generatif pilihan Sora dari OpenAI, Google, begitu Dan Tengah perjalanan Memfasilitasi pembuatan video yang mengagumkan, imajinatif, dan menipu sekaligus. Tiba-tiba, perintah teks sederhana dapat memunculkan apa yang Anda pikirkan. Ini merupakan keajaiban teknologi, dan seringkali merupakan mimpi buruk etis.

AI slop mengacu pada rentetan konten digital berkualitas rendah yang dibuat dengan kecerdasan buatan tanpa henti. Anda mungkin pernah melihat contohnya di media sosial Anda, mulai dari video hewan yang menunjukkan ciri-ciri aneh manusia hingga lelucon dan lelucon yang tampaknya melanggar hukum fisika. Selain itu, Peniruan mendalam terhadap tokoh masyarakat, Baik hidup maupun mati, mengatakan dan melakukan hal-hal yang sebenarnya tidak pernah terjadi – dan Kontroversial — produknya.

Bukan hanya AI yang buruk yang memperlambat pengalaman online. Menyaring pemalsuan orang, tempat, dan peristiwa yang lebih dapat dipercaya menuntut kewaspadaan lebih dari sebelumnya dan benar-benar melelahkan.

Dari hubungan antarmanusia hingga kecanduan platform

Sejak diluncurkan Aplikasi Sora OpenAI Pada bulan September, saya bertanya-tanya mengapa ada orang yang ingin menelusuri feed yang hanya berisi momen buatan. Platform sosial yang lebih “tradisional” seperti Instagram dan TikTok tenggelam dalam konten AI yang tampaknya tidak memiliki tujuan nyata, selain menampilkan gambar yang sangat jelas yang kini dapat langsung dibayangkan oleh alat AI.

Bukankah media sosial adalah tentang tetap berhubungan dengan orang-orang yang Anda kenal dan mengikuti tokoh masyarakat yang Anda minati? Apakah tujuan dasar itu secara resmi sudah mati?

“Jawaban yang menarik adalah media sosial kini bertujuan untuk menghubungkan Anda dengan alat, bukan menghubungkan Anda satu sama lain,” kata Alexios Mantzarlis, direktur Inisiatif Keamanan, Kepercayaan, dan Keselamatan Cornell Tech.

Raksasa teknologi “meningkatkan harga saham mereka” dengan memamerkan kemampuan AI mereka, katanya, namun “hal ini mengorbankan pengalaman dalam platform tersebut.”

Faktanya, peningkatan kepalsuan tersebut bertabrakan dengan keaslian yang semakin sulit kita temukan secara online. Inilah salah satu alasan saya jatuh cinta dengan TikTok beberapa tahun lalu Sangat mudah untuk menemukan konten yang lebih asli dan tanpa filter — sebuah kelegaan dari postingan influencer yang terlalu dipoles yang membanjiri feed Instagram saya, meskipun saya juga semakin sering melihat postingan saya di TikTok.

Bahkan sebelum munculnya AI generatif, pembaruan Instagram dari teman dan keluarga sebagian besar telah digantikan oleh konten dari pembuat konten terkenal yang tidak saya ikuti. Hal ini tidak selalu buruk, karena sering kali saya dihadapkan pada hal-hal yang ingin saya lihat lebih lanjut. Fokus pada minat pengguna inilah yang membuat algoritme TikTok sangat kuat (dan membuat ketagihan). Namun hal ini membuat saya semakin merasa terisolasi dari orang-orang yang saya kenal — terutama orang biasa Tampaknya lebih sedikit yang diposting dewasa ini

Faktorkan AI ke dalam persamaan itu, dan kemiripan apa pun akan memudar. Nah, selain bergelut dengan perasaan tidak aman dengan melihat gambar orang sungguhan sedang disentuh, Anda juga bisa tersandung Foto liburan yang sepenuhnya dihasilkan oleh AIatau menemukan salah satunya Efek AI Itu memperkuat nilai keindahan yang tak terjangkau.

“Sebelumnya, kami punya masalah dengan ekspektasi tubuh yang tidak realistis,” kata Mantjarlis. “Dan sekarang kita menghadapi dunia tidak nyata harapan tubuh.”

Semakin sulit bagi orang-orang untuk memisahkan fakta dari fiksi, namun prevalensi kebohongan dan kebohongan terus berlanjut. Waktu terus berjalan untuk menyusun konten di platform gelombang baru ini sebelum konten tersebut menguasai kesadaran kita akan realitas.

Mencegah kerusakan pada AI

Perusahaan media sosial seperti Meta dan TikTok telah berjanji untuk memberi label pada konten yang dibuat oleh AI dan melarang postingan berbahaya seperti peristiwa krisis palsu atau penggunaan kemiripan dengan individu tanpa izin mereka.

Namun karena tidak adanya peraturan pemerintah — yang tertinggal karena faktor-faktor seperti itu Kebuntuan politik Lebih Bagaimana Untuk mengendalikan AI, Lobi dari perusahaan teknologi (Meta Baru-baru ini meluncurkan PAC super (untuk mematuhi undang-undang AI) dan pesatnya perkembangan teknologi — perusahaan harus mempertahankan kebijakan mereka sendiri. Mungkin sulit bagi situs untuk mengakui bahwa mereka menandai segala sesuatu hanya karena banyaknya konten, namun sejauh ini, upaya mereka yang sia-sia tampaknya tidak terlalu menjanjikan.

Kurangnya kendali ini dapat meningkatkan ketidakpercayaan dan perpecahan di dunia maya. suatu bulan Agustus Belajar dengan RaptiveSebuah perusahaan media yang bekerja dengan pembuat konten digital menemukan bahwa ketika orang-orang mencurigai bahwa konten tersebut dibuat oleh AI, mereka secara alami menjauhkan diri dari konten tersebut. Secara khusus, 48% responden menganggap konten tersebut kurang dapat dipercaya, sementara 60% mengatakan mereka merasa kurang memiliki hubungan emosional dengan konten tersebut.

Namun dengan konten buatan influencer yang mendominasi sebagian besar platform sosial saat ini, AI dapat dipasarkan sebagai cara untuk menyederhanakan proses yang biasanya memakan waktu.

“Alat AI memudahkan lebih banyak orang untuk menjadi pencipta,” kata Paul Bannister, kepala strategi di Reptiv. “Ini meningkatkan jejak orang-orang yang bisa menjadi pencipta dengan lebih cepat.”

Mengobrol dengan Bannister membantu mengimbangi hal itu sedikit skeptisisme saya; Dia mengingatkan saya bahwa “seperti halnya teknologi baru, selalu ada manfaat dan keburukannya.” Meskipun ada kecerobohan AI, katanya, masih ada kreativitas manusia di balik konten AI (yang sering kali konyol) yang kita lihat online.

“Akan ada banyak sampah dan hambatan dalam perjalanan dan permasalahan, namun hal ini dapat menciptakan bentuk-bentuk baru yang menakjubkan dalam berbagi informasi dan hiburan,” kata Bannister. “Masih banyak sampah yang mengalir melalui sistem sehingga kita tidak tahu apa hasilnya.”

Ada sisi lain dari kemampuan AI: “Ia akan digunakan untuk memperkuat bias yang sudah ada pada masyarakat, untuk meningkatkan ketegangan,” kata Manzerlis.

Media sosial sudah menjadi ruang gaung bagi penyebaran informasi yang salah yang berbahaya, tertutup, dan cepat. Saya tidak yakin kita siap menghadapi betapa buruknya jika setiap orang memiliki kemampuan untuk dengan mudah menciptakan realitas mereka sendiri dan membagikannya kepada dunia. Keruntuhan masyarakat hanya akan memperlihatkan keretakan yang lebih luas.

Jika ada, saya akan sangat menghargai jika lebih banyak platform mengambil satu halaman dari buku Pinterest dan memberi kami pilihan. Catat seberapa banyak AI yang kita lihat di umpan kami. Namun jika diberi pilihan, saya akan memilihnya ke nol.