Gambar itu menampilkan dua anak Asia Selatan yang kurus kering dan miskin. Entah mengapa, meskipun berwajah seperti anak laki-laki, mereka memiliki janggut yang lebat. Salah satu dari mereka tidak memiliki tangan dan hanya memiliki satu kaki. Yang lainnya memegang papan bertuliskan hari ulang tahunnya dan meminta “like”.

Entah kenapa mereka duduk di tengah jalan yang ramai di tengah hujan deras sambil memegang kue ulang tahun. Gambar tersebut penuh dengan tanda-tanda yang menunjukkan bahwa itu dibuat dengan AI. Namun di Facebook, gambar itu menjadi viral dengan hampir satu juta suka dan emoji hati.

Sesuatu telah hancur dalam diri Théodore.

“Hal itu membuat saya tercengang. Gambar-gambar absurd buatan AI itu tersebar di Facebook dan mendapatkan perhatian yang sangat besar tanpa pengawasan sama sekali – itu sungguh gila bagi saya,” kata mahasiswa berusia 20 tahun dari Paris itu.

Jadi, Théodore membuat akun di X, yang sebelumnya dikenal sebagai Twitter, bernama “Insane AI Slop” dan mulai mengkritik serta mengolok-olok konten yang ia temui yang berhasil menipu orang. Orang lain pun memperhatikan dan kotak masuknya segera dibanjiri oleh orang-orang yang mengirimkan kiriman untuk konten AI populer yang disebut “sampah AI”.

Tema-tema umum mulai terlihat jelas – agama, militer, atau anak-anak miskin yang melakukan hal-hal yang mengharukan.

“Anak-anak di negara berkembang yang melakukan hal-hal mengesankan selalu populer – seperti anak miskin di Afrika yang membuat patung luar biasa dari sampah. Saya pikir orang-orang menganggapnya mengharukan sehingga para pembuatnya berpikir, ‘Bagus, mari kita buat lebih banyak hal seperti ini,'” kata Théodore.

Akun Théodore segera berkembang hingga memiliki lebih dari 133.000 pengikut.

Serbuan konten buatan AI yang tidak bermutu—yang ia definisikan sebagai video dan gambar palsu dan tidak meyakinkan, yang dibuat dengan cepat—kini tak terbendung. Perusahaan teknologi telah merangkul AI. Beberapa perusahaan mengatakan mereka mulai menindak beberapa bentuk ‘konten buatan AI yang tidak bermutu’—meskipun banyak unggahan media sosial masih tampak penuh dengan konten tersebut.

Hanya dalam beberapa tahun terakhir, pengalaman menggunakan media sosial telah berubah secara mendalam. Bagaimana hal itu terjadi, dan apa dampaknya bagi masyarakat?

Dan, mungkin yang paling mendesak dari semuanya, seberapa besar sebenarnya kepedulian miliaran pengguna media sosial?

‘Fase ketiga’ media sosial

Pada bulan Oktober, selama konferensi pendapatan yang penuh kegembiraan lainnya, CEO Meta, Mark Zuckerberg dengan gembira menyatakan bahwa media sosial telah memasuki fase ketiga, yang kini berpusat pada AI.

“Awalnya, semua konten berasal dari teman, keluarga, dan akun yang Anda ikuti secara langsung.”

“Yang kedua adalah ketika kami menambahkan semua konten dari para kreator. Sekarang, karena AI mempermudah pembuatan dan penggabungan ulang konten, kami akan menambahkan lagi kumpulan konten yang sangat besar,” katanya kepada para pemegang saham.

Meta, yang mengelola situs media sosial Facebook, Instagram, dan Threads, tidak hanya memungkinkan orang untuk memposting konten yang dihasilkan AI, tetapi juga meluncurkan produk untuk memungkinkan lebih banyak konten semacam itu dibuat. Generator gambar dan video serta filter yang semakin canggih kini ditawarkan secara menyeluruh.

Ketika dimintai komentar, Meta mengarahkan BBC ke laporan keuangan bulan Januari. Dalam laporan tersebut, miliarder itu mengatakan perusahaannya semakin fokus pada AI, dan tidak menyebutkan adanya tindakan tegas terhadap praktik yang tidak bertanggung jawab.

“Sebentar lagi kita akan melihat ledakan format media baru yang lebih imersif dan interaktif, dan itu hanya mungkin karena kemajuan dalam AI,” kata Zuckerberg.

CEO YouTube, Neal Mohan, menulis dalam blog prediksinya untuk tahun 2026 bahwa pada bulan Desember saja lebih dari satu juta saluran YouTube menggunakan alat AI platform tersebut untuk membuat konten.

“Sama seperti synthesizer, Photoshop, dan CGI yang merevolusi suara dan visual, AI akan menjadi anugerah bagi para kreator yang siap memanfaatkannya,” tulisnya.

CEO tersebut juga mengakui bahwa ada kekhawatiran yang semakin meningkat tentang “konten berkualitas rendah, atau yang dikenal sebagai ‘sampah AI'”. Dia mengatakan timnya sedang berupaya untuk meningkatkan sistem guna menemukan dan menghapus “konten berulang dan berkualitas rendah”.

Namun, ia juga menolak untuk memberikan penilaian tentang apa yang boleh dan tidak boleh berkembang. Ia menunjukkan bahwa konten yang dulunya khusus seperti ASMR (suara menenangkan yang dirancang untuk membuat kulit kepala Anda merinding) dan permainan video langsung kini telah menjadi arus utama.

Menurut riset dari perusahaan AI Kapwing, 20% konten yang ditampilkan ke akun YouTube yang baru dibuka sekarang adalah “video AI berkualitas rendah”.

Video berdurasi pendek khususnya menjadi sorotan, dengan Kapwing menemukan bahwa video tersebut muncul dalam 104 dari 500 klip YouTube Shorts pertama yang ditunjukkan kepada akun baru yang dibuat oleh para peneliti.

Ekonomi kreator tampaknya menjadi pendorong utama karena individu dan saluran dapat menghasilkan uang dari interaksi dan jumlah penayangan. Dilihat dari jumlah penayangan pada beberapa saluran dan video AI, orang memang tertarik pada konten tersebut – atau setidaknya pada algoritma yang menentukan apa yang kita lihat.

Menurut Kapwing, saluran konten AI dengan jumlah penonton terbanyak adalah Bandar Apna Dost dari India, yang memiliki 2,07 miliar penayangan, menghasilkan pendapatan tahunan sekitar $4 juta (£2,9 juta) bagi para kreatornya.

Namun, ada juga semacam reaksi balik yang terjadi.

Di bawah banyak video AI yang viral, kini sudah umum melihat gelombang komentar yang mengecam konten tersebut.

Monster raksasa dan parasit perut yang mematikan

Théodore, mahasiswa dari Paris, turut memicu reaksi negatif ini.

Dengan menggunakan pengaruh barunya pada X, ia mengeluh kepada moderator YouTube tentang banyaknya kartun AI aneh yang mendapatkan jumlah penonton yang sangat besar. Menurutnya, kartun-kartun itu mengganggu dan berbahaya, dan dalam beberapa kasus tampak ditujukan untuk anak-anak.

Video-video itu diberi judul seperti “Induk kucing menyelamatkan anak kucing dari parasit perut yang mematikan”, dan menampilkan adegan-adegan yang mengerikan.

Cuplikan pendek lainnya menunjukkan seorang wanita berbaju tidur yang memakan parasit dan kemudian berubah menjadi monster raksasa yang marah, yang akhirnya disembuhkan oleh Yesus.

YouTube menghapus saluran-saluran tersebut, dengan alasan mereka melanggar pedoman komunitas mereka. Mereka mengatakan bahwa mereka “berfokus pada menghubungkan pengguna kami dengan konten berkualitas tinggi, terlepas dari bagaimana konten itu dibuat”, dan mengatakan bahwa mereka sedang berupaya untuk “mengurangi penyebaran konten AI berkualitas rendah”.

Namun pengalaman itu, ditambah banyak pengalaman serupa lainnya, telah membuat Théodore putus asa.

Bahkan situs gaya hidup yang tampaknya nyaman seperti Pinterest – forum untuk resep dan ide desain interior – pun ikut terpengaruh.

Para pengguna menjadi sangat frustrasi dengan banyaknya konten buatan AI yang tidak bermutu sehingga perusahaan memperkenalkan sistem penolakan baru untuk konten yang dihasilkan AI – tetapi ini bergantung pada pengakuan pengguna bahwa gambar rumah sempurna mereka dibuat oleh AI.