Bagaimana AI Menghidupkan Kembali Stereotip Rasis dan Disinformasi - Dan Mengapa Pemeriksaan Fakta Tidak Cukup

(MENAFN- The Conversation) Dalam ukuran apa pun, tahun 2025 adalah tahun di mana kecerdasan buatan (AI) dengan cepat mengubah cara kita bekerja, berinteraksi satu sama lain, dan berinteraksi dengan dunia secara umum. Ini juga telah membuktikan kenyataan yang tak terbantahkan tentang keberlanjutan rasisme dan batasan pengecekan fakta di era disinformasi.

Berkat sistem algoritmik, narasi yang menyentuh ketakutan dan kecemasan mendalam menyebar lebih jauh dan lebih cepat dari sebelumnya. Mereka beredar ke seluruh dunia sebelum pengecek fakta dapat menandai sebuah posting yang bermasalah.

Pada paruh kedua tahun ini, muncul gangguan teknologi lain dengan Sora dari OpenAI, sebuah perangkat lunak pembuatan video yang tampak nyata. Sepertinya, tidak ada yang kebal, termasuk politik.

Sora menyerang lanskap politik dengan kekuatan tertentu selama penutupan pemerintah federal terpanjang dalam sejarah Amerika Serikat. Kebuntuan selama 43 hari ini menimbulkan tekanan besar dan kontroversi publik, terutama terkait ketidakpastian dan penundaan yang dapat mempengaruhi Program Bantuan Nutrisi Tambahan (SNAP).

Blackface digital dan pengawasan kemiskinan kulit hitam

Pada puncak kekhawatiran tentang dampak penutupan terhadap manfaat SNAP, yang melayani sekitar 42 juta orang Amerika, sejumlah video pendek wanita kulit hitam yang mengancam petugas layanan sosial atau melampiaskan frustrasi mereka kepada penonton siaran langsung menarik perhatian dunia maya.

Suspensi SNAP akhirnya diblokir oleh pengadilan. Juga dengan cepat terungkap bahwa klip yang beredar tersebut dibuat dengan AI.

Yang paling mencolok dari video-video ini adalah bagaimana secara sengaja karikatur “ratu kesejahteraan kulit hitam” dipentaskan. Dalam satu video, pembicara menyatakan, “Saya butuh SNAP untuk membeli iPhone.” Dalam video lain, “Saya hanya makan steak, saya butuh dana saya.” Dan dalam sebuah klip dengan anak-anak di latar belakang, wanita itu bersikeras, “Saya harus melakukan perawatan kuku.”

Setiap ekspresi penggunaan dana secara ilegal ini adalah singkatan dari tuduhan ketidakbertanggungjawaban dan kegagalan moral yang telah lama terkait dengan stereotip rasis “ratu kesejahteraan kulit hitam.” Seorang pengguna X dengan tepat menyebut video-video ini sebagai “blackface digital.”

Dalam kata-kata penulis feminis kulit hitam Moya Bailey dan Trudy, video-video ini memperdagangkan “misogynoir” — istilah yang dikembangkan untuk menangkap “cara-cara anti-Kulit Hitam dan misogyny bergabung untuk mencemarkan wanita kulit hitam.” Bailey dan Trudy mencatat bahwa representasi wanita kulit hitam sebagai tidak layak, membebani keuangan publik, dan secara inheren penipuan sudah tertanam dan bukan pengecualian.

Bahkan klip “yang jelas diberi watermark Sora yang diambil dari TikTok saja mendapatkan hampir 500.000 tampilan,” kata jurnalis Joe Wilkins. Wilkins melanjutkan menjelaskan bahwa bahkan ketika penonton diberitahu bahwa klip tersebut dibuat dengan AI, beberapa tetap bersikeras, [“Tapi itulah yang sebenarnya terjadi.” Beberapa berpendapat bahwa meskipun video tersebut secara teknis “palsu,” mereka tetap “menyoroti masalah SNAP yang nyata…”].

Komentar-komentar ini menunjukkan batasan pengecekan fakta sebagai obat terhadap disinformasi, terutama ketika berhadapan dengan stereotip yang penuh muatan. Setelah sebuah kerangka berbahaya dihidupkan kembali dan dipaksakan ke dalam ruang kolektif, Ctrl+Alt+Delete menjadi tidak efektif.

Apa yang perlu diperhatikan, maka, bukan hanya bagaimana kita menghadapi medan baru disinformasi yang didorong AI, tetapi juga mengapa representasi tertentu memiliki resonansi massal.

Mengapa gambar dan narasi tertentu menyebar begitu baik?

Dari kasus penipuan yang sudah diselesaikan hingga tontonan viral

Kasus lain dari blackface digital yang menarik perhatian publik berpusat pada saga “Peringatan Penipuan Kulit Hitam” Somali Minnesota. Meskipun masih berakar pada anti-Kulit Hitam yang sama yang memotivasi karikatur “ratu kesejahteraan kulit hitam,” insiden ini juga melibatkan Islamophobia dan meningkatnya sentimen anti-imigran.

Kasus ini bermula dari skema malpraktik era COVID tahun 2022, yang sudah menyebabkan penangkapan dan hukuman. Skema ini dipimpin oleh Aimee Marie Bock, seorang wanita kulit putih, dan melibatkan jaringan orang Minnesota, banyak di antaranya keturunan Somali.

Pada Desember 2025, Presiden AS Donald Trump menghidupkan kembali kasus yang sudah diselesaikan ini, memanfaatkannya dan mengaitkannya dengan kebenciannya yang lama terhadap “negara-negara dunia ketiga” dan orang dari “negara tempat sampah.” Retorika ini juga masuk ke dalam kebenciannya terhadap lawan politik, Gubernur Minnesota Tim Walz dan anggota Kongres Ilhan Omar.

Apa yang terjadi selanjutnya bukanlah diskusi serius tentang penipuan atau perlindungan kebijakan. Sebaliknya, episode ini menghidupkan kembali debat tentang nasionalisme kulit putih, kewarganegaraan yang dikriminalisasi, dan eugenika rasial.

Seruan Trump untuk mengusir Somali melalui ICE, dengan menyatakan, “Saya tidak ingin mereka di negara kita,” membuat logika ini menjadi jelas. Kebanyakan Somali Minnesota yang memegang kewarganegaraan AS, sesuai dengan tingkat kewarganegaraan 84 persen, tidak banyak mengganggu cerita rasis yang beredar.

Tak lama setelah komentar presiden, AI memperkuat konten tersebut. Sebuah video yang dibuat dengan AI beredar luas, menghidupkan stereotip “perompak Somali.” Video ini menggambarkan pria kulit hitam, diduga Somali, sebagai migran yang berencana mencuri dari pembayar pajak. Di dalamnya terdengar: “Kita tidak perlu lagi perompak. Saya menemukan cara yang lebih baik. Daycare yang didanai pemerintah. Kita harus ke Minnesota.”

Referensi ini terhadap perawatan anak kembali mengingatkan pada video viral yang dibuat oleh komentator sayap kanan yang mengklaim mengungkap bab lain dari “skandal penipuan Somali,” kali ini menargetkan pusat penitipan anak yang dikelola Somali. Video ini memicu penyelidikan di seluruh negara bagian, yang akhirnya menemukan bahwa semua pusat yang disebutkan kecuali satu beroperasi normal, tanpa bukti penipuan yang jelas.

Stereotip “ratu kesejahteraan kulit hitam” dan kerangka “perompak Somali” mungkin tampak menyebutkan krisis dan subjek yang berbeda, tetapi keduanya berasal dari tata bahasa rasial anti-Kulit Hitam yang sama. Dalam setiap kasus, kulit hitam dipandang sebagai penipuan, kriminal, dan secara moral cacat, dipandang sebagai kegagalan pribadi dan beban nasional.

Mengapa ide-ide ini menyebar bahkan ketika mereka palsu

Contoh blackface digital ini berhasil karena misogynoir dan anti-Kulit Hitam tetap menjadi sumber diskursus yang mudah diakses. AI hanya mempercepat pergerakannya. Penolakan penonton untuk melakukan koreksi saat pengecekan fakta menegaskan bahwa skrip rasis dan xenofobia yang sudah ter-assemble secara intuitif dan otomatis sudah ada.

Dalam kedua video bertema SNAP yang misogynoir dan konten “perompak Somali” yang dibuat AI, nuansa dan keakuratan faktual bukanlah hal yang penting. Yang berperan adalah sebuah proyek politik yang lebih luas terkait logika eugenik kapitalisme rasial.

Seperti yang dikatakan oleh cendekiawan radikal kulit hitam Cedric Robinson, rasisme bukanlah kebetulan dari kapitalisme, melainkan dasar dari ketidaksetaraan yang dibutuhkannya. Kemiskinan disalahartikan sebagai bukti kegagalan pribadi dan komunitas, bukan hasil dari ketidakadilan struktural besar. Dan ketika dikaitkan dengan orang miskin yang rasial, terutama yang kulit hitam, Muslim, dan imigran, logika ini menjadi “akal sehat” yang umum diterima.

Apa yang dipertaruhkan dengan blackface digital berbasis AI ini bukan hanya amplifikasi rasisme, tetapi juga arsitektur kehidupan politik. Dalam iklim ini, analisis yang tenang dan nuansa menjadi surut, tergantikan oleh kecemasan yang membius yang membentuk diskursus publik kontemporer.