Mengapa kebohongan di internet tetap berhasil

Featured Post Image - Mengapa kebohongan di internet tetap berhasil

Sekitar sebulan yang lalu, saya menulis tentang buku viral tentang pengobatan herbal “Hilang” yang, pada saat itu, terjual 60.000 eksemplar di TikTok Shop meskipun tampaknya melanggar beberapa kebijakan aplikasi mengenai misinformasi kesehatan. Penjualan buku tersebut didorong oleh video-video populer dari para influencer kesehatan di aplikasi tersebut, beberapa di antaranya telah ditonton jutaan kali, yang mengklaim secara tidak akurat bahwa buku tahun 2019 yang sebelumnya tidak dikenal itu berisi obat-obatan alami untuk kanker dan penyakit lainnya.

Para influencer, bersama dengan TikTok, menghasilkan uang dari penjualan buku menyesatkan ini. Saya membawa semua ini ke perhatian TikTok. Video yang saya laporkan ke juru bicara perusahaan telah dihapus setelah ditinjau karena melanggar kebijakan TikTok yang melarang misinformasi kesehatan.

Buku tersebut tetap dijual di toko, dan influencer baru mulai berdatangan. Meskipun demikian, saya tidak berhenti melihat promosi TikTok Shop untuk buku ini, Buku Obat Herbal yang Hilang, sejak.

“Inilah alasan mereka mencoba melarang buku ini,” kata salah satu video penjual TikTok Shop sambil menunjuk daftar buku pengobatan kanker herbal. Kemudian, dia mendesak pemirsanya untuk mengeklik tautan ke daftar Toko dan segera membeli karena “mungkin tidak akan ada selamanya karena apa yang ada di dalamnya.”

Video tersebut mendapat lebih dari 2 juta penayangan dalam dua hari. Klik tautan seperti yang diinstruksikan dan Anda akan melihat bahwa penjualan buku tersebut meningkat dua kali lipat sejak artikel saya diterbitkan. Buku Pengobatan Herbal yang Hilang telah terjual lebih dari 125.000 eksemplar melalui platform e-commerce TikTok Shop di TikTok saja. Popularitas buku ini tidak berhenti di situ: pada tanggal 5 Juni, buku ini menjadi buku terlaris No. 6 di Amazon dan telah masuk dalam daftar buku terlaris Amazon selama tujuh minggu dan terus bertambah.

“Penguasa Tak Terlihat” yang menjadi perhatian online

Saya sedang memikirkan tentang pengalaman saya menggali ke dalam Buku Pengobatan Herbal yang Hilang sambil membaca buku yang akan datang Penguasa yang Tak Terlihat, oleh peneliti Stanford Internet Observatory Renee DiResta. Buku ini mengkaji dan mengontekstualisasikan bagaimana informasi buruk dan “realitas yang dibuat khusus” menjadi begitu kuat dan menonjol di dunia maya. Dia menggambarkan bagaimana “benturan pabrik rumor dan mesin propaganda” di media sosial membantu membentuk trinitas influencer, algoritma, dan kerumunan yang bekerja secara simbiosis untuk melambungkan peristiwa semu, Karakter Utama Twitter, dan teori konspirasi yang telah menarik perhatian. dan menghancurkan konsensus dan kepercayaan.

Buku DiResta adalah sebagian sejarah, sebagian analisis, dan sebagian memoar, mulai dari pemeriksaan psikologi rumor dan propaganda pra-internet hingga momen terbesar konspirasi dan pelecehan online dari era media sosial. Pada akhirnya, DiResta menerapkan apa yang dia pelajari selama satu dekade meneliti disinformasi, manipulasi, dan pelecehan online, pada pengalaman pribadinya menjadi sasaran serangkaian tuduhan tak berdasar yang, meskipun kurangnya bukti, mendorong Rep. Jim Jordan , sebagai ketua subkomite DPR untuk Persenjataan Pemerintah Federal, untuk meluncurkan penyelidikan.

Ada naluri yang bisa dimengerti, yang menurut saya dimiliki banyak orang ketika mereka membaca tentang misinformasi atau disinformasi online: Mereka ingin tahu mengapa hal ini terjadi dan siapa yang harus disalahkan, dan mereka ingin jawabannya mudah. Oleh karena itu, argumen yang dijadikan meme tentang “bot Rusia” menyebabkan Trump memenangkan pemilihan presiden pada tahun 2016. Atau, mungkin, mendorong untuk merendahkan platform seseorang yang menjadi viral dengan mengatakan sesuatu yang salah dan merugikan. Atau keyakinan bahwa kita dapat memoderasi konten sebagai jalan keluar dari dampak buruk online.

Buku DiResta menjelaskan mengapa pendekatan ini selalu gagal. Menyalahkan “algoritma” atas tren viral yang berbahaya mungkin terasa memuaskan, namun algoritme tidak akan pernah berhasil tanpa pilihan manusia. Seperti yang ditulis DiResta, “viralitas adalah perilaku kolektif.” Algoritme dapat muncul, menyenggol, dan melibatkan, namun memerlukan data pengguna agar dapat melakukannya secara efektif.

Perumpamaan, kepanikan, dan pencegahan

Menulis tentang rumor viral, teori konspirasi, dan produk terkadang terasa seperti menceritakan perumpamaan: The Buku Pengobatan Herbal yang Hilang menjadi pelajaran tentang kemampuan apa pun untuk menjadi buku terlaris di TikTok Shop, selama influencer yang mendorong produk tersebut cukup ahli dalam hal itu.

Sebagian besar perumpamaan di ruang misinformasi ini tidak memiliki akhir yang rapi atau bahagia. Reporter disinformasi Ali Breland, dalam artikel terakhirnya untuk Mother Jones, menulis tentang bagaimana QAnon menjadi “segalanya.” Untuk melakukan hal tersebut, Breland memulai dengan perumpamaan Wayfair, penjual furnitur murah yang menjadi pusat kepanikan moral terhadap pedofil.

Momen dalam sejarah kepanikan online ini, yang juga banyak ditampilkan dalam buku DiResta, terjadi pada musim panas tahun 2020, setelah banyak influencer dan pusat aktivitas QAnon dilarang dari media sosial arus utama (yang, kebetulan, saya mewawancarai DiResta pada saat itu untuk sebuah bagian yang mempertanyakan apakah tindakan seperti itu terjadi terlambat untuk memberikan efek yang berarti pada pengaruh QAnon).

Inilah yang terjadi: Seseorang di internet memperhatikan bahwa Wayfair menjual lemari mahal. Lemari itu memiliki nama feminin. Orang tersebut menggambar beberapa titik mental dan menghubungkannya: tentu saja, daftar ini harus menjadi bukti kode dari jaringan perdagangan anak. Ide ini muncul di ruang QAnon dan dengan cepat menyebar ke luar kawasan paranoia. Ide yang liar dan terbantahkan ini menggunakan hashtag asli yang digunakan untuk meningkatkan kesadaran tentang perdagangan manusia yang sebenarnya, yang mengganggu penyelidikan sebenarnya.

Breland, dalam bukunya Mother Jones sepotong, melacak bagaimana prinsip utama teori konspirasi QAnon melampaui para penganutnya dan bertahan di sana. Sekarang, “[W]Kita berada di era ketakutan yang obsesif, aneh, dan meluas terhadap pedofilia—era di mana pemikiran paranoid QAnon tidak lagi terikat pada batasan politik para poster dan boomer paruh baya yang tersesat di dunia cyber,” tulisnya.

Kepanikan moral Wayfair tidak menjadi tren hanya karena algoritma yang buruk; itu adalah bukti bahwa perhatian yang diperoleh QAnon sebelumnya telah berhasil. Larang hashtag dan influencernya, namun kelompoknya tetap ada, dan kami, sampai taraf tertentu, termasuk di dalamnya.

Itu Buku Pengobatan Herbal yang Hilang menjadi buku terlaris dengan mengalir melalui beberapa alur yang sudah usang. Influencer yang mempromosikannya tahu apa yang bisa dan tidak bisa mereka katakan dari sudut pandang moderasi, dan ketika mereka yang melanggar aturan disingkirkan, influencer baru akan mengambil tindakan untuk mendapatkan komisi tersebut. Artikel saya, dan upaya saya untuk membawa tren ini ke perhatian TikTok, tidak benar-benar memperlambat permintaan akan buku yang tidak akurat ini. Jadi, apa yang berhasil?

Ide DiResta untuk hal ini menggemakan percakapan yang telah terjadi di kalangan pakar misinformasi selama beberapa waktu. Ada beberapa hal yang benar-benar harus dilakukan oleh platform dari sudut pandang moderasi, seperti menghapus topik trending otomatis, menimbulkan hambatan dalam interaksi dengan beberapa konten online, dan secara umum memberi pengguna kontrol lebih besar atas apa yang mereka lihat di feed dan komunitas mereka. DiResta juga mencatat pentingnya pendidikan dan prebunking, yang merupakan versi yang lebih preventif dalam menangani informasi palsu yang berfokus pada taktik dan kiasan manipulasi online. Juga, transparansi.

Apakah orang-orang akan lebih percaya bahwa tidak ada konspirasi besar-besaran untuk menyensor kelompok konservatif di media sosial jika ada database publik mengenai tindakan moderasi dari platform? Apakah orang akan kurang antusias untuk membeli buku pengobatan alami yang meragukan jika mereka mengetahui lebih banyak tentang komisi yang diperoleh dari influencer yang mempromosikannya? Aku tidak tahu. Mungkin!

Namun saya mengetahui hal ini: Setelah satu dekade meliput budaya online dan manipulasi informasi, saya rasa saya belum pernah melihat keadaan seburuk sekarang. Setidaknya ada baiknya mencoba sesuatu.

Leave a Reply

Your email address will not be published. Required fields are marked *