Jigsaw Membeli Kampanye Troll Twitter Rusia sebagai Eksperimen


Untuk lebih dari dua tahun, gagasan kampanye disinformasi media sosial telah menyulap gambar Badan Penelitian Internet Rusia, seluruh perusahaan yang bertempat di beberapa lantai gedung perusahaan di St. Petersburg, meramu propaganda atas penawaran Kremlin. Tetapi kampanye troll yang ditargetkan hari ini dapat menjadi jauh lebih murah — sekurangnya $ 250, kata Andrew Gully, seorang manajer riset di anak perusahaan Alphabet, Jigsaw. Dia tahu karena itulah harga yang dibayarkan Jigsaw untuk satu tahun lalu.

Sebagai bagian dari penelitian terhadap disinformasi yang disponsori negara yang dilakukan pada musim semi 2018, Jigsaw memulai untuk menguji seberapa mudah dan murah kampanye disinformasi media sosial, atau "operasi pengaruh," dapat dibeli di sudut-sudut yang lebih rawan dari Rusia- berbicara web. Pada bulan Maret 2018, setelah bernegosiasi dengan beberapa vendor disinformasi bawah tanah, analis Jigsaw bertindak lebih jauh dengan menyewa seseorang untuk melakukan operasi disinformasi yang sebenarnya, menugaskan layanan troll berbayar untuk menyerang situs web aktivisme politik yang Jigsaw sendiri ciptakan sebagai target.

Dalam melakukannya, Jigsaw menunjukkan betapa rendahnya penghalang untuk masuk ke informasi yang terorganisir dan online telah menjadi. Mudah dijangkau tidak hanya pemerintah tetapi juga individu. Namun, para kritikus mengatakan bahwa perusahaan mengambil penelitian trolling terlalu jauh, dan lebih jauh mencemari wacana politik media sosial dalam proses tersebut.

"Katakanlah saya ingin melakukan kampanye disinformasi untuk menyerang lawan politik atau perusahaan, tetapi saya tidak memiliki infrastruktur untuk membuat Badan Penelitian Internet saya sendiri," kata Gully kepada WIRED dalam sebuah wawancara, berbicara secara terbuka tentang Jigsaw yang berusia setahun. Percobaan disinformasi untuk pertama kalinya. "Kami ingin melihat apakah kami dapat terlibat dengan seseorang yang bersedia memberikan bantuan semacam ini kepada aktor politik … untuk membeli layanan yang secara langsung mendiskreditkan lawan politik mereka dengan biaya yang sangat rendah dan tanpa peralatan atau sumber daya yang diperlukan. Bagi kami , itu adalah demonstrasi yang cukup jelas kemampuan ini ada, dan ada aktor yang nyaman melakukan ini di internet. "

Troll Di Balik Meja

Pada awal 2018, Jigsaw menyewa sebuah perusahaan keamanan untuk mengendus-endus forum pasar gelap dan pasar abu-abu berbahasa Rusia untuk layanan disinformasi-untuk-merekrut. (Perusahaan itu meminta WIRED untuk tidak menyebutkannya, untuk melestarikan kemampuannya bekerja di forum bawah tanah.) Menjelajah situs-situs seperti Exploit, Club2Crd, WWH, dan Zloy, peneliti perusahaan keamanan mengatakan mereka tidak menemukan tawaran eksplisit kampanye trolling atau disinformasi untuk dijual, tetapi banyak skema terkait seperti pengikut palsu, retweet berbayar, dan optimisasi mesin pencari topi hitam. Namun, tim menebak bahwa lebih banyak yang ditunggu di bawah permukaan.

"Jika kita melihat ini sebagai window shopping, kami berhipotesis bahwa jika seseorang menjual suka palsu di jendela, mungkin ada sesuatu yang lain di belakang meja yang mungkin bersedia mereka lakukan," kata Gully. Ketika peneliti untuk perusahaan keamanan yang disewa Jigsaw mulai mengobrol secara sembunyi-sembunyi dengan vendor itu, mereka menemukan bahwa beberapa memang menawarkan media sosial berskala besar yang memposting subjek-subjek politik sebagai layanan yang tidak terdaftar.

"Itu … adalah hal yang sangat kontroversial dan berisiko untuk dilakukan."

Thomas Rid, Universitas Johns Hopkins

Sebelum membeli salah satu kampanye trolling berbayar itu, Jigsaw menyadari bahwa itu pertama-tama membutuhkan target. Jadi bersama dengan perusahaan keamanan yang disewanya, Jigsaw membuat sebuah situs web — diunggulkan dengan posting blog dan komentar yang mereka tulis untuk membuatnya tampak lebih nyata — untuk sebuah prakarsa politik yang disebut "Down With Stalin." Sementara pertanyaan tentang citra Stalin terdengar seperti debat yang sudah berlangsung beberapa dasawarsa, pertanyaan itu berkaitan dengan argumen yang sedang berlangsung di Rusia tentang apakah Stalin harus diingat sebagai pahlawan atau penjahat. (Sebagian karena upaya rehabilitasi Kremlin, jajak pendapat menunjukkan sentimen positif terhadap Stalin adalah yang tertinggi dalam beberapa tahun terakhir.)

"Idenya adalah untuk menciptakan badai besar," kata salah satu staf perusahaan keamanan yang bekerja pada proyek tersebut, menjelaskan keputusan untuk fokus pada tokoh sejarah. "Kami ingin sangat berhati-hati, karena kami tidak ingin terlalu banyak terikat dengan masalah kehidupan nyata. Kami tidak ingin dilihat sebagai campur tangan."

Untuk menyerang situs yang telah dibuatnya, Jigsaw memilih layanan yang disebut SEOTweet, pengikut palsu dan penjual retweet yang juga menawarkan para peneliti kampanye disinformasi dua minggu dengan harga murah $ 250. Jigsaw, menyamar sebagai lawan politik situs "Down with Stalin", menyetujui harga itu dan menugaskan SEOTweet untuk menyerang situs tersebut. Faktanya, SEOTweet pertama kali menawarkan untuk menghapus situs tersebut dari web, sama sekali keluhan palsu bahwa situs tersebut meng-host konten kasar, yang seolah-olah akan dikirim ke host web situs tersebut. Biaya: $ 500. Jigsaw menolak tawaran yang lebih agresif itu, tetapi hijau menyalakan perusahaan keamanan pihak ketiga untuk membayar SEOTweet $ 250 untuk melakukan kampanye media sosialnya, tidak memberikan instruksi lebih lanjut.

Situs web "Down With Stalin" Jigsaw dibuat sebagai target kampanye disinformasi.

Gergaji ukir

Jatuh Dengan Stalin, Naik Dengan Putin

Dua minggu kemudian, SEOTweet melaporkan kembali ke Jigsaw bahwa mereka telah memposting 730 tweet berbahasa Rusia yang menyerang situs anti-Stalin dari 25 akun Twitter yang berbeda, serta 100 posting ke forum dan bagian komentar blog dari situs yang tampaknya acak, dari situs berita regional untuk forum otomotif dan seni-dan-kerajinan. Jigsaw mengatakan sejumlah besar tweet dan komentar tersebut tampaknya merupakan tulisan asli yang ditulis oleh manusia, bukan bot copy-paste sederhana. "Ini bukan jumlah yang besar, dan itu disengaja," kata Jigsaw's Gully. "Kami tidak berusaha membuat kampanye disinformasi di seluruh dunia tentang hal ini. Kami hanya ingin melihat apakah aktor ancaman dapat memberikan bukti konsep."

Tanpa bimbingan dari Jigsaw, SEOTweet berasumsi bahwa pertarungan terhadap situs web anti-Stalin sebenarnya tentang politik Rusia kontemporer, dan pemilihan presiden negara yang akan datang. "Anda sama sekali tidak mengerti semua yang dilakukan presiden untuk negara kita sehingga orang bisa hidup lebih baik, dan Anda para analis kursi tidak bisa berbuat apa-apa," baca satu tweet berbahasa Rusia (di bawah) yang diposting oleh pengguna palsu bernama @ sanya2un1995 , termasuk foto Stalin dalam jabatannya tetapi jelas merujuk pada presiden Rusia Vladimir Putin. Akun palsu lain menulis sebuah posting di sebuah forum yang menuduh situs anti-Stalin "menulis semua jenis hal-hal buruk tentang presiden kita, konon dia membuat semua orang berlutut dan berusaha membawa kembali USSR, tetapi secara pribadi saya pikir itu tidak seberapa itu adalah, dia melakukan segalanya untuk kita, untuk orang biasa. "

Anehnya, baik Jigsaw maupun perusahaan keamanan yang disewa untuk percobaan tersebut mengatakan mereka tidak dapat memberi WIRED lebih dari beberapa sampel pos kampanye, karena kurangnya catatan percobaan dari tahun lalu. 25 akun Twitter yang digunakan dalam kampanye telah ditangguhkan oleh Twitter.

WIRED mencoba menjangkau SEOTweet melalui situs webnya, seo-tweet.ru, yang saat ini mengiklankan layanan dari pengusaha pemasaran dan cryptocurrency yang bernama Markus Hohner. Tapi Hohner tidak menanggapi permintaan komentar.

Sebuah contoh tweet yang diposting oleh kampanye disinformasi-untuk-merekrut layanan SEOTweet. Meskipun menunjukkan gambar Stalin, itu jelas menyatakan dukungan untuk presiden Rusia saat ini Vladimir Putin.

Gergaji ukir

Blowback

Bahkan ketika Jigsaw memaparkan potensi kampanye trolling yang murah dan mudah diakses, percobaannya juga telah mengumpulkan kritik terhadap Jigsaw sendiri. Perusahaan, bagaimanapun, tidak hanya membayar layanan teduh untuk serangkaian posting yang selanjutnya mencemari wacana politik online. Ia melakukannya dengan pesan-pesan yang mendukung salah satu diktator genosida terburuk abad ke-20, belum lagi pos-pos yang tidak diminta untuk mendukung Vladimir Putin.

"Membeli dan terlibat dalam operasi disinformasi di Rusia, bahkan jika itu sangat kecil, yang pada awalnya adalah hal yang sangat kontroversial dan berisiko untuk dilakukan," kata ilmuwan politik Universitas Johns Hopkins Thomas Rid, penulis buku yang akan datang mengenai disinformasi. berjudul Tindakan aktif.

Yang lebih buruk lagi adalah potensi bagaimana media Rusia dan Rusia dapat merasakan — atau memutar — percobaan, kata Rid. Subjek sangat penuh diberikan ikatan Jigsaw ke Alphabet dan Google. "Risiko terbesar adalah bahwa eksperimen ini dapat dipintal sebagai 'campur tangan Google dalam budaya dan politik Rusia.' Ini sangat cocok dengan klise anti-Amerika, "kata Rid. "Tidakkah mereka melihat mereka memanfaatkan narasi itu?"

Tapi chief operating officer Jigsaw Dan Keyserling mendukung penelitian ini, menunjukkan bahwa konten aktual yang dihasilkannya menunjukkan penurunan yang tidak signifikan dalam keranjang media sosial. "Kami mengambil setiap tindakan pencegahan untuk memastikan bahwa metode penelitian kami meminimalkan risiko," kata Keyserling. "Dalam hal ini, kami menimbang dampak yang relatif kecil dari membuat situs web palsu dan meminta kampanye skala kecil semacam ini terhadap kebutuhan untuk mengekspos dunia tentara bayaran digital."

Sampai sejauh mana eksperimen Jigsaw benar-benar mengungkap praktik itu, patut mendapat perhatian, kata Alina Polyakova, seorang peneliti yang berfokus pada informasi di Brookings Institution. Dia mendukung gagasan penelitian dalam teori, tetapi mencatat bahwa Jigsaw tidak pernah mempublikasikan hasilnya — dan masih belum, sampai sekarang.

“Saya tidak berpikir pembuat kebijakan atau warga negara biasa Anda mengetahui betapa berbahayanya hal ini, sehingga biaya masuknya sangat rendah," kata Polyakov. "Sebagai percobaan, saya tidak berpikir ini masalah. Apa yang saya pikir adalah masalah sebenarnya tidak mempublikasikannya. ”Staf Jigsaw mengakui bahwa mereka tidak mempublikasikan hasil mereka, atau bahkan mempublikasikan eksperimen sampai sekarang — sebagian, kata mereka, untuk menghindari mengungkapkan apa pun tentang metodologi penelitian mereka yang akan menghambat kerja berkelanjutan perusahaan keamanan mitra mereka di pasar bawah tanah berbahasa Rusia. Tetapi Jigsaw mengatakan mereka menggunakan hasil percobaan untuk menginformasikan pekerjaannya dalam mendeteksi kampanye disinformasi, serta dalam pertemuan puncak yang diadakan di Ukraina tentang disinformasi pada akhir 2018, menjelang pemilihan presiden Ukraina.

Jigsaw tidak akan menjadi yang pertama ke pengadilan kontroversi karena menggoda dengan seni hitam disinformasi. Tahun lalu, konsultan Pengetahuan Baru mengakui bahwa mereka telah bereksperimen dengan disinformasi yang ditargetkan pada pemilih konservatif menjelang pemilihan khusus Alabama untuk mengisi kursi Senat terbuka. Akhirnya, miliarder internet Reid Hoffman meminta maaf karena mendanai kelompok yang telah mempekerjakan Pengetahuan Baru dan mensponsori uji operasi pengaruhnya.

Studi kasus Jigsaw setidaknya telah membuktikan satu poin: Kekuatan pembakar dari kampanye disinformasi sekarang dapat diakses oleh siapa saja dengan cadangan beberapa ratus dolar, dari pemerintah ke perusahaan teknologi hingga individu acak dengan dendam. Itu berarti Anda dapat mengharapkan kampanye-kampanye itu bertambah jumlahnya, bersama dengan dampak beracun bagi para korban yang dituju — dan dalam beberapa kasus, bagi para aktor yang tertangkap melakukannya juga.


Lebih Banyak Kisah KABEL

Diperbarui 6/12/2019 12:25 EST untuk mengoreksi judul Dan Keyserling dan untuk mengklarifikasi bahwa Jigsaw menyetujui peneliti perusahaan keamanan yang disewa untuk melakukan pembayaran ke SEOTweet, daripada Jigsaw sendiri yang secara langsung melakukan pembayaran.