Bluesky’s growing pains

Sensor pemerintah, akun penipuan, peniruan identitas selebriti, propaganda, dan pemberontakan pengguna terhadap jurnalis yang dituduh menjelek-jelekkan kaum trans – ini hanyalah beberapa rintangan yang dihadapi oleh platform media sosial Bluesky yang baru lahir. Namun hal ini juga merupakan tanda-tanda pertumbuhan pesat sejak pemilu.

Karena Bluesky menarik lebih banyak aktivitas, terutama dari aktivitas tersebut melarikan diri dari X milik Elon Musknegara ini harus menghadapi konsekuensi dari kesuksesannya: keputusan-keputusan yang sulit dan moderat serta semakin banyaknya pelaku kejahatan.

Hampir 25 juta orang telah mendaftar ke platform ini, menurut situs metrik ClearSky. Meskipun jumlah tersebut masih jauh dari basis pengguna X, kontroversi dan tantangan Bluesky mendapatkan perhatian umum — sebuah tanda meningkatnya relevansi budaya.

Minggu lalu, platform ini menghadapi kontroversi paling signifikan: reaksi pengguna terhadap jurnalis dan tokoh media Jesse Singal yang bergabung dengan platform tersebut. Singal, yang telah melaporkan orang-orang yang membalikkan transisi gender mereka dan topik-topik lain yang berkaitan dengan kaum trans, membawakan podcast yang mengkritik anggapan bias sayap kiri di media. Organisasi nirlaba LGBTQ SENANG memasukkan Singal dalam Proyek Akuntabilitasnya yang mendokumentasikan “retorika anti-LGBTQ dan tindakan diskriminatif” yang dilakukan oleh tokoh masyarakat.

Kehadiran Singal di Bluesky, yang dianggap sebagai pusat bagi pengguna media sosial trans, memicu a permohonan ditandatangani oleh lebih dari 25.000 orang yang menyerukan penghapusannya berdasarkan kebijakan moderasi platform. Singal sekarang menjadi orang yang paling banyak diblokir di Bluesky. Bluesky tidak membahas Singal secara eksplisit dalam tanggapannya terhadap petisi tersebut, namun diposting bahwa itu tidak menghapus akun berdasarkan aktivitas di luar platform. Bluesky tidak menanggapi pertanyaan NBC News tentang kontroversi seputar Singal, siapa telah melaporkan menerima ancaman pembunuhan, menurutnya platform tersebut belum ditangani secara memadai.

Meskipun keributan meluas ke platform media sosial lain seperti X dan menarik perhatian arus utama tokoh seperti Lizzosebagian besar pengguna Bluesky tampaknya tetap menggunakan platform ini.

Di luar titik nyala budaya, Bluesky juga bergulat dengan serangkaian masalah moderasi yang harus dibayar dengan popularitas.

Dalam satu periode 24 jam di bulan November ini, perusahaan mengumumkan telah menerima rekor 42.000 laporan moderasi. “Kami menghargai kesabaran Anda saat kami memanggil tim moderasi kami hingga mencapai kapasitas maksimal dan merekrut anggota tim baru untuk mendukung beban ini,” kata Bluesky.

Setelah pengadilan tinggi Brasil menangguhkan akses ke X pada bulan Agustus, Bluesky melihat lonjakan pengguna di Brasil, termasuk komunitas “stan”. dikhususkan untuk seniman tertentu. Hal ini menyebabkan masuknya keluhan hak cipta, sehingga tim moderasi Bluesky harus menyaring postingan mana yang harus disimpan dan dihapus, kata Aaron Rodericks, kepala kepercayaan dan keamanan Bluesky, dalam sebuah wawancara.

“Warga Brasil suka membuat meme. Mereka memiliki basis pengguna yang luar biasa. Namun permintaan hak cipta kami sangat tinggi,” kata Rodericks, yang sebelumnya membantu memimpin tim kepercayaan dan keamanan Twitter.

Para penipu juga mengikuti migrasi pengguna media sosial dari X ke Bluesky, kata Sean Gallagher, peneliti ancaman utama di perusahaan keamanan siber Sophos, kepada NBC News. “Selama beberapa minggu terakhir, terjadi peningkatan pesat dalam aktivitas penipuan,” katanya.

Banyak di antara mereka yang merupakan penipu dalam percintaan dan “menyembelih babi” yang mengikuti pedoman yang sama yang mereka gunakan di situs media sosial lainnya: menyamar sebagai calon romantis dengan harapan menjalin hubungan palsu dengan korban yang nantinya dapat mereka eksploitasi demi uang, kata Gallagher.

Sejauh ini, Bluesky “telah agresif dalam menutup akun-akun palsu,” kata Gallagher, dan tampaknya merespons dengan baik orang-orang yang melaporkan akun-akun mencurigakan.

Rodericks mengatakan meskipun Bluesky telah mengalami penderitaan yang semakin besar, dampaknya masih belum sebesar yang terlihat di platform media sosial besar lainnya. “Ada hal-hal yang merugikan ratusan juta pengguna, yang belum kami lihat.”

Namun hal ini tidak menghentikan beberapa kritikus untuk memusatkan perhatian pada isu ini.

Akun X sayap kanan Libs dari TikTokyang dikenal menargetkan orang-orang trans online, mengkritik Bluesky pada hari Kamis, memposting tangkapan layar artikel yang ditulis tentang platform tersebut – satu ditulis oleh Singal tentang ancaman pembunuhan yang diterimanya, dan satu lagi tentang materi pelecehan seksual terhadap anak (CSAM) di platform tersebut. .

Bluesky hanya melihat sedikit contoh orang yang memposting CSAM, kata Rodericks, jika dibandingkan dengan level yang terlihat di platform lain, namun jumlahnya terus meningkat.

Pada tahun 2023, meskipun situs tersebut hanya dapat diakses melalui undangan dan sebelum dibuka untuk umum, hanya ada satu pengaduan yang terverifikasi ke Pusat Nasional untuk Anak Hilang & Tereksploitasi, sebuah organisasi AS yang bertugas melacak eksploitasi online. Tahun ini, kata Rodericks, terdapat lebih dari 830 kasus CSAM, yang masing-masing diselidiki perusahaan secara manual. Sebagian besar platform media sosial melaporkan tingkat CSAM yang jauh lebih tinggi. Pada tahun 2023, X melaporkan 273,416 kasus CSAM di platformnya, menurut pusat tersebut. Instagram melaporkan 11.430.007.

Memposting CSAM akan segera menyebabkan pelarangan penuh terhadap situs tersebut, kata Rodericks.

Situs ini juga memiliki banyak akun selebriti palsu, sebuah masalah yang juga terus menjangkiti platform yang lebih besar. Bulan lalu, Bluesky mulai memberi label pada akun selebriti palsu dengan “peniruan identitas” jika mereka tidak menyebut diri mereka sebagai akun satir atau penggemar, mengakhiri kekuasaan segelintir akun yang mendaftarkan nama pengguna orang-orang terkenal segera setelah platform tersebut diluncurkan.

Meskipun tampaknya tidak ada banyak ekosistem peniru identitas selebriti yang ditujukan untuk menipu pengguna, NBC News dengan mudah menemukan beberapa akun yang tidak berlabel namun jelas-jelas palsu untuk selebriti seperti Ellen DeGeneres, Oprah Winfrey, dan Cristiano Ronaldo. Perwakilan ketiganya tidak menanggapi permintaan komentar.

Pendekatan Bluesky untuk memverifikasi bahwa akun-akun tersebut sesuai dengan yang mereka nyatakan — merupakan suatu masalah yang telah terjadi melanda X khususnya sejak perubahan yang dilakukan Musk tahun lalu — situs ini unik dan lebih sulit secara teknis dibandingkan situs lain. Ini memperlakukan setiap akun sebagai situs web dan memungkinkan siapa pun yang memiliki domain web mendaftarkan akun Bluesky dengan URL tersebut. Jadi, alih-alih Bluesky memverifikasi identitas orang satu per satu, Bluesky memungkinkan siapa pun yang memiliki situs web resmi memverifikasi dirinya dan pengguna lain.

“Kami mendapat tanggapan bahwa beberapa orang menganggapnya terlalu menantang secara teknis, karena orang-orang hanya terbiasa dengan nama pengguna. Jadi pertanyaannya adalah apakah melalui pendidikan pengguna yang memadai, dll., kami dapat memenuhi kebutuhan tersebut melalui verifikasi domain, atau apakah kami harus melakukannya tambahkan aspek lain selain itu,” kata Rodericks.

Mengingat terbatasnya sumber daya Bluesky, kata Rodericks, mereka tidak memiliki rencana segera untuk memberi label pada kantor berita yang dikendalikan negara dari pemerintahan otoriter, seperti yang dilakukan Meta dan X sebelum Musk mengakhiri praktik tersebut. Setidaknya ada tiga akun Bluesky yang menggunakan nama dan hanya memuat berita dari kantor berita yang dikendalikan pemerintah – China Daily dan People’s Daily dari Tiongkok, dan RT dari Rusia – namun tidak ada yang memiliki lebih dari beberapa ratus pengikut. Tak satu pun dari tiga kantor berita tersebut menanggapi email yang menanyakan apakah akun tersebut asli.

Peneliti disinformasi secara rutin mengidentifikasi kumpulan akun, khususnya yang menyebarkan pesan-pesan simpati kepada pemerintah Rusia, Tiongkok, dan Iran, di platform media sosial utama, meskipun pesan-pesan tersebut jarang mendapatkan daya tarik yang signifikan. Seringkali, investigasi tersebut dimulai ketika FBI memberi tahu platform media sosial bahwa intelijen AS sedang dieksploitasi oleh musuh AS.

Sampai saat ini, FBI belum melakukan pendekatan seperti itu kepada Bluesky, kata Rodericks. Mereka juga tidak memiliki tim internal khusus untuk memburu propaganda semacam itu, namun mengandalkan tip pengguna, sensor otomatis untuk perilaku akun yang tidak autentik, dan pasukan moderator sukarelawan yang dikelola melalui organisasi nirlaba bernama Kepercayaan & Keamanan Federasi Independen untuk mengidentifikasi dan menghapus aktivitas yang melanggar ketentuan layanannya.

Meskipun kampanye propaganda massal mengenai Bluesky belum terdokumentasi dengan jelas, para peneliti telah melihat beberapa tandanya.

“Semua platform media sosial digunakan oleh musuh,” Lisa Kaplan, CEO Alethea, sebuah perusahaan yang melacak kampanye propaganda dan pesan online yang terkoordinasi, mengatakan kepada NBC News. “Kami telah melihat bukti kemungkinan adanya aktivitas aktor negara di platform ini. Namun, hal ini masih terlalu dini dan kami belum melihat upaya yang berhasil dan terkoordinasi.”

“Secara umum, kita masih sangat kecil, jadi masyarakat belum mendedikasikan sumber daya mereka untuk kita dari sisi negara-bangsa,” kata Rodericks.

Bluesky telah diblokir oleh setidaknya dua pemerintah yang rawan sensor. Menurut Great Firewall, sebuah program yang melacak sensor internet di Tiongkok, negara tersebut mulai memblokir Bluesky menjelang tanggal 4 Juni, hari jadi Lapangan Tiananmen protes, yang merupakan pemicu umum dilakukannya sensor di negara ini. Secara terpisah, Pakistan diblokir sebentar Bluesky pada bulan November, menurut NetBlocks, sebuah perusahaan yang melacak pemblokiran internet global. Juru bicara konsulat kedua negara tidak menanggapi permintaan komentar.

Setiap platform media sosial harus melewati batas antara mematuhi hukum di setiap negara tempat mereka beroperasi dan memutuskan untuk menolak permintaan pemerintah yang berpotensi tidak adil untuk memblokir postingan atau menyerahkan informasi pengguna. Namun Tiongkok dan Pakistan tidak memicu perdebatan, kata Rodericks.

“Tidak ada pemerintah yang melakukan penjangkauan atau komunikasi apa pun kepada Bluesky,” katanya. “Dari sudut pandang prinsip, kami tentu saja percaya pada internet yang bebas dan terbuka, jadi kami akan melakukan yang terbaik untuk mendukung kemampuan masyarakat dalam mengakses informasi komunitas. Namun sebagai pemain kecil di bidang ini, kami akan melakukannya lakukan apa yang kami bisa untuk mencapai keseimbangan objektif agar negara-negara tidak dapat mengendalikan internet mereka sendiri.”