SAYAN HARI TERAKHIR Ron DeSantis, gubernur Florida dan saingan utama Donald Trump untuk nominasi Partai Republik, memilih untuk mengumumkan tawarannya untuk Gedung Putih melalui Twitter. Acara audio langsung, yang dipandu oleh pemilik jejaring sosial, Elon Musk, menjadi lelucon karena server Twitter berjuang untuk mengatasi beberapa ratus ribu pendengar yang telah mendengarkan. Ketika dia dapat didengar, Mr DeSantis mengatakan dia telah memutuskan untuk mengumumkan pada platform karena, tidak seperti “media lama”, Twitter adalah “mercusuar kebebasan berbicara”.
Perdebatan tentang siapa yang dapat mengatakan apa secara online sedang memanas sekali lagi secara global. Twitter, jaringan politisi dan pers yang disukai, berada di bawah manajemen baru yang lincah dari Tuan Musk, seorang absolutis kebebasan berbicara yang menyatakan diri yang telah memulihkan akun pengguna yang sebelumnya dilarang seperti Tuan Trump. Meta, saingan yang lebih besar, dilaporkan menyiapkan jaringan berbasis teksnya sendiri, untuk diluncurkan musim panas ini. Platform media sosial menghadapi ujian selama 18 bulan ke depan saat pemilihan presiden Amerika semakin dekat, salah satu festival empedu online dan misinformasi terbesar di dunia.
Ke dalam keributan ini langkah politisi dan hakim dengan proposal peraturan. Dengan kebuntuan Kongres, badan legislatif negara bagian Amerika dan pengadilannya menarik garis baru di sekitar batas-batas pidato. Di Eropa, badan legislatif telah melangkah lebih jauh. Langkah-langkah ini menginspirasi pemerintah di bagian dunia yang kurang demokratis untuk membuat peraturan baru mereka sendiri. Apa yang dapat dikatakan dan didengar secara online sedang dalam pengawasan.
Mengawasi alun-alun publik online adalah tugas yang menakutkan. Meskipun keadaan sedikit mereda sejak Mr Trump meninggalkan jabatannya dan covid-19 mereda (bersama dengan gelombang misinformasi yang terkait), tahun lalu tiga platform media sosial terbesar di dunia—Facebook dan Instagram, dimiliki oleh Meta, dan YouTube, dimiliki oleh Google—menghapus atau memblokir 11,4 miliar postingan, video, dan komentar pengguna. Filter otomatis menghilangkan sebagian besar, tetapi Meta dan Google juga mempekerjakan lebih dari 40.000 peninjau konten di antara mereka.
Sebagian besar pembenahan ini tidak kontroversial: 90% postingan yang dihapus Facebook, jaringan terbesar, tahun lalu hanyalah spam. Tetapi banyak dari keputusan moderasi yang tersisa sulit (lihat bagan). Pada kuartal terakhir, Facebook menghapus atau memblokir 10,7 juta postingan yang dianggap sebagai ujaran kebencian dan 6,9 juta yang dianggap sebagai intimidasi, keduanya merupakan konsep di mana ada ruang untuk ketidaksepakatan. Untuk mengambil satu dilema baru-baru ini, Meta baru-baru ini memerintahkan peninjauan apakah telah terlalu bersemangat dalam menjaga kata Arab syahid, yang umumnya diterjemahkan sebagai “martir” tetapi maknanya dapat berubah dalam konteks yang berbeda. Sebagian besar platform dibiarkan untuk mencari tahu sendiri kesulitan seperti itu.
Namun, sekarang, politisi ikut campur. Di Amerika, Demokrat dan Republik setuju bahwa jejaring sosial melakukan pekerjaan moderasi yang buruk, dan inilah saatnya untuk mengubah Bagian 230 Undang-Undang Kesopanan Komunikasi, yang melindungi platform online dari tanggung jawab atas konten. diposting oleh pengguna (dengan pengecualian seperti konten yang terkait dengan perdagangan seks). Tetapi mereka sepenuhnya tidak setuju tentang apa yang harus dilakukan.
Demokrat, yang menuduh miliarder teknologi memicu kemarahan dan informasi yang salah untuk klik, ingin platform menghapus lebih banyak konten. Partai Republik, yang mengira orang-orang sibuk California yang sedang bangun sedang mencekik kaum konservatif, ingin mereka lebih sedikit mencopot. (Pemilih mencurigai perusahaan teknologi lebih menyukai sudut pandang liberal daripada konservatif dengan rasio tiga banding satu, menurut Pew Research Center, sebuah wadah pemikir Amerika.) Hasilnya adalah kebuntuan kongres.
Mahkamah Agung memiliki kesempatan untuk mengutak-atik Pasal 230. Namun pada 18 Mei, dalam putusan atas dua kasus serupa yang melibatkan YouTube dan Twitter, yang telah menampung konten yang diunggah oleh teroris, Mahkamah Agung menolak untuk mengubah status quo, menolak gagasan bahwa online platform memiliki tanggung jawab atas kejahatan yang dilakukan oleh penggunanya. NetChoice, grup lobi teknologi, menggambarkan keputusan tersebut sebagai “kemenangan besar untuk kebebasan berbicara di internet”. Bagian 230 terlihat aman untuk saat ini.
Tanpa keberuntungan di tingkat federal, para reformis di kiri dan kanan berfokus pada negara bagian. Tahun lalu California mengeluarkan undang-undang yang memaksa perusahaan teknologi untuk mengumpulkan lebih sedikit data dari anak-anak, antara lain. Beberapa negara bagian telah mengesahkan atau mengusulkan undang-undang yang mewajibkan mereka yang berusia di bawah 18 tahun untuk mendapatkan izin orang tua sebelum menggunakan media sosial. Pada 17 Mei, Montana melarang TikTok sama sekali, karena kepemilikannya di China (TikTok menggugat dan diharapkan menang).
Yang paling kontroversial, pada tahun 2021 Florida dan Texas, keduanya dikendalikan oleh Republik, mengeluarkan undang-undang yang membatasi kemampuan jejaring sosial untuk memoderasi pidato politik. Pengadilan telah menegakkan hukum Texas dan menjatuhkan hukum Florida, menyiapkan panggung untuk kembali ke Mahkamah Agung, yang diperkirakan akan menangani kasus tersebut akhir tahun ini. “Kalau pengadilan membuka pintu regulasi di ruang ini, banyak [states] akan memanfaatkan kesempatan itu,” kata Evelyn Douek dari Stanford University.
Mereka akan memiliki dua model di atas Atlantik untuk diikuti. Itu UEUndang-Undang Layanan Digital (DSA), disahkan pada Juli 2022, akan dimulai tahun depan. RUU Keamanan Daring Inggris, empat tahun dalam pembuatan, diharapkan akan diberlakukan akhir tahun ini. Keduanya mengambil pendekatan yang berbeda dari Amerika. Alih-alih mengubah siapa yang bertanggung jawab atas konten online (pertanyaan yang menjadi inti perdebatan Bagian 230), mereka memaksa platform untuk melakukan semacam uji tuntas, untuk meminimalkan konten yang buruk.
Eropa DSA membutuhkan platform online untuk menyiapkan proses penanganan keluhan dan menuntut agar mereka memberi tahu pengguna cara kerja algoritme mereka, memungkinkan mereka untuk mengubah rekomendasi yang mereka terima. Platform yang lebih kecil, didefinisikan sebagai platform dengan pengguna kurang dari 45 juta di eu, akan melepaskan sebagian dari kewajiban ini untuk menghentikan mereka tenggelam dalam birokrasi (beberapa saingan yang lebih besar memperingatkan bahwa ini dapat membuat mereka menjadi surga bagi materi berbahaya). Bagi mereka yang cukup besar untuk memenuhi syarat untuk pengawasan penuh, itu DSA mewakili “beban keuangan yang signifikan”, kata Florian Reiling dari Clifford Chance, sebuah firma hukum. Ada keluhan di Washington tentang 19 platform yang sejauh ini dialokasikan oleh UE untuk pengawasan paling intensif, hanya satu—Zalando, situs e-niaga Jerman—yang berasal dari Eropa.
Twitter, yang telah memangkas stafnya sekitar 80% sejak Mr Musk mengambil alih pada bulan Oktober, mungkin menjadi salah satu yang berjuang untuk memenuhi DSApersyaratan. Mr Musk tampaknya telah mengambil alih dari Mark Zuckerberg, bos Meta, sebagai penjahat media sosial terbesar di mata beberapa orang. Pada tanggal 26 Mei Thierry Breton, seorang komisaris Eropa, tweeted bahwa Twitter telah meninggalkan UEkode praktik sukarela melawan disinformasi. “Kamu bisa lari tapi kamu tidak bisa bersembunyi,” tambahnya.
Upaya legislatif paralel Inggris sedang dibentuk untuk menjangkau lebih jauh. RUU Keamanan Daring disusun pada tahun 2019 setelah bunuh diri seorang anak berusia 14 tahun yang telah menggunakan bahan depresi yang direkomendasikan secara algoritme. Empat perdana menteri kemudian, teks RUU itu hampir dua kali lipat panjangnya. Sebuah perusahaan teknologi Amerika menjulukinya “salah satu tagihan paling rumit yang kami hadapi di mana pun di dunia”.
Ini lebih jauh dari UE dalam persyaratannya yang longgar untuk platform untuk menyaring materi secara proaktif. Jejaring sosial yang lebih besar sudah memeriksa video untuk kecocokan dengan konten pelecehan anak yang diketahui. Tetapi kejahatan yang lebih halus, seperti hasutan untuk melakukan kekerasan, lebih sulit dideteksi secara otomatis. Skala beberapa platform—YouTube mengupload 500 jam video per menit—berarti bahwa persyaratan ketat untuk konten pra-penyaringan dapat membatasi jumlah materi baru yang diunggah.
Seperti di Amerika, kaum konservatif Inggris mengkhawatirkan pandangan sayap kanan yang terlalu moderat. Oleh karena itu, RUU tersebut membebankan kewajiban untuk memastikan bahwa moderasi “[applies] dengan cara yang sama terhadap keragaman pendapat politik yang luas”. Demikian pula, UE telah menjanjikan “perlindungan bagi media terhadap penghapusan konten online yang tidak dapat dibenarkan” sebagai bagian dari Undang-Undang Kebebasan Media Eropa yang akan datang, sebagai tanggapan atas tindakan keras terhadap pers di negara-negara anggota seperti Hungaria dan Polandia.
Bagian paling kontroversial dari RUU Inggris, persyaratan bahwa platform mengidentifikasi konten yang “legal tapi berbahaya” (misalnya, materi yang mendorong gangguan makan) telah dibatalkan terkait dengan orang dewasa. Namun tetap ada kewajiban untuk membatasi ketersediaannya bagi anak-anak, yang pada gilirannya menyiratkan perlunya pemeriksaan usia secara luas. Perusahaan teknologi mengatakan mereka dapat menebak usia pengguna dari hal-hal seperti riwayat pencarian dan pergerakan mouse mereka, tetapi kewajiban ketat untuk memverifikasi usia pengguna akan mengancam anonimitas.
Beberapa orang menduga bahwa keberatan mereka yang sebenarnya adalah harganya. “Saya tidak berpikir ‘Ini membutuhkan biaya dan sulit’ adalah sebuah alasan,” kata Keily Blair, kepala operasi OnlyFans, sebuah platform porno-sentris yang memeriksa usia penggunanya dan tidak melihat mengapa orang lain harus melakukannya. t melakukan hal yang sama. Namun beberapa platform bersikukuh: Wikimedia Foundation, yang menjalankan Wikipedia, mengatakan tidak berniat memverifikasi usia pengguna.
Semakin ketat aturan di yurisdiksi seperti Inggris atau eu, kemungkinan besar perusahaan teknologi akan menawarkan layanan yang berbeda di sana, daripada menerapkan aturan yang sama di seluruh dunia. Beberapa bahkan mungkin berhenti. WhatsApp, aplikasi perpesanan milik Meta, mengatakan tidak mau merusak enkripsi end-to-end untuk memenuhi persyaratan dalam RUU Inggris bahwa perusahaan memindai pesan pribadi untuk pelecehan anak. Mungkin tidak sampai seperti itu: RUU akan membiarkan Ofcom meminta data hanya dalam kasus di mana tindakan tersebut ditentukan secara proporsional. Namun, ancaman untuk menaikkan tongkat menjadi lebih umum. Pada tanggal 24 Mei Sam Altman, kepala OpenAI, mengatakan dia akan mempertimbangkan untuk meninggalkan eu jika regulasi kecerdasan buatannya terlalu jauh (dia kemudian menarik kembali ucapannya).
Efek jaringan
Apakah atau tidak Inggris atau eu menggunakan sepenuhnya kekuatan baru mereka, mereka menjadi preseden yang berguna bagi negara-negara yang mungkin menggunakannya secara bebas. RUU Inggris, yang mengusulkan penjara bagi para eksekutif perusahaan yang melanggar aturan, adalah “cetak biru untuk represi di seluruh dunia”, menurut Electronic Frontier Foundation, sebuah kelompok kebebasan sipil. Seorang eksekutif Amerika mengecam bahwa klaim Inggris sebagai “terdepan di dunia” dalam bidang teknologi hanya benar dalam arti bahwa Inggris membuka jalan bagi negara-negara non-demokrasi untuk mengesahkan undang-undang represif mereka sendiri.
Mereka membutuhkan sedikit dorongan. Turki memerintahkan Twitter untuk menyensor informasi selama pemilu baru-baru ini; penggemar kebebasan berbicara, Tuan Musk menurut. Brasil telah mengusulkan “undang-undang berita palsu” yang akan menghukum jejaring sosial karena gagal mengidentifikasi informasi yang salah. Dimodelkan pada undang-undang Eropa, telah dijuluki “DSA dari daerah tropis”. India akan menerbitkan RUU peraturan internet pada bulan Juni yang dilaporkan akan membuat platform bertanggung jawab atas konten pengguna jika mereka tidak setuju untuk mengidentifikasi dan melacak pengguna tersebut saat diarahkan.
Dampak internasional Inggris dan eu proposal menginformasikan perdebatan di Amerika. “Tidak peduli seberapa banyak Anda berpikir bahwa jejaring sosial telah merusak politik Amerika,” kata Matthew Prince, kepala Cloudflare, sebuah perusahaan jaringan Amerika, “mereka telah sangat mengganggu stabilitas rezim lain yang bertentangan dengan kepentingan Amerika Serikat. ” ■