X Mengonfirmasi Pemblokiran Pencarian Taylor Swift untuk ‘Prioritaskan Keamanan’

Taylor Swift mendapati dirinya menjadi korban deepfake pornografi yang viral, dan platform X telah mengambil langkah kontroversial dengan memblokir pencarian nama sang penyanyi untuk ‘prioritaskan keamanan’. Tindakan ini diambil setelah deepfake yang meresahkan tersebut menyebar luas minggu lalu.

Tindakan Sementara dengan Berlimpah Hati

Pengunjung situs mulai melihat pada hari Sabtu bahwa beberapa pencarian yang mencakup nama Swift hanya menghasilkan pesan kesalahan. Joe Benarroch, Kepala Operasional Bisnis X, mengonfirmasi tindakan tersebut dalam pernyataan kepada Wall Street Journal pada Sabtu malam, menyatakan, “Ini adalah tindakan sementara dan dilakukan dengan berlimpah hati karena kami mengutamakan keamanan dalam masalah ini.”

Kritik terhadap Penanganan Kasus

Penanganan X terhadap masalah ini sejak awal mendapat kritik karena dianggap lambat dalam mengendalikan penyebaran gambar eksplisit seksual nonkonsensual. Setelah gambar-gambar tersebut menjadi viral, para penggemar Swift mengambil inisiatif dengan melaporkan akun-akun yang membagikan gambar tersebut dan mengisi hashtag terkait penyanyi dengan konten positif. Meskipun banyak akun yang melanggar ditangguhkan, namun tidak sebelum dilihat jutaan kali dalam beberapa kasus.

Tanggapan X dan Kelanjutan Permasalahan

X mengumumkan larangan keras terhadap posting gambar Non-Consensual Nudity (NCN) dan mengklaim aktif menghapus gambar-gambar yang diidentifikasi, serta mengambil tindakan yang sesuai terhadap akun-akun yang bertanggung jawab. Namun, beberapa hari setelah pernyataan tersebut, gambar-gambar tersebut masih dapat ditemukan. 404Media melacak asal muasal gambar ke grup Telegram yang dikenal membuat gambar AI nonkonsensual menggunakan alat-alat gratis, termasuk Microsoft Designer.

CEO Microsoft: Tantangan Tanggung Jawab Teknologi

CEO Microsoft, Satya Nadella, dalam wawancara dengan Lester Holt dari NBC News, menyatakan bahwa masalah ini menyoroti tanggung jawab perusahaan dan perlunya “garis pembatas” di sekitar teknologi agar konten yang lebih aman diproduksi. Dia mengakui perlunya percepatan dalam tindakan di tengah permasalahan yang ada.