X bisa menghadapi larangan Inggris atas deepfake, kata menteri

Menteri Teknologi Liz Kendall mengatakan dia akan mendukung regulator Ofcom jika mereka memblokir akses Inggris ke situs media sosial X milik Elon Musk karena gagal mematuhi undang-undang keamanan online.

Ofcom mengatakan pihaknya segera memutuskan apa yang harus dilakukan terhadap chatbot kecerdasan buatan (AI) milik X, Grok, yang secara digital membuka pakaian orang tanpa persetujuan mereka ketika ditandai di bawah gambar yang diposting di platform tersebut. X kini membatasi penggunaan fungsi gambar ini hanya untuk mereka yang membayar biaya bulanan.

Namun Downing Street mengatakan perubahan itu merupakan “penghinaan” terhadap korban kekerasan seksual.

Musk mengatakan pada X bahwa pemerintah Inggris “menginginkan alasan untuk melakukan sensor” ketika dia membalas postingan yang mempertanyakan mengapa platform AI lainnya tidak diperhatikan.

Kendall berkata: “Memanipulasi gambar perempuan dan anak-anak secara seksual adalah hal yang tercela dan menjijikkan.

Dia menambahkan: “Saya, dan yang lebih penting lagi masyarakat, berharap melihat Ofcom memberikan informasi terbaru mengenai langkah selanjutnya dalam beberapa hari, bukan minggu.”

Dia mengatakan Undang-Undang Keamanan Online “mencakup kewenangan untuk memblokir layanan agar tidak diakses di Inggris, jika mereka menolak untuk mematuhi hukum Inggris” dan “jika Ofcom memutuskan untuk menggunakan kewenangan tersebut, mereka akan mendapat dukungan penuh dari kami”.

BBC telah menghubungi X untuk memberikan komentar.

Seorang juru bicara Ofcom mengatakan: “Kami segera melakukan kontak (dengan X) pada hari Senin dan menetapkan batas waktu yang pasti hari ini (Jumat) untuk menjelaskan diri mereka sendiri, dan kami telah menerima tanggapannya.”

“Kami sekarang melakukan penilaian yang dipercepat sebagai hal yang mendesak dan akan segera memberikan pembaruan lebih lanjut.”

Kekuasaan Ofcom di bawah Undang-Undang Keamanan Online termasuk kemampuan untuk meminta perintah pengadilan untuk mencegah pihak ketiga membantu X mengumpulkan uang atau diakses di Inggris – jika perusahaan tersebut menolak untuk mematuhinya.

Apa yang disebut sebagai langkah-langkah gangguan bisnis ini sebagian besar masih belum teruji.

Penggunaan Grok untuk menghasilkan gambar seksual non-konsensual telah dikutuk oleh politisi dari semua pihak, dan Perdana Menteri Sir Keir Starmer menyebutnya “memalukan” dan “menjijikkan”.

Pemimpin Reformasi Inggris Nigel Farage mengatakan hal ini “mengerikan dalam segala hal” dan bahwa X “perlu melangkah lebih jauh” dari perubahan yang telah dilakukan pada Grok pada hari Jumat sebelumnya.

Namun dia mengatakan gagasan pelarangan X di Inggris “benar-benar mengerikan” dan merupakan serangan terhadap kebebasan berpendapat.

Partai Demokrat Liberal telah menyerukan agar akses ke X untuk sementara dibatasi di Inggris sementara situs media sosial tersebut diselidiki.

Grok adalah alat gratis yang dapat ditandai langsung oleh pengguna di postingan atau balasan di bawah postingan pengguna lain untuk meminta tanggapan tertentu.

Alat ini masih dapat mengedit gambar di X jika diakses melalui area lain di platform, seperti melalui fungsi “edit gambar” yang ada di dalamnya, atau di aplikasi dan situs web terpisah.

Banyak permintaan yang diajukan untuk meminta mereka mengedit gambar perempuan untuk diperlihatkan dalam balutan bikini atau pakaian minim – sesuatu yang menurut mereka yang dimintai permintaan tersebut kepada BBC membuat mereka merasa “dipermalukan” Dan “tidak manusiawi“.

Namun pada Jumat pagi, Grok telah mengatakan kepada pengguna yang memintanya untuk mengubah gambar yang diunggah ke X bahwa “pembuatan dan pengeditan gambar saat ini terbatas pada pelanggan yang membayar”, menambahkan bahwa pengguna “dapat berlangganan untuk membuka fitur ini”.

Beberapa postingan di platform yang dilihat oleh BBC News menunjukkan hanya mereka yang memiliki tanda centang biru “terverifikasi” – eksklusif untuk tingkat pelanggan berbayar X – yang berhasil meminta pengeditan gambar ke Grok.

Dr Daisy Dixon, seorang dosen filsafat di Universitas Cardiff dan pengguna wanita X yang mengatakan bahwa dia telah melihat peningkatan jumlah orang yang menggunakan Grok untuk membuka pakaiannya, menyambut baik perubahan tersebut namun mengatakan bahwa hal itu terasa “seperti plester yang menempel”.

“Grok perlu didesain ulang secara total dan memiliki batasan etis untuk mencegah hal ini terjadi lagi,” katanya kepada BBC.

“Elon Musk juga perlu mengakui hal ini apa adanya – satu lagi contoh pelanggaran berbasis gender.”

Hannah Swirsky, kepala kebijakan di Internet Watch Foundation, mengatakan hal ini “tidak memperbaiki dampak buruk yang telah terjadi”.

“Kami yakin tidak cukup hanya membatasi akses terhadap alat yang seharusnya tidak memiliki kapasitas untuk menciptakan gambar seperti yang kita lihat dalam beberapa hari terakhir,” katanya.

Amal dikatakan sebelumnya analisnya telah menemukan “gambar kriminal” dari gadis-gadis berusia antara 11 dan 13 tahun yang “tampaknya dibuat” menggunakan Grok.

Anggota parlemen Partai Buruh semakin tidak senang dengan penggunaan X oleh partai untuk menyampaikan pesan politiknya.

Bocoran pesan dari grup WhatsApp Partai Buruh Parlemen, yang digunakan untuk mengunggah pengumuman agar dapat dibagikan oleh anggota parlemen dari Partai Buruh di media sosial, menunjukkan setidaknya 13 anggota parlemen dari Partai Buruh telah meminta pemerintah untuk berhenti menggunakan platform tersebut.

Pesan-pesannya, pertama kali dilaporkan oleh Rumah Politik dan dilihat oleh BBC News, acara anggota parlemen dari Partai Buruh menyerukan kepada pemerintah untuk “mengambil sikap” dan “menyebarkan pesan-pesan kami ke tempat lain”.

Salah satu anggota parlemen mengatakan: “Seperti yang diminta sebagian dari kita sejak Musk menjadi fasis, dan bukannya X, pemerintah kita harus mulai menggunakan platform lain”.

Yang lain berkata: “Setiap gambar anak-anak (dan perempuan) di kantor pemerintah di X akan membahayakan anak-anak tersebut.”

Sebelumnya pada hari Jumat, Downing Street menyarankan agar pemerintah terus memposting X.

Juru bicara resmi perdana menteri mengatakan kepada wartawan bahwa perubahan dalam cara Grok memenuhi permintaan pengguna untuk mengedit gambar di platform tersebut menunjukkan X “dapat bergerak cepat kapan pun mereka mau”.

Mereka mengatakan “sangat jelas bahwa X perlu bertindak dan perlu bertindak sekarang”.

“Sudah waktunya bagi X untuk mengatasi masalah ini, jika perusahaan media lain memasang papan reklame di pusat kota yang menampilkan gambar-gambar yang melanggar hukum, mereka akan segera mengambil tindakan untuk menghapusnya atau menghadapi reaksi publik,” tambah mereka.