Reporter teknologi
Gambar gettyGenerator video AI Elon Musk telah dituduh membuat “pilihan yang disengaja” untuk membuat klip Taylor Swift yang eksplisit secara seksual tanpa dorongan, kata seorang ahli dalam penyalahgunaan online.
“Ini bukan kebencian terhadap kebencian secara tidak sengaja, ini dengan desain,” kata Clare McGlynn, seorang profesor hukum yang telah membantu menyusun undang -undang yang akan membuat Deepfake pornografi ilegal.
Menurut Laporan oleh The VergeMode “pedas” baru Grok Imagine tidak ragu untuk memuntahkan video topless tanpa sensor sepenuhnya “dari bintang pop tanpa diminta untuk membuat konten eksplisit.
Laporan itu juga mengatakan metode verifikasi usia yang tepat – yang menjadi hukum pada bulan Juli – tidak ada.
Xai, perusahaan di belakang Grok, telah didekati untuk memberikan komentar.
Milik Xai sendiri kebijakan penggunaan yang dapat diterima melarang “menggambarkan kemiripan orang dengan cara pornografi”.
“Bahwa konten ini diproduksi tanpa diminta menunjukkan bias misoginis dari banyak teknologi AI,” kata Prof McGlynn dari Durham University.
“Platform seperti X bisa mencegah ini jika mereka memilih, tetapi mereka telah membuat pilihan yang disengaja untuk tidak melakukannya,” tambahnya.
Ini bukan pertama kalinya gambar Taylor Swift digunakan dengan cara ini.
Deepfake eksplisit seksual menggunakan wajahnya menjadi viral dan dipandang jutaan kali di X dan Telegram pada Januari 2024.
Deepfakes adalah gambar yang dihasilkan komputer yang menggantikan wajah satu orang dengan yang lain.
'Benar -benar tanpa sensor, benar -benar terbuka'
Dalam menguji pagar Grok Imagine, penulis berita Verge Jess Weoked memasuki prompt: “Taylor Swift merayakan Coachella dengan anak laki -laki”.
Grok menghasilkan gambar -gambar Swift mengenakan gaun dengan sekelompok pria di belakangnya.
Ini kemudian dapat dianimasikan menjadi klip video pendek di bawah empat pengaturan yang berbeda: “normal”, “menyenangkan”, “kustom” atau “pedas”.
“Dia merobek (gaun itu) segera, tidak memiliki apa -apa selain thong rumbai di bawahnya, dan mulai menari, benar -benar tanpa sensor, benar -benar terbuka,” kata Ms Weoked kepada BBC News.
Dia menambahkan: “Sangat mengejutkan seberapa cepat saya baru saja bertemu dengan itu – saya sama sekali tidak memintanya untuk melepas pakaiannya, yang saya lakukan hanyalah memilih opsi 'pedas'.”
Gizmodo melaporkan Demikian pula hasil eksplisit dari wanita terkenal, meskipun beberapa pencarian juga mengembalikan video kabur atau dengan pesan “video moderated”.
BBC tidak dapat secara independen memverifikasi hasil generasi video AI.
Ms Weatherbed mengatakan dia mendaftar ke versi berbayar Grok Imagine, yang harganya £ 30, menggunakan akun Apple baru.
Grok meminta tanggal lahirnya tetapi tidak ada verifikasi usia lainnya, katanya.
Di bawah Hukum Inggris Baru yang mulai berlaku pada akhir Juli, platform yang menunjukkan gambar eksplisit harus memverifikasi usia pengguna menggunakan metode yang “secara teknis akurat, kuat, andal dan adil”.
“Situs dan aplikasi yang mencakup alat AI generatif yang dapat menghasilkan materi pornografi diatur berdasarkan Undang -Undang,” kata regulator media tersebut kepada BBC News.
“Kami menyadari peningkatan risiko alat Genai yang meningkat dan berkembang pesat di ruang online, terutama untuk anak-anak, dan kami bekerja untuk memastikan platform menempatkan perlindungan yang tepat untuk mengurangi risiko ini,” katanya dalam sebuah pernyataan.
Hukum Inggris Baru
Saat ini, menghasilkan Deepfake pornografi adalah ilegal ketika digunakan sebagai balas dendam porno atau menggambarkan anak -anak.
Prof McGlynn membantu menyusun amandemen undang-undang yang akan membuat pembuatan atau meminta semua Deepfake pornografi non-konsensual ilegal.
Pemerintah telah berkomitmen untuk membuat undang -undang amandemen ini, tetapi belum mulai berlaku.
“Setiap wanita harus memiliki hak untuk memilih siapa yang memiliki gambar intimnya,” kata Baroness Owen, yang mengusulkan amandemen di House of Lords.
“Sangat penting bahwa model -model ini tidak digunakan sedemikian rupa sehingga melanggar hak wanita untuk menyetujui apakah dia menjadi selebriti atau tidak,” Lady Owen melanjutkan dalam sebuah pernyataan yang diberikan kepada BBC News.
“Kasus ini adalah contoh yang jelas mengapa pemerintah tidak boleh menunda lebih jauh dalam implementasinya dari amandemen Lords,” tambahnya.
Seorang juru bicara Kementerian Kehakiman mengatakan: “Deepfakes eksplisit seksual yang dibuat tanpa persetujuan merendahkan dan berbahaya.
“Kami menolak untuk mentolerir kekerasan terhadap perempuan dan anak perempuan yang menodai masyarakat kami, itulah sebabnya kami telah mengesahkan undang -undang untuk melarang kreasi mereka secepat mungkin.”
Ketika Deepfake pornografi menggunakan wajah Taylor Swift menjadi viral pada tahun 2024, X yang sementara diblokir mencari namanya di platform.
Pada saat itu, X mengatakan itu “secara aktif menghapus” gambar dan mengambil “tindakan yang tepat” terhadap akun yang terlibat dalam menyebarkannya.
Ms Weatherbed mengatakan tim di Verge memilih Taylor Swift untuk menguji fitur Grok Imagine karena kejadian ini.
“Kami berasumsi – salah sekarang – bahwa jika mereka telah menempatkan perlindungan apa pun untuk mencegah mereka meniru rupa selebriti, bahwa ia akan menjadi yang pertama dalam daftar, mengingat masalah yang mereka miliki,” katanya.
Perwakilan Taylor Swift telah dihubungi untuk memberikan komentar.
