Meta tiba-tiba menghapus fitur baru yang memungkinkan orang menggunakan alat kecerdasan buatan (AI) untuk membuat gambar palsu dari konten pengguna di Instagram.
Fitur ini merupakan bagian dari peluncuran luas Muse Image, alat pembuat gambar AI baru yang dimiliki perusahaan induk Instagramdirilis pada hari Selasa.
Ini memungkinkan pengguna chatbot Meta AIuntuk menandai akun publik di Instagram dan dengan cepat menggunakan konten di akun tersebut untuk membuat konten dan gambar yang dibuat atau diubah oleh AI.
Fiturnya dengan cepat memicu pukulan balik karena masalah privasi, membuat Meta mengakui bahwa mereka “meleset” dan memang demikian adanya “tidak lagi tersedia”.
Muse Image adalah perusahaan teknologi pertama yang terjun dalam pembuatan gambar AI, namun menghadapi reaksi balik karena pengguna Instagram ikut serta secara default.
Artinya, siapa pun yang memiliki akun publik dapat menggunakan kemiripannya tanpa sepengetahuan atau izin mereka.
Serikat pekerja Hollywood, Sag-Aftra, menggambarkan perubahan arah ini sebagai sebuah “kemenangan”. Sebelumnya mereka mendesak para anggotanya dan “semua pengguna Instagram” untuk mengambil tindakan guna melindungi kemiripan mereka dengan menyatakan bahwa telah terjadi “kesalahan perhitungan sentimen publik mengenai bahaya dan dampak buruk yang nyata dari penggunaan tersebut”.
Badan amal hak asasi manusia yang berbasis di London, Privacy International, juga mengkritik fitur tersebut dan mengatakan kepada BBC bahwa itu adalah “tanda terbaru bahwa perusahaan AI melihat gambar dan data orang sebagai bahan mentah untuk dieksploitasi”.
“Tujuan kami adalah untuk menyediakan alat kreatif yang berguna dan memberi orang kendali atas apakah konten publik mereka dapat dirujuk dengan cara ini,” tambah Meta dalam keputusannya untuk menarik fitur tersebut. “Kami telah mendengar tanggapannya.”
Saat Meta mengumumkan Muse Image, luarperusahaan itu mengatakan itu terbatas pada Instagram, tetapi lebih banyak fitur dan integrasi AI direncanakan untuk WhatsApp, Facebook, dan Messenger.
Ia juga memiliki alat video AI yang sedang dikembangkan.
Meta menolak berkomentar lebih lanjut.
