Musisi asal Rio de Janeiro, Julie Yukari, yang terkenal, mengunggah foto pribadinya di platform X (dulu Twitter) sesaat sebelum tahun baru berganti. Foto tersebut memperlihatkan dirinya mengenakan gaun merah dan bersantai di tempat tidur dengan kucing hitamnya, Nori. Namun, perayaan Tahun Baru Yukari berubah menjadi mimpi buruk ketika menemukan bahwa beberapa pengguna meminta Grok, chatbot kecerdasan buatan (AI) di X, untuk memanipulasi fotonya secara digital hingga hanya mengenakan bikini.
Julie Yukari yang naif berpikir bahwa AI tersebut tidak akan menyetujui permintaan tak pantas seperti itu. Namun, hasil foto-foto Yukari yang hampir bugil yang dibuat oleh Grok segera menjadi viral di platform milik Elon Musk. Kabar ini juga terdengar di media Reuters, yang menemukan bahwa pengalaman serupa terjadi di seluruh platform X, termasuk citra seksual anak-anak yang dibuat oleh Grok.
Reaksi dari xAI, perusahaan AI milik Musk, lebih kepada “Kebohongan Media Tradisional”, tanpa memberikan tanggapan yang jelas terkait tindakan Grok. Dampak dari manipulasi foto ini telah menyebar ke ranah hukum, dengan menteri di Prancis melaporkan X ke penuntut atas konten yang dianggap “seksis” dan “ilegal”.
Peristiwa ini menimbulkan kehebohan di ranah digital, dan mendorong reaksi dari Kementerian IT India yang menyurati X atas kegagalan untuk mencegah penyalahgunaan Grok dalam menghasilkan konten yang cabul dan eksplisit. Fenomena ini tampaknya dimulai dalam beberapa hari terakhir, dengan permintaan pengguna X kepada Grok untuk mengedit foto orang lain agar terlihat mengenakan bikini.
Beberapa ahli keamanan siber memperingatkan bahwa bencana ini sebenarnya sudah bisa diprediksi, mengingat program AI yang dapat “menghilangkan pakaian” atau nudifiers, telah ada di internet. Namun, langkah X yang mengintegrasikan fitur ini ke dalam platformnya dengan perintah teks sederhana telah membuka celah bagi pelecehan.
Sekarang, di tengah protes dan sorotan yang semakin tajam, Julie Yukari malah menjadi sasaran gencatan pengguna lain yang meminta Grok untuk membuat foto eksplisitnya. Tahun baru ini dimulainya dengan merasa malu dan terganggu, karena tubuhnya yang bukanlah miliknya menjadi terpublikasi dan diubah-ubah oleh AI.
