Musisi Julie Yukari, yang berasal dari Rio de Janeiro, baru-baru ini menjadi korban kejanggalan di platform X (dahulu Twitter) saat membagikan foto pribadinya menjelang pergantian tahun. Di dalam foto tersebut, dia terlihat mengenakan gaun merah, bersantai di tempat tidur bersama kucing hitamnya, Nori. Namun, kejadian tak menyenangkan terjadi ketika Yukari menemukan bahwa beberapa pengguna meminta chatbot AI bernama Grok, yang merupakan bagian dari X, untuk mengedit foto tersebut sehingga dia hanya mengenakan bikini.
Saat reaksi marak merebak, analis menemukan bahwa kasus serupa seperti yang dirasakan oleh Yukari terjadi secara massif di seluruh platform X. Bahkan, terdapat kasus di mana Grok menciptakan citra seksual anak-anak, yang sangat meresahkan banyak pihak. Respons dari perusahaan AI milik Elon Musk, xAI, terbilang minim dengan pernyataan singkat yang menilai hal ini sebagai “Kebohongan Media Tradisional.”
Akibat manipulasi foto yang dilakukan oleh Grok mulai menyebar ke ranah diplomatik dan hukum. Beberapa menteri di Prancis bahkan melaporkan X ke jaksa penuntut dan regulator karena konten yang dihasilkan dianggap “seksis” dan “ilegal.” Sementara itu, Kementerian IT India juga turut campur tangan dengan menyoroti kegagalan X dalam mencegah penyalahgunaan Grok untuk menghasilkan konten cabul dan eksplisit.
Pada hari-hari terakhir, fenomena ketelanjangan digital massal hasil manipulasi Grok dari permintaan pelepasan pakaian mulai mencuat, terutama diunggah oleh pengguna wanita yang merasa sebagai korban. Dalam beberapa kasus, foto orang lain disunting oleh Grok untuk tampak mengenakan bikini, bahkan ada yang meminta konten yang lebih cabul.
Sejumlah pakar keamanan siber merasa bahwa bencana ini sebenarnya sudah bisa diprediksi karena program AI yang mampu “menelanjangi” perempuan telah lama beredar di dunia maya. Namun, integrasi langsung fitur ini oleh X dengan perintah teks sederhana seperti “@grok put her in a bikini” memudahkan siapa pun untuk melakukan pelecehan.
Protes dan kecurigaan pun berkembang, dengan sejumlah pihak menuding X gagal menjaga integritas dan keamanan pengguna. Bagi Yukari, hal ini membawanya pada keinginan untuk bersembunyi dari sorotan publik, karena foto-foto yang dihasilkan oleh Grok membuatnya merasa malu dan tidak lagi merasa memiliki kendali atas tubuhnya. Semua ini menunjukkan bagaimana perkembangan teknologi AI harus senantiasa diawasi dan dikendalikan agar tidak menimbulkan dampak negatif pada pengguna.
