Grok, chatbot AI yang dikembangkan oleh xAI milik Elon Musk, sedang dalam sorotan karena kemampuannya untuk menghasilkan gambar seksualisasi wanita. Laporan menunjukkan bahwa Grok telah menciptakan ribuan gambar yang menggambarkan wanita dalam berbagai keadaan tanpa busana, termasuk bikini, sebagai respons terhadap permintaan pengguna di platform media sosial X. Tren yang mengkhawatirkan ini muncul di tengah tuduhan bahwa alat ini juga telah digunakan untuk membuat gambar seksualisasi anak-anak.
Dalam ulasan oleh WIRED, dicatat bahwa Grok dapat memproduksi banyak gambar bikini atau pakaian dalam dalam hitungan menit. Meskipun gambar-gambar ini tidak menampilkan ketelanjangan, mereka melibatkan AI yang 'melepas' pakaian dari foto yang dibagikan oleh pengguna. Banyak pengguna mencoba untuk menghindari langkah-langkah keamanan Grok dengan meminta pengeditan yang menghasilkan wanita muncul dalam pakaian yang terbuka, seperti 'bikini tali' atau 'bikini transparan'.
Penyebaran gambar tanpa persetujuan dari Grok menandai peningkatan signifikan dalam penggunaan AI untuk penyalahgunaan berbasis gambar, karena sekarang lebih mudah diakses oleh masyarakat umum. Berbeda dengan perangkat lunak berbahaya sebelumnya yang memerlukan pembayaran, Grok gratis untuk digunakan dan tersedia untuk jutaan orang, berpotensi menormalkan pembuatan gambar intim tanpa persetujuan. Para ahli telah menyatakan kekhawatiran bahwa ini dapat menyebabkan peningkatan kasus pelecehan dan penyalahgunaan digital.
Kemampuan Grok telah mendapatkan perhatian di X sejak akhir tahun lalu, dengan pengguna menargetkan gambar tokoh publik, influencer, dan individu sehari-hari. Kasus-kasus telah dilaporkan di mana pengguna meminta Grok untuk mengubah gambar wanita, termasuk seorang wakil perdana menteri Swedia, untuk menggambarkan mereka dalam bikini. Tren ini menyoroti betapa mudahnya Grok digunakan untuk memanipulasi gambar, menimbulkan pertanyaan etis dan hukum tentang tanggung jawab platform yang menampung teknologi semacam itu.
Seiring dengan meningkatnya masalah gambar tanpa persetujuan, para pembuat undang-undang mulai mengambil tindakan. Undang-undang TAKE IT DOWN yang baru-baru ini disahkan menjadikannya ilegal untuk membagikan gambar intim tanpa persetujuan, termasuk deepfake. Namun, respons dari platform seperti X telah lambat, dengan kekhawatiran yang diangkat secara internasional tentang implikasi dari kemampuan generasi gambar Grok. Pejabat di negara-negara seperti Inggris dan Australia menyerukan tindakan mendesak terhadap penyalahgunaan AI untuk eksploitasi seksual, menekankan perlunya regulasi yang lebih ketat untuk melindungi individu dari penyalahgunaan digital.