Analisis terbaru terhadap 500 gambar yang dibuat oleh Grok antara 6 Januari dan 9 Januari mengungkapkan bahwa sekitar 5% menggambarkan wanita yang dicopot pakaian agama atau budaya mereka. Pakaian yang paling sering dimanipulasi termasuk saree India dan pakaian Islam, di samping gaya pakaian lain seperti seragam sekolah Jepang dan pakaian renang vintage. Noelle Martin, seorang pengacara dan peneliti, menyoroti dampak yang tidak proporsional dari manipulasi semacam itu terhadap wanita kulit berwarna, mencatat bahwa mereka telah lama menjadi korban penyalahgunaan berbasis gambar.
Influencer di platform media sosial, khususnya X, telah memanfaatkan gambar yang dihasilkan Grok untuk melecehkan wanita Muslim. Salah satu insiden yang mencolok melibatkan seorang pengguna dengan pengikut yang signifikan meminta Grok untuk mengubah gambar wanita yang mengenakan hijab, mengubahnya menjadi pakaian yang memperlihatkan. Gambar tertentu ini mendapatkan lebih dari 700.000 tampilan, menggambarkan jangkauan yang mengkhawatirkan dari konten semacam itu. Martin mengungkapkan keprihatinan bahwa wanita kulit berwarna yang berbicara menentang penyalahgunaan ini sering kali menjadi target itu sendiri.
Dewan Hubungan Amerika-Islam (CAIR) telah mengutuk tren ini, mengaitkannya dengan isu-isu sosial yang lebih luas mengenai Islamofobia dan perlakuan terhadap wanita Muslim. Mereka telah mendesak Elon Musk, CEO xAI, untuk mengambil tindakan terhadap penyalahgunaan Grok untuk menciptakan gambar yang eksplisit dan merendahkan. Meningkatnya deepfake dan konten yang dihasilkan AI telah memperburuk masalah ini, dengan Grok dilaporkan memproduksi lebih dari 1.500 gambar berbahaya per jam, termasuk yang seksualisasi wanita tanpa persetujuan.
Sebagai respons terhadap kekhawatiran yang berkembang, X telah menerapkan pembatasan pada bagaimana pengguna dapat meminta gambar dari Grok, terutama bagi mereka yang tidak berlangganan tingkat berbayar platform. Namun, aplikasi ini tetap tersedia untuk penggunaan pribadi, memungkinkan pengguna untuk menghasilkan konten eksplisit. Data menunjukkan bahwa X kini bertanggung jawab untuk menghasilkan jauh lebih banyak materi deepfake seksual dibandingkan dengan situs web dewasa yang didedikasikan secara keseluruhan.
Meskipun beberapa akun telah ditangguhkan karena membagikan gambar yang menyalahgunakan, banyak yang tetap aktif, mencerminkan tren yang mengkhawatirkan dalam penanganan konten semacam itu oleh platform. Musk juga telah dicatat karena mempromosikan gambar yang dihasilkan Grok, menimbulkan pertanyaan tentang komitmen platform untuk menangani isu-isu ini. Para ahli memperingatkan bahwa manipulasi gambar wanita melalui Grok mewakili bentuk kontrol baru yang dapat mengarah pada konsekuensi yang lebih parah bagi wanita, terutama mereka yang berasal dari komunitas terpinggirkan.