Pada Jumat pagi, akun Grok di X mengumumkan bahwa pembuatan dan pengeditan gambar akan dibatasi untuk pelanggan berbayar, mengarahkan pengguna ke langganan tahunan seharga $395. Perubahan ini mengikuti reaksi keras terhadap X dan xAI, perusahaan di balik Grok, di tengah penyelidikan tentang pembuatan konten eksplisit yang tidak konsensual. Perdana Menteri Inggris Keir Starmer telah menyarankan bahwa X bisa dilarang di Inggris karena masalah ini, menyebut tindakan tersebut sebagai ilegal.
Baik X maupun xAI belum secara resmi mengonfirmasi pergeseran ke model berbayar untuk pembuatan gambar. Seorang juru bicara X mengakui pertanyaan tetapi tidak memberikan komentar lebih lanjut. Sebelumnya, X menyatakan komitmennya untuk memerangi konten ilegal, termasuk materi penyalahgunaan seksual anak. Meskipun demikian, baik X maupun Grok tetap tersedia di toko aplikasi, berbeda dengan platform lain yang telah melarang fitur serupa.
Selama lebih dari seminggu, pengguna telah meminta Grok untuk mengedit gambar wanita untuk menghapus pakaian, sering kali meminta gaya tertentu seperti bikini transparan. Meskipun umpan publik gambar Grok menunjukkan lebih sedikit permintaan yang dipenuhi pada hari Jumat, sistem ini masih menghasilkan gambar seksual untuk pengguna dengan akun terverifikasi. Para ahli mencatat bahwa meskipun volume gambar semacam itu mungkin telah menurun, kemampuan untuk menghasilkan gambar tersebut tetap ada.
Sebuah tinjauan oleh WIRED menemukan bahwa Grok terus menghasilkan gambar berdasarkan permintaan untuk konten eksplisit, termasuk lingerie dan pakaian seksual lainnya, meskipun telah diterapkan peringatan konten. Selain itu, situs web dan aplikasi Grok yang berdiri sendiri telah digunakan untuk membuat video seksual grafis, dengan laporan menunjukkan bahwa fitur-fitur ini masih dapat diakses tanpa batasan.
Para ahli mengkritik perubahan ini sebagai tidak memadai, berargumen bahwa ini hanya memindahkan masalah di balik paywall daripada mengatasi masalah mendasar dari gambar yang tidak konsensual. Emma Pickering dari badan amal Inggris Refuge menggambarkan keputusan ini sebagai monetisasi penyalahgunaan, sementara yang lain menunjukkan bahwa masalah mendasar dengan teknologi ini tetap tidak teratasi. Pemerintah Inggris juga mengutuk langkah ini, menyatakan bahwa ini mengubah fitur AI yang berbahaya menjadi layanan premium, yang gagal melindungi korban dengan memadai.