Pembaruan terbaru pada generasi gambar Grok di X telah memperkenalkan beberapa langkah keamanan, tetapi peneliti dan jurnalis telah menemukan bahwa aplikasi dan situs web Grok terus memproduksi gambar bergaya 'telanjang' dan konten pornografi. Paul Bouchaud, seorang peneliti utama di AI Forensics, mengonfirmasi bahwa mereka masih dapat menghasilkan ketelanjangan fotorealistik di Grok.com, menunjukkan bahwa pembatasan di X tidak sepenuhnya berlaku untuk platform mandiri tersebut.
Pengujian yang dilakukan oleh WIRED mengungkapkan bahwa pengguna dapat berhasil menghapus pakaian dari gambar pria tanpa ada pembatasan di situs web Grok. Sementara aplikasi Grok di Inggris mengharuskan pengguna untuk memasukkan tahun kelahiran mereka sebelum menghasilkan gambar tertentu, aplikasi tersebut masih memungkinkan pembuatan konten seksual. Outlet lain, termasuk The Verge dan Bellingcat, juga melaporkan temuan serupa, menimbulkan kekhawatiran tentang kemampuan Grok dan X untuk mengontrol generasi konten eksplisit.
Sejak awal tahun, perusahaan Musk, termasuk xAI dan X, telah menghadapi pengawasan karena memfasilitasi pembuatan gambar intim yang tidak konsensual dan konten eksplisit. Investigasi telah diluncurkan oleh pejabat di beberapa negara, termasuk AS, Inggris, dan Australia, mengutuk platform-platform tersebut atas peran mereka dalam memungkinkan konten semacam itu.
Pada hari Rabu, akun Keamanan X mengumumkan pembaruan pada fungsionalitas Grok, mengklaim telah menerapkan langkah-langkah untuk mencegah generasi gambar yang menampilkan orang nyata dalam pakaian yang terbuka. Mereka menyatakan bahwa aturan ini berlaku untuk semua pengguna, terlepas dari status langganan, dan menyebutkan upaya untuk memblokir pembuatan gambar semacam itu di yurisdiksi di mana hal itu ilegal.
Meskipun ada pembaruan ini, Musk telah menyarankan bahwa beberapa konten eksplisit yang dihasilkan AI diperbolehkan dalam kondisi tertentu. Dia menunjukkan bahwa Grok dapat mengizinkan ketelanjangan bagian atas tubuh orang dewasa imajiner, sejalan dengan standar yang terlihat dalam film berperingkat R. Namun, pengenalan 'mode pedas' tahun lalu, yang memungkinkan pembuatan konten seksual, telah menghasilkan hasil yang beragam, dengan pengguna melaporkan tingkat keberhasilan yang bervariasi dalam menghasilkan gambar eksplisit. Seiring situasi ini berkembang, masih harus dilihat seberapa efektif langkah-langkah ini dalam membatasi generasi konten yang tidak pantas di Grok.