Sekelompok bipartisan yang terdiri dari 35 jaksa agung negara bagian mengeluarkan surat terbuka kepada xAI pada hari Jumat, mendesak perusahaan untuk mengambil langkah-langkah segera untuk melindungi pengguna, terutama wanita dan gadis, dari gambar intim non-konsensual. Tindakan ini mengikuti kekhawatiran yang semakin meningkat atas kemampuan Grok untuk memproduksi gambar deepfake intim tanpa izin, termasuk gambar seksual anak-anak. Jaksa agung dari California dan Florida juga telah mengonfirmasi keterlibatan mereka dalam menangani masalah ini.
Surat tersebut menyoroti statistik yang mengkhawatirkan dari laporan oleh Center for Countering Digital Hate, yang mengungkapkan bahwa akun X Grok menghasilkan sekitar 3 juta gambar seksual dalam rentang waktu 11 hari, termasuk sekitar 23.000 gambar anak-anak. Meskipun akun X Grok telah dibatasi dari memperlihatkan individu yang sedang telanjang, surat tersebut mengklaim bahwa konten non-konsensual tetap tersedia di platform, meskipun ada kewajiban federal yang akan datang untuk penghapusan.
Tanggapan xAI terhadap pertanyaan dianggap meremehkan, melabeli kekhawatiran tersebut sebagai "Kebohongan Media Warisan." Surat dari jaksa agung, yang merujuk pada laporan WIRED, menuduh xAI mempromosikan kemampuan Grok untuk menciptakan gambar non-konsensual sebagai fitur. Mereka menyerukan xAI untuk menghilangkan kemampuan Grok untuk menggambarkan individu dalam pakaian yang memperlihatkan, menangguhkan pengguna yang melanggar, dan memberikan kontrol kepada pengguna atas konten mereka.
Seiring penyelidikan terhadap aktivitas Grok berlangsung, beberapa negara bagian mengambil langkah proaktif. Jaksa agung Arizona telah membuka penyelidikan terhadap Grok, menyatakan keprihatinan mendalam atas sifat mengganggu dari gambar yang dihasilkan. Jaksa agung California telah mengeluarkan surat penghentian dan pengabaian kepada xAI, menuntut tindakan segera untuk menghentikan pembuatan materi penyalahgunaan seksual anak dan gambar non-konsensual.
Persimpangan teknologi AI dan keselamatan anak telah memicu diskusi yang berkelanjutan di antara para pembuat undang-undang negara bagian. Banyak negara bagian telah memberlakukan undang-undang verifikasi usia yang bertujuan untuk mencegah anak di bawah umur mengakses konten eksplisit. Namun, penerapan undang-undang ini pada platform seperti X tetap kompleks, karena pejabat berjuang untuk mendefinisikan apa yang dianggap sebagai materi pornografi. Seiring situasi ini berkembang, jaksa agung negara bagian mendorong perlindungan yang lebih kuat dan langkah-langkah legislatif untuk melindungi populasi rentan dari penyalahgunaan konten yang dihasilkan oleh AI.