Pada pagi hari Rabu, sebuah insiden penembakan tragis terjadi di Minnesota, di mana agen federal menghadapi seorang pengemudi di dalam SUV. Rekaman dari lokasi menunjukkan dua agen yang mengenakan topeng mendekati kendaraan, dengan salah satu agen mencoba membuka pintu. Saat pengemudi mundur dan kemudian berbelok ke depan, seorang agen ketiga menembakkan senjata ke dalam kendaraan, yang mengakibatkan kematian Renee Good yang berusia 37 tahun.
Dalam beberapa jam setelah insiden tersebut, video beredar di media sosial, tetapi tidak ada yang menunjukkan agen tanpa topeng mereka. Namun, gambar yang dimodifikasi yang mengklaim menggambarkan agen tanpa topeng dengan cepat muncul secara online. Gambar-gambar ini, yang tampaknya merupakan tangkapan layar yang ditingkatkan oleh AI dari rekaman asli, telah memicu gelombang spekulasi dan informasi yang salah.
WIRED memeriksa berbagai gambar yang dihasilkan oleh AI dari agen yang diduga tersebut yang dibagikan di berbagai platform media sosial utama, termasuk X, Facebook, dan Instagram. Salah satu postingan oleh Claude Taylor, pendiri Mad Dog PAC yang anti-Trump, yang menampilkan gambar yang dimodifikasi oleh AI, menerima lebih dari 1,2 juta tampilan, mendorong seruan untuk mengidentifikasi agen tersebut. Postingan lain di Threads mendesak pengikut untuk fokus pada agen tersebut, mengabaikan keluarganya.
Para ahli memperingatkan bahwa teknologi AI dapat menghasilkan hasil yang menyesatkan, terutama dalam pengenalan wajah. Hany Farid, seorang profesor di UC-Berkeley, mencatat bahwa AI dapat menciptakan gambar yang menarik secara visual tetapi kurang akurat, terutama ketika setengah wajah tertutup. Ini menimbulkan kekhawatiran tentang keandalan identitas yang beredar secara online.
Beberapa individu telah melangkah lebih jauh, mengklaim telah mengidentifikasi agen tersebut dan mengaitkan nama mereka dengan akun media sosial, meskipun tidak ada bukti yang mendukung. WIRED mengonfirmasi bahwa setidaknya dua nama yang dibagikan tidak terkait dengan kasus tersebut. Chris Iles, wakil presiden komunikasi di Minnesota Star Tribune, menyatakan bahwa ada kampanye disinformasi yang terkoordinasi yang secara keliru menamai agen ICE yang terlibat, menjelaskan bahwa CEO mereka, Steve Grove, tidak terhubung dengan insiden tersebut. Penyalahgunaan AI dalam mengidentifikasi individu ini bukanlah hal yang belum pernah terjadi sebelumnya, karena situasi serupa telah muncul di masa lalu setelah peristiwa kekerasan.