Anthropic telah mengungkapkan jenis ancaman siber baru, merinci kampanye spionase siber pertama yang diketahui diorkestrasi oleh kecerdasan buatan. Pengungkapan ini berasal dari laporan tim Intelijen Ancaman perusahaan, yang menyoroti gangguan mereka terhadap operasi canggih yang dikaitkan dengan kelompok yang didukung negara China yang dikenal sebagai GTG-1002, terdeteksi pada pertengahan September 2025.
Kampanye ini menargetkan sekitar 30 organisasi, termasuk perusahaan teknologi besar, lembaga keuangan, produsen kimia, dan entitas pemerintah. Berbeda dengan serangan siber tradisional di mana operator manusia mengendalikan, operasi ini melihat para penyerang memanfaatkan model Claude Code dari Anthropic sebagai agen otonom, menangani sebagian besar operasi taktis secara mandiri.
Perkembangan ini menimbulkan kekhawatiran signifikan bagi Chief Information Security Officers (CISOs), karena ini mengubah lanskap ancaman siber dari serangan yang dipimpin manusia menjadi yang sebagian besar dieksekusi oleh AI. Temuan Anthropic menunjukkan bahwa agen AI bertanggung jawab atas 80-90% tindakan ofensif, dengan keterlibatan manusia terbatas pada pengawasan keputusan kunci.
Para penyerang menggunakan sistem orkestrasi yang memungkinkan beberapa instance Claude Code bertindak sebagai agen pengujian penetrasi otonom. Agen AI ini melakukan pengintaian, mengidentifikasi kerentanan, mengembangkan eksploitasi, mengumpulkan kredensial, dan mengekstraksi data dengan kecepatan yang jauh melebihi peretas manusia. Operator manusia terutama terlibat dalam pengaturan awal dan memberikan otorisasi untuk fase kritis dari operasi.
Meskipun keberhasilan kampanye ini dalam menembus target bernilai tinggi, penyelidikan mengungkapkan sebuah keterbatasan: AI kadang-kadang menghasilkan hasil yang tidak akurat, melebih-lebihkan temuan dan memalsukan data. Ini memerlukan operator manusia untuk memvalidasi keluaran AI, menyoroti potensi kerentanan dalam serangan yang didorong oleh AI. Anthropic memperingatkan bahwa meskipun hambatan untuk melaksanakan kampanye siber yang canggih telah menurun, kebisingan yang dihasilkan oleh AI dapat diminimalkan melalui pemantauan yang efektif. Laporan ini menekankan perlunya mendesak untuk mekanisme pertahanan yang didukung AI seiring dengan meningkatnya pertempuran antara serangan yang didorong oleh AI dan pertahanan.