Sistem Analisis Ancaman Otonom (ATA) dimulai selama hackathon Amazon pada Agustus 2024 dan sejak itu menjadi alat penting bagi tim keamanan perusahaan. Berbeda dengan metode pengujian keamanan tradisional yang mengandalkan satu agen AI, ATA memanfaatkan beberapa agen AI khusus yang bersaing dalam tim untuk menganalisis teknik serangan nyata dan mengusulkan langkah-langkah keamanan untuk evaluasi manusia.
Steve Schmidt, kepala petugas keamanan Amazon, menjelaskan bahwa tujuan utama ATA adalah untuk mengatasi keterbatasan pengujian keamanan konvensional, seperti cakupan yang tidak memadai dan kesulitan dalam menjaga kemampuan deteksi tetap mutakhir di lanskap ancaman yang cepat berubah. Ia menekankan bahwa tanpa sumber daya manusia yang cukup, sulit untuk menganalisis semua perangkat lunak dan aplikasi secara menyeluruh, dan kegagalan untuk memperbarui sistem deteksi berarti melewatkan ancaman kritis.
Untuk meningkatkan efektivitas ATA, Amazon menciptakan lingkungan pengujian khusus dengan fidelitas tinggi yang secara akurat mereplikasi sistem produksinya. Ini memungkinkan ATA untuk menganalisis data telemetri nyata dan menghasilkan wawasan yang dapat ditindaklanjuti. Tim keamanan memastikan bahwa setiap teknik dan kemampuan deteksi yang dikembangkan oleh ATA divalidasi melalui pengujian otomatis yang nyata, menghasilkan log yang dapat diverifikasi yang mengonfirmasi efektivitas pertahanan yang diusulkan.
Kolaborasi antara agen-agen khusus ATA meniru kerja tim manusia dalam pengujian keamanan, dengan setiap agen menyumbangkan keahliannya untuk mencapai tujuan bersama. Insinyur keamanan Amazon, Michael Moran, mencatat bahwa AI memungkinkan generasi cepat teknik ofensif baru dan strategi remediasi, secara signifikan mempercepat proses dibandingkan dengan upaya manusia saja. Kolaborasi ini tidak hanya membuat pekerjaan lebih menarik bagi insinyur tetapi juga memungkinkan operasi dengan kecepatan mesin.
ATA telah menunjukkan efektivitasnya dalam mengidentifikasi kemampuan serangan dan menghasilkan pertahanan. Misalnya, ia berhasil menganalisis teknik shell terbalik Python yang digunakan oleh peretas dan mengusulkan langkah-langkah deteksi yang efektif dalam hitungan jam. Meskipun ATA beroperasi secara otonom, ia mengadopsi pendekatan 'manusia dalam loop', yang memerlukan masukan manusia sebelum menerapkan perubahan pada sistem keamanan. Schmidt menekankan bahwa ATA tidak dimaksudkan untuk menggantikan pengujian keamanan manusia tetapi lebih untuk meringankan tugas-tugas membosankan, memungkinkan tim keamanan untuk fokus pada tantangan yang lebih kompleks. Fase berikutnya melibatkan penggunaan ATA untuk respons insiden waktu nyata guna meningkatkan identifikasi dan remediasi ancaman.