Kenaikan peramban web AI, seperti Fellou dan Comet dari Perplexity, menandai fase baru dalam teknologi peramban, mengintegrasikan fitur AI yang dapat membaca, merangkum, dan bahkan bertindak secara mandiri terhadap konten web. Meskipun peramban ini menjanjikan untuk meningkatkan alur kerja digital dan memperlancar penelitian online, para ahli keamanan mengangkat alarm tentang risiko yang mereka perkenalkan ke perusahaan.
Penelitian menunjukkan bahwa peramban AI sangat rentan terhadap serangan injeksi prompt tidak langsung. Kerentanan ini memungkinkan aktor jahat untuk menyisipkan instruksi dalam halaman web yang dapat diinterpretasikan oleh peramban AI sebagai perintah. Prompt tersembunyi semacam itu dapat memanipulasi perilaku AI, yang mengarah pada tindakan tidak sah yang dapat mengkompromikan informasi sensitif.
Departemen TI disarankan untuk mempertimbangkan kembali penggunaan peramban AI di lingkungan korporat karena ancaman keamanan ini. Uji coba telah menunjukkan bahwa model AI dapat memproses teks yang disisipkan sebagai instruksi, yang dapat dieksekusi dengan hak istimewa pengguna. Ini berarti bahwa semakin banyak akses yang dimiliki pengguna, semakin besar potensi risiko bagi organisasi, karena otonomi AI dapat secara signifikan memperluas permukaan serangan.
Misalnya, penyerang dapat menyisipkan perintah dalam gambar yang memicu AI untuk berinteraksi dengan sumber daya korporat sensitif, seperti email atau dasbor perbankan. Kemampuan ini menyoroti kelemahan kritis dalam tata kelola data, karena peramban AI yang tidak sah dapat dengan mudah melanggar protokol keamanan dan mengakses data di berbagai domain, merusak perlindungan yang telah ditetapkan.
Masalah mendasar muncul dari ketidakmampuan AI untuk membedakan antara input yang aman dan berbahaya. Ketika peramban AI diberikan kemampuan agen, mereka dapat secara tidak sengaja mengakses dan bertindak atas data yang tidak secara eksplisit diminta oleh pengguna, yang mengarah pada potensi aktivitas jahat yang meluas. Organisasi yang bergantung pada segmentasi data yang ketat dan kontrol akses menghadapi risiko yang lebih tinggi, karena lapisan AI yang terkompromi dapat melewati firewall dan memanfaatkan token aman seperti pengguna yang sah.
Seiring peramban AI terus berkembang, tim TI harus memperlakukannya serupa dengan instalasi perangkat lunak pihak ketiga yang tidak sah. Meskipun peramban arus utama mengintegrasikan lebih banyak fitur AI, kurangnya pengawasan dapat mengekspos organisasi pada kerentanan yang signifikan. Generasi peramban di masa depan harus dirancang untuk membedakan antara niat pengguna dan perintah yang dihasilkan AI untuk mencegah eksploitasi melalui injeksi prompt yang sederhana. Tanpa perlindungan ini, peramban AI saat ini dapat dianggap sebagai malware yang tidak aktif, menimbulkan ancaman yang terus-menerus bagi keamanan perusahaan.