Mondayreview.com– Perkembangan Agentic AI membawa perubahan besar dalam strategi keamanan siber perusahaan. AI agent kini dapat mengakses data, menjalankan kode, memanggil API, menggunakan aplikasi, serta mengambil keputusan berdasarkan tujuan yang diberikan. Kemampuan tersebut membuat permukaan serangan (attack surface) tidak lagi hanya berada pada model AI, tetapi juga pada tools, identitas, data, dan workflow yang terhubung dengan agent.
Menurut Palo Alto Networks Unit 42, kemampuan AI agent yang dapat melakukan tindakan secara otonom menciptakan risiko baru karena penyerang dapat mengeksploitasi agent untuk mempercepat tahapan serangan siber. Dalam investigasinya, Unit 42 menunjukkan bagaimana AI dapat membantu aktivitas seperti reconnaissance, pengembangan malware, dan eksploitasi kerentanan.
Salah satu ancaman yang semakin mendapat perhatian adalah prompt injection. Serangan ini terjadi ketika instruksi berbahaya disisipkan ke dalam data yang dibaca agent, misalnya halaman web, dokumen, email, atau sumber eksternal. Karena agent memiliki kemampuan untuk menindaklanjuti informasi tersebut, manipulasi konteks berpotensi membuat agent melakukan tindakan yang sebenarnya tidak diinginkan pengguna.
Risiko tersebut menjadi lebih serius ketika agent mempunyai hak akses yang luas. Sebuah agent yang awalnya ditugaskan untuk membaca laporan, misalnya, dapat menjadi titik masuk untuk mengakses sistem lain apabila kredensial dan kewenangannya tidak dibatasi. Karena itu, pendekatan keamanan tradisional yang hanya berfokus pada perimeter jaringan semakin tidak memadai untuk lingkungan agentic.
Menurut IBM, organisasi perlu memperkuat governance dan pengawasan terhadap AI agent seiring meningkatnya penggunaan sistem otonom. Pengelolaan identitas, hak akses, pemantauan aktivitas, evaluasi risiko, serta mekanisme pengendalian menjadi bagian penting dari penerapan agentic AI di lingkungan enterprise.
Perusahaan juga mulai mengembangkan konsep agent observability, yakni kemampuan untuk memantau apa yang dilakukan agent selama menjalankan sebuah tugas. Sistem observability dapat mencatat tools yang digunakan, sumber data yang diakses, keputusan yang dibuat, hingga hasil dari setiap tindakan. Dengan demikian, ketika terjadi kesalahan, organisasi dapat melakukan investigasi dan mengetahui titik masalahnya.
Pendekatan lain adalah menerapkan prinsip least privilege, yaitu memberikan agent akses seminimal mungkin sesuai dengan kebutuhan pekerjaannya. Agent customer service tidak harus memiliki akses untuk melakukan pembayaran, sementara agent analisis data tidak perlu memiliki kewenangan mengubah database produksi. Pembatasan semacam ini dapat mengurangi dampak jika sebuah agent berhasil dimanipulasi atau mengalami kegagalan.
Ke depan, keamanan Agentic AI diperkirakan berkembang dari sekadar perlindungan terhadap model menjadi perlindungan terhadap seluruh rantai tindakan agent. Model, identitas, data, tools, API, workflow, dan manusia yang memberikan otorisasi harus dipandang sebagai satu kesatuan sistem keamanan.
Perubahan tersebut menunjukkan bahwa semakin “mandiri” sebuah AI agent, semakin penting pula mekanisme untuk membatasi kemandiriannya. Tantangan perusahaan bukan hanya membuat agent mampu bekerja tanpa manusia, tetapi memastikan agent hanya melakukan apa yang diizinkan, dapat dipantau ketika bekerja, dan dapat dihentikan ketika menyimpang dari tujuan.
