Apa Itu Keamanan AI Agenik?

TL; DR #

Keamanan AI berbasis agen adalah praktik mengamankan sistem AI yang bertindak, bukan hanya menjawab: agen yang merencanakan berbagai langkah, menyimpan memori, memanggil alat melalui protokol seperti MCP, dan beroperasi dengan kredensial yang didelegasikan di dalam perangkat lunak dan siklus hidup pengembangan Anda. Ini merupakan himpunan bagian yang lebih besar dari keamanan tingkat permintaan, karena mode kegagalannya bukan lagi jawaban yang salah. Ini adalah tindakan yang tidak disengaja yang dilakukan atas nama organisasi Anda.

Siapa pemiliknya: Keamanan aplikasi, bekerja dengan identitas. Bukan fungsi AI terpisah.

Apa yang membuatnya berbeda: Empat sifat yang tidak dimiliki chatbot: otonomi, akses ke alat, memori permanen, dan identitas yang didelegasikan.

Taksonomi referensi: OWASP Top 10 untuk Aplikasi Agen 2026, ASI01 hingga ASI10, diterbitkan Desember 2025.

Di mana risiko sebenarnya berada: Sebagian besar berkaitan dengan identitas, rantai pasokan, dan eksekusi, bukan model itu sendiri.

Apa Itu Keamanan AI Agenik? #

Model yang menulis sesuatu yang salah adalah hal yang memalukan. Agen yang menulis sesuatu yang salah ke dalam perintah shell, sebuah pull request atau basis data produksi merupakan sebuah insiden.

Pergeseran tunggal itu, dari menghasilkan teks menjadi mengambil tindakan, adalah alasan utama keberadaan disiplin ilmu ini. Siapa pun yang bertanya apa itu keamanan AI agenik biasanya bereaksi terhadap momen spesifik: seseorang memperhatikan bahwa seorang asisten di organisasi teknik sekarang memiliki kredensial, akses ke alat, memori persisten, dan otonomi untuk menghubungkannya tanpa campur tangan manusia di setiap langkah.

Keamanan AI berbasis agen adalah serangkaian praktik yang menjaga kemampuan tersebut tetap berada dalam batasan yang Anda pilih. Ini mencakup alat apa yang dapat diakses oleh agen, identitas apa yang digunakannya, apa yang diingatnya antar sesi, agen lain mana yang dipercayanya, dan apa yang terjadi pada saat agen mencoba mengeksekusi sesuatu yang tidak dapat dibatalkan. → Apa itu agenik? SDLC?

Arti Keamanan AI Agentik: Empat Properti yang Menciptakan Risiko #

Makna keamanan AI berbasis agen menjadi konkret begitu Anda melihat apa yang dimiliki agen yang tidak dimiliki chatbot. Empat properti, masing-masing melanggar kontrol yang telah diandalkan oleh keamanan aplikasi selama bertahun-tahun.

Sepuluh Risiko: OWASP Top 10 untuk Aplikasi Agentik #

Taksonomi referensi adalah OWASP Top 10 untuk Aplikasi Agen 2026, diterbitkan pada 9 Desember 2025 oleh Inisiatif Keamanan Agen OWASP dengan lebih dari 100 kontributor. Ini memperluas LLM Top 10 alih-alih menggantikannya, karena sebagian besar agen juga merupakan aplikasi LLM dan mewarisi risiko yang sama.

Perhatikan bentuk daftarnya. Hanya dua atau tiga entri yang membahas tentang model tersebut. Sisanya adalah masalah identitas, rantai pasokan, eksekusi, dan kepercayaan, itulah sebabnya keamanan AI berbasis agen berada di bawah tim yang sudah memilikinya. keamanan aplikasi alih-alih dalam fungsi AI terpisah.

Apa Itu Keamanan AI Agen dalam Praktik? Enam Kontrol #

Kerangka kerja menjelaskan risiko. Ini adalah kontrol yang mengurangi risiko tersebut, dalam urutan yang paling mudah diterapkan oleh sebagian besar tim.

• Lakukan inventarisasi terhadap agen dan server MCP yang benar-benar berjalan. Bukan daftar yang disetujui, melainkan daftar yang sebenarnya. Penggunaan alat agen yang tidak disetujui adalah hal yang biasa, bukan pengecualian, dan Anda tidak dapat mengukur apa yang belum Anda temukan.
• Tentukan cakupan permukaan alat per agen. Prinsip hak akses minimal diterapkan pada alat, bukan hanya pada pengguna. Kewenangan yang berlebihan justru muncul karena kemudahan, bukan karena serangan.
• Tinjau konfigurasi seperti halnya kode. Berkas keterampilan, berkas aturan, dan definisi server MCP adalah instruksi yang memiliki otoritas. Dokumen MITRE ATLAS mendokumentasikan hal tersebut. aturan file pintu belakang Sebagai studi kasus nyata, bukan sekadar eksperimen pemikiran.
• Identitas terpisah untuk setiap agen. Jika log audit tidak dapat memberi tahu Anda agen mana yang melakukan suatu tindakan, respons insiden Anda dimulai dengan penggalian arkeologis.
• Terapkan pada saat instalasi dan eksekusi. Saat sebuah paket berbahaya atau server MCP yang tidak disetujui berjalan di mesin pengembang, di situlah pemblokiran menjadi tidak murah lagi. → Firewall ketergantungan di titik akhir
• Simpan jejak yang tersisa setelah kejadian tersebut. Asal usul kapal, deteksi anomali di seluruh pipelines dan titik akhir, yang dikaitkan kembali dengan identitas yang menghasilkannya.

Kode yang dihasilkan oleh agen-agen ini perlu diteliti dengan cermat, sama seperti agen-agen itu sendiri. 2025 GenAI Code Security Laporan yang mencakup lebih dari 100 model di 80 tugas menemukan bahwa 45% sampel yang dihasilkan AI memperkenalkan kerentanan OWASP Top 10 sejak awal. Kecepatan pembuatan tidak serta merta menjamin keamanan. → Bagaimana DevAI memvalidasi kode yang dihasilkan di IDE

Apa yang Bukan Merupakan Keamanan AI Agentik? Di Mana Batasan-batasannya Berada? #

Istilah-istilah tersebut tumpang tindih, dan percakapan tentang pengadaan menjadi terganggu karenanya.

• Keamanan GenAI adalah disiplin induk: semua AI generatif di dalam dan di sekitar perangkat lunak Anda. Keamanan AI agenik adalah subsetnya yang paling penting, mencakup sistem yang bertindak.
• Keamanan LLM Mencakup model dan petunjuknya. Diperlukan, dan tidak cukup saat model tersebut memperoleh alat-alat yang dibutuhkan.
• Keamanan MCP cakupannya lebih sempit lagi: lapisan protokol yang menghubungkan agen ke sistem eksternal. OWASP MCP Top 10 Ini mencakup hal tersebut dan masih berupa draf beta, jadi anggaplah ini sebagai sesuatu yang sedang dikembangkan dan bukan sesuatu yang sudah final.
• AI-SPM adalah manajemen postur atas aset AI, yang merupakan padanan dari ASPMIni menjawab apa yang ada, bukan apa yang diizinkan untuk dilakukan oleh seorang agen.
• Manajemen identitas dan akses Memiliki peran nyata dalam hal ini, tetapi IAM konvensional mengasumsikan adanya manusia atau layanan, bukan aktor nondeterministik yang menentukan langkah selanjutnya sendiri.

Kerangka Kerja yang Patut Dipertimbangkan #

Nilailah suatu kerangka kerja berdasarkan status publikasinya, bukan berdasarkan seberapa mutakhir kedengarannya.

Mengenai peraturan, bersiaplah.cise. NS UU AI UE memberlakukan kewajiban dokumentasi dan pengawasan pada sistem tertentu, dan inventaris agen menghasilkan bukti terkait hal tersebut. Saat ini tidak ada peraturan yang menyebutkan keamanan AI berbasis agen sebagai kontrol yang diwajibkan, dan mengklaim sebaliknya akan mengundang koreksi yang tidak Anda inginkan dalam siklus pengadaan.

Dari Definisi ke Program #

Makna keamanan AI yang berbasis agen hanya relevan setelah menjadi daftar agen, alat, dan identitas yang benar-benar dapat Anda lihat.

Itulah urutan kerja yang diikuti. Temukan agen, server MCP, berkas keterampilan, dan aset AI yang sudah ada, termasuk yang belum dideklarasikan. Beri skor berdasarkan jalur serangan sebenarnya, bukan berdasarkan tingkat keparahan mentah. Kemudian terapkan kebijakan pada titik di mana paket, model, atau alat yang tidak aman akan dieksekusi.

Xygeni mencakup ketiga gerakan tersebut di seluruh kode, pipeline dan titik akhir, dalam satu model risiko bersamaan dengan temuan aplikasi yang sudah Anda kelola. Jadwalkan demo untuk melihat inventaris agen dan AI Anda sendiri.

FAQ (Pertanyaan Umum) #