10 Teratas AI Agen OWASP

Penjelasan 10 Teratas AI Agen OWASP: ASI01–ASI10

TL; DR

Apa maksud OWASP Agentic AI Top 10 untuk anda pipeline

LLM yang mengatakan sesuatu yang salah adalah masalah kandungan. Ejen yang melakukan sesuatu yang salah adalah insiden keselamatan. 10 Teratas AI OWASP Agentic ialah peta untuk yang kedua.

  • Apa yang ia adalah: 10 Teratas AI Agentik OWASP (secara rasminya 10 Teratas OWASP untuk Aplikasi Ejen 2026) menyenaraikan sepuluh risiko khusus untuk ejen AI yang merancang, memanggil alat, menyimpan memori dan bertindak bagi pihak anda. Kod-kod tersebut bermula dari ASI01 hingga ASI10.
  • Bagaimana ia berkaitan: ia melanjutkan 10 Teratas LLM OWASP dan bukannya menggantikannya. Senarai LLM merangkumi apa yang dikatakan oleh model; senarai ejen merangkumi apa yang dilakukan oleh ejen.
  • Di mana ia masuk: dalam keadaan sebenar pipeline, risiko-risiko ini datang melalui empat pintu: IDE, komponen ejen pihak ketiga, kod ejen anda sendiri dan masa jalan pengeluaran.
  • Apa yang anda boleh tangkap: Enam daripada sepuluh meninggalkan cap jari dalam kod dan konfigurasi, jadi anda boleh menghentikannya sebelum digunakan. Empat yang lain memerlukan kawalan reka bentuk masa jalan, dan setiap satunya bermula dengan mengetahui ejen yang anda jalankan.

Langkah pertama: inventori setiap ejen, alat, pelayan MCP dan kemahiran, kemudian gate kod ejen baharu dalam CI dengan penemuan yang ditag pada kod ASI.

Mengapakah 10 Teratas AI Agentik OWASP penting: anda pipeline mempunyai baru committers

Setahun yang lalu, kod dalam repositori anda datang daripada orang ramai. Hari ini, bahagian yang semakin meningkat datang daripada ejen AI: pembantu pengekodan yang memasang kebergantungan, ejen yang membuka pull requests, dan rangka kerja ejen yang dihantar ke dalam produk anda sendiri dengan alatan, memori dan kelayakan mereka sendiri. Itulah anjakan yang telah ditulis untuk OWASP Agentic AI Top 10.

Itu mengubah model ancaman. LLM yang mengatakan sesuatu yang salah adalah masalah kandungan. Ejen yang melakukan sesuatu yang salah (memadam data, membocorkan token, memasang pakej yang diracun) adalah insiden keselamatan.

OWASP Agentic AI Top 10 ialah perbendaharaan kata pertama yang dikongsi untuk masalah jenis kedua itu. Kebanyakan penjelas berhenti pada definisi. Yang ini memetakan setiap risiko ke tempat ia sebenarnya memasuki anda pipeline, dan apa yang anda boleh lakukan mengenainya sebelum penggunaan.

Apakah 10 Teratas AI Agentik OWASP?

10 Teratas OWASP Agentic AI ialah senarai semakan rakan sebaya bagi sepuluh risiko keselamatan paling kritikal dalam ejen AI: sistem yang merancang, memanggil alat, menyimpan memori dan bertindak dengan kuasa yang diwakilkan. Nama rasminya ialah 10 Teratas OWASP untuk Aplikasi Ejen 2026Projek Keselamatan OWASP GenAI telah menerbitkannya pada 9 Disember 2025, melalui Inisiatif Keselamatan Agentiknya, yang merupakan asal usul awalan ASI.

Ia masih muda standard: ini merupakan edisi pertamanya. Setiap entri mengikuti format OWASP yang biasa, dengan penerangan, contoh biasa, senario serangan dan panduan pencegahan. Nasihat reka bentuk pusat OWASP merangkumi kesemua sepuluh: elakkan memberi ejen lebih autonomi daripada yang diperlukan oleh tugas dan anggap kebolehcerapan sebagai mandatori.

10 Teratas Agentic vs. 10 Teratas LLM

Senarai ejen tidak menggantikan 10 Teratas OWASP untuk Aplikasi LLMIa dibina berdasarkannya, dan entrinya merujuk silang LLM berisiko secara langsung. Peraturan mudah:

Dimensi10 Teratas LLM OWASP10 Teratas AI Agen OWASP
KlusterApa yang dikatakan oleh model ituApa yang dilakukan oleh ejen
Kegagalan biasaRespons yang dimanipulasi atau dibocorkanMatlamat yang dimanipulasi, panggilan alat atau tindakan
Terpakai untukChatbot, aplikasi RAG, sebarang ciri LLMEjen dengan alat, memori, pendelegasian atau ejen lain
KodLLM01 hingga LLM10ASI01 hingga ASI10

Jika permohonan anda hanya menjawab soalan, senarai LLM akan melindungi anda. Sebaik sahaja ia boleh mengambil tindakan, anda memerlukan kedua-duanya. Panduan kami untuk serangan pengekstrakan model menunjukkan satu risiko 10 Teratas LLM secara mendalam.

10 Teratas AI Agentik OWASP, dijelaskan: ASI01 hingga ASI10 dalam keadaan sebenar pipelines

Berikut adalah setiap risiko dalam 10 Teratas OWASP Agentic AI secara ringkas, diikuti dengan rupanya dalam pangkalan kod dan pipelineyang kita lihat setiap hari.

ASI01: Rampasan Matlamat Ejen

Penyerang mengubah apa yang ejen cuba capai melalui arahan yang disuntik dalam dokumen, e-mel, halaman web atau mesej ejen lain. Ejen menghadapi kesukaran untuk membezakan arahan daripada kandungan, jadi teks yang ditanam boleh mengalihkan keseluruhan pelan berbilang langkah.

Dalam anda pipeline: ejen yang meringkaskan pull requests membaca penerangan PR yang mengandungi arahan tersembunyi dan mula meluluskan atau membocorkan dan bukannya meringkaskan.

ASI02: Penyalahgunaan dan Eksploitasi Alat

Ejen tersebut menggunakan alat yang dibenarkan untuk digunakan, tetapi dengan cara yang berbahaya: memadam data, memanggil API yang mahal secara serentak atau menghantar maklumat. Tiada keistimewaan yang ditingkatkan; akses yang sah hanya dihalakan ke sasaran yang salah.

Dalam anda pipeline: ejen pengekod dengan akses shell menjalankan arahan pembersihan terhadap direktori yang salah.

ASI03: Penyalahgunaan Identiti dan Keistimewaan

Ejen mewarisi kelayakan, sesi dan peranan, dan penyerang mengeksploitasi rantaian pendelegasian tersebut untuk mencapai apa yang tidak dapat mereka capai secara langsung. Punca utamanya ialah sistem identiti yang dibina untuk manusia, yang digunakan pada perisian yang bertindak sendiri.

Dalam anda pipeline: Konfigurasi ejen memegang token jangka panjang dengan skop seluruh organisasi, dikongsi merentasi beberapa alat.

ASI04: Kerentanan Rantaian Bekalan Ejen

Model, alatan, pemalam, pelayan MCP, kemahiran dan gesaan yang dimuatkan oleh ejen datang daripada pihak ketiga, dan mana-mana daripadanya boleh berniat jahat atau diusik. Tidak seperti kebergantungan klasik, ejen sering memasang komponen ini semasa masa jalan.

Dalam anda pipeline: seorang pembangun memasang kemahiran ejen yang tersilap taip yang arahannya memberitahu ejen untuk membaca kelayakan dan menyiarkannya secara luaran.

ASI05: Pelaksanaan Kod Tidak Dijangka (RCE)

Ejen menjana atau mencetuskan kod yang berjalan di tempat yang tidak sepatutnya: arahan shell, objek yang dinyahsiri, enjin templat, eval pada output model. Hasilnya boleh menjadi kompromi hos penuh atau kontena.

Dalam anda pipeline: Output LLM mengalir terus ke dalam eval, atau ejen memuatkan set data yang tidak dipercayai dengan pickle.load.

ASI06: Keracunan Ingatan dan Konteks

Penyerang menyemai memori jangka panjang, ringkasan atau storan RAG ejen dengan data berniat jahat, jadi setiap kerosakan pada masa hadapancision adalah condong. Tidak seperti suntikan gesaan sekali sahaja, kerosakan berterusan merentasi sesi.

Dalam anda pipeline: seekor retriever RAG menelan dokumen luaran tanpa sanitasi, dan satu halaman beracun membentuk setiap jawapan yang menyusul.

ASI07: Komunikasi Antara Ejen yang Tidak Selamat

Ejen bertukar mesej tanpa pengesahan, pemeriksaan integriti atau pengesahan, jadi mesej boleh dipalsukan, dipintas atau diubah. Arahan yang sama juga boleh dibaca secara berbeza oleh ejen yang berbeza.

Dalam anda pipeline: ejen perancang menerima tugasan daripada mana-mana perkhidmatan pada rangkaian dalaman yang menggunakan protokolnya.

ASI08: Kegagalan Bertingkat

Satu kesalahan (halusinasi, ingatan yang diracuni, alat yang terjejas) merebak merentasi ejen dan aliran kerja lebih pantas daripada yang boleh bertindak balas oleh manusia. OWASP menggunakan kategori ini apabila kerosakan meluas melangkaui pelanggaran asal.

Dalam anda pipeline: seorang ejen menulis konfigurasi yang buruk, yang kedua menggunakannya, yang ketiga melancarkannya ke setiap rantau. Kami membahaskan cara untuk membendung jejari letupan itu dalam kami Perbincangan SafeDev Radius Letupan.

ASI09: Eksploitasi Amanah Manusia-Ejen

Orang ramai mempercayai output ejen yang yakin dan dijelaskan dengan baik, dan penyerang atau reka bentuk yang cacat mengeksploitasi kepercayaan itu untuk mengarahkancision. Manusia melakukan tindakan terakhir, jadi peranan ejen boleh hilang daripada jejak audit.

Dalam anda pipeline: seorang pengulas meluluskan ejen pull request kerana penjelasan itu kedengaran betul, tanpa menyemak perbezaannya.

ASI10: Ejen Penyangak

Ejen menyimpang daripada fungsi yang dimaksudkan dan terus bertindak secara berbahaya, mengelirukan atau di luar skop. Setiap tindakan mungkin kelihatan sah; keseluruhan tingkah laku tidak. ASI10 adalah tentang kehilangan kawalan selepas hanyutan bermula, bukan tentang pencerobohan awal.

Dalam anda pipeline: ejen terus menggunakan kebenaran selepas tugasnya tamat, secara senyap-senyap mengembangkan apa yang disentuhnya.

Daripada sepuluh risiko, ASI04 adalah risiko yang dihadapi oleh kebanyakan pasukan setiap hari: ejen pengekod memilih dan memasang pakej tanpa sesiapa yang menyemak apa yang masuk. Kami telah mengupas perkara itu dalam SafeDev Talk baru-baru ini. Lihatlah!

Tempat 10 Teratas AI Agentik OWASP memasuki senarai anda pipeline

Sepuluh risiko tidak datang melalui satu pintu. Ia datang melalui empat, dan setiap pintu memerlukan kawalannya sendiri.

Titik kemasukanApa yang masukRisiko ASIDi mana hendak menghentikannya
IDE dan stesen kerja pembangunEjen pengekodan, pelayan MCP, kemahiran, pakej yang dipasang oleh ejenASI04, ASI05Di stesen kerja, sebelum pemasangan
Komponen ejen pihak ketigaModel, alatan, plugin, gesaan daripada pendaftaranASI04, ASI06Inventori dan semakan, sebelum penerimaan
Kod ejen anda sendiriRangka kerja ejen, gesaan, definisi alat, kelayakan, RAG pipelinesASI01, ASI02, ASI03,
ASI05, ASI06
Analisis statik, dalam pull requests dan CI
Masa jalan pengeluaranEjen bertindak, bercakap antara satu sama lain, bekerjasama dengan orang ramaiASI07, ASI08,
ASI09, ASI10
Seni bina, pemantauan dan suis bunuh

Corak ini penting untuk cara anda menggunakan OWASP Agentic AI Top 10. Tiga pintu pertama meninggalkan bukti dalam kod dan konfigurasi, yang bermaksud anda boleh mencari dan menyekatnya sebelum apa-apa dihantar. Pintu keempat bergantung pada tingkah laku masa jalan, jadi ia bergantung pada pilihan reka bentuk: agensi paling minimum, mesej yang ditandatangani, kelulusan manusia untuk tindakan berimpak tinggi dan keupayaan untuk membatalkan mana-mana ejen dengan cepat.

Kawalan masa jalan juga bergantung pada satu perkara yang anda bina lebih awal: inventori. Anda tidak boleh meletakkan suis bunuh pada ejen yang anda tidak tahu kewujudannya.

Bagaimana Xygeni mengesan 10 risiko teratas OWASP Agentic AI sebelum penggunaan

Keselamatan AI Xygeni Mengimbas komponen AI yang digunakan untuk membina aplikasi anda, terus daripada kod sumber. Setiap dapatan membawa kategori OWASP LLM Top 10 dan, jika berkenaan, kod OWASP Agentic AI Top 10, supaya pasukan dan juruaudit anda membaca dapatan dalam bahasa yang sama.

Meliputi 10 Teratas AI Agentik OWASP bermula dengan inventori. Keselamatan AI menemui ejen, model, alatan, pelayan MCP, kemahiran, gesaan, guardrails, vektor menyimpan dan set data merentasi repositori anda dan memetakan cara ia berhubung: ejen yang menggunakan model yang mana, melaksanakan alatan yang mana dan memanggil pelayan MCP yang mana. Inventori dieksport sebagai CycloneDX 1.6 ML-BOM.

Keselamatan AI Xygeni

Apa yang dikesan oleh Xygeni sebelum digunakan, oleh risiko ASI

Setiap dapatan ditag dengan kod OWASPnya, jadi pasukan anda dan juruaudit anda membacanya dalam bahasa yang sama.

ASI01

Rampasan Matlamat Ejen

Permukaan suntikan segera, agen menelan kandungan luaran tanpa sanitasi, gesaan yang diambil daripada daftar pada label terapung.

ASI02

Penyalahgunaan Alat

Ejen yang menggunakan alat tanpa input guardrails, serta paparan keupayaan setiap aset seperti pelaksanaan kod dan pelaksanaan automatik.

ASI03

Penyalahgunaan Identiti dan Keistimewaan

Kelayakan statik yang tahan lama dalam konfigurasi ejen, kelayakan yang dikongsi tanpa penyempitan skop, pelayan MCP dan alat dengan keistimewaan yang tinggi dan rahsia dalam fail gesaan.

ASI04

Rantaian Bekalan Ejen

Kemahiran berniat jahat atau salah taip, dengan keputusan SELAMAT / AWAS / JANGAN_PASANG; pemuatan model tidak selamat (trust_remote_code=True); AI-BOM bagi setiap komponen.

ASI05

Pelaksanaan Kod yang Tidak Dijangka

Aliran taint daripada output LLM ke dalam eval dan daripada set data yang tidak dipercayai ke dalam pickle.load, dalam Python dan JavaScript; suntikan templat yang membawa kepada RCE.

ASI06

Keracunan Memori dan Konteks

Pengambil RAG yang tidak disanitasi, dan kelemahan vektor dan pembenaman (LLM08).

ASI07 hingga ASI10

Tingkah laku masa jalan

Komunikasi antara ejen, kegagalan bertingkat, kepercayaan manusia dan ejen penyangak muncul semasa masa jalan. Xygeni memberikan anda graf inventori dan perhubungan yang menjadi asas kawalan masa jalan tersebut.

Di sekeliling teras itu:

  • Kajian semantik terhadap kemahiran dan arahan ejen. Semakan LLM pilihan yang boleh dihasilkan semula menilai niat SKILL.md dan AGENTS.md fail, menangkap arahan berniat jahat yang hanya bersifat prosa yang tidak dapat dilihat oleh tandatangan. Ia boleh dijalankan pada model yang dihoskan sendiri.
  • Pastikan ia berada di CI. . xygeni ai pengimbas berjalan dalam anda pipeline dan gagal membina apabila penemuan wujud. Mulakan dalam mod laporan sahaja, kemudian get pada Kritikal.
  • Keselamatan di dalam gelung ejen. DevAI membawa imbasan, triaj dan pembaikan Xygeni ke dalam IDE dan ke dalam ejen pengekodan AI melalui Pelayan MCP Xygeni.
  • Lindungi stesen kerja. Shield menyekat pakej berniat jahat pada mesin pembangun sebelum ia dimuat turun, sesiapa sahaja yang menjalankan pemasangan dan mengaitkan setiap blok dengan proses dan arahan yang mencetuskannya.
  • Cepat betulkan. AI Triage mengutamakan penemuan dan AI Remediasi menjana panduan pembetulan untuk setiap kategori OWASP LLM.

Senarai semak kesediaan 10 Teratas OWASP Agentic AI

  1. Inventori: senaraikan setiap ejen, model, alat, pelayan MCP dan kemahiran dalam repositori anda, dan pastikan senarai terkini pada setiap commit.
  2. Agensi paling kurang: berikan setiap ejen hanya autonomi dan alat yang diperlukan oleh tugasnya, dan memerlukan kelulusan manusia untuk tindakan yang merosakkan.
  3. Identiti berskop: gantikan kelayakan ejen kongsi yang berjangka masa panjang dengan token setiap ejen yang berjangka masa pendek.
  4. Input yang tidak dipercayai: anggap setiap dokumen, halaman web, e-mel dan mesej ejen sebagai tidak dipercayai sebelum ia boleh membentuk matlamat atau panggilan alat.
  5. Komponen yang telah disahkan: mengkaji kemahiran, pelayan MCP dan model sebelum penggunaan, menyematkan versi dan menyimpan AI-BOM.
  6. Tiada pelaksanaan yang tidak selamat: larangan eval pada output model, pelaksanaan kod kotak pasir dan tidak pernah menjalankan ejen sebagai root.
  7. Memori bersih: membersihkan apa yang memasuki storan RAG dan memori jangka panjang, dan asingkan memori mengikut pengguna dan konteks.
  8. Pintu di CI: kod ejen imbasan pada setiap pull request dan memetakan dapatan kepada kod ASI.
  9. Perhatikan dan kandungi: catat setiap tindakan ejen dan panggilan alat, dan pastikan anda boleh membatalkan mana-mana ejen dengan cepat.

Ketahui ejen mana yang anda kendalikan sebelum mereka bertindak

OWASP Agentic AI Top 10 memberikan anda peta. Langkah pertama adalah sama untuk semua sepuluh risiko: cari setiap ejen, alat dan kemahiran dalam kod anda. Lihat cara Xygeni AI Security menginventori ejen anda dan memetakan penemuan kepada kod ASI, Atau menempah demo.

Soalan Lazim

Apakah yang dimaksudkan dengan ASI dalam 10 Teratas AI Agentik OWASP?

ASI bermaksud Agentic Security Initiative, pasukan Projek Keselamatan OWASP GenAI yang menulis senarai tersebut. Setiap risiko membawa kod daripada ASI01 (Agent Goal Hijack) kepada ASI10 (Rogue Agents), sama seperti senarai LLM menggunakan LLM01 kepada LLM10.

Adakah saya memerlukan OWASP Agentic AI Top 10 jika saya sudah mengikuti OWASP LLM Top 10?

Hanya jika AI anda boleh bertindak. Chatbot atau aplikasi RAG yang hanya menjawab soalan diliputi oleh 10 Teratas LLM. Sebaik sahaja aplikasi anda memanggil alatan, menyimpan memori, mewakilkan kepada ejen lain atau menggunakan kelayakan, senarai ejen akan melindungi risiko yang tidak dilindungi oleh senarai LLM.

Bolehkah analisis statik mengesan 10 risiko Teratas OWASP Agentic AI?

Bagi kebanyakan daripada mereka, ya. Permukaan rampasan matlamat, alat yang tidak dijaga, kelayakan yang terlalu istimewa, kemahiran berniat jahat, pelaksanaan kod yang tidak selamat dan input RAG yang tidak bersih semuanya meninggalkan bukti dalam kod dan konfigurasi. Risiko yang timbul daripada tingkah laku langsung, seperti kegagalan bertingkat dan ejen penyangak, memerlukan kawalan masa jalan di atas.

alat-analisis-komposisi-perisian-alat-sca
Utamakan, pulihkan dan lindungi risiko perisian anda
Dapatkan Akaun Percuma anda.
Tiada kad kredit yang diperlukan.

Lindungi pembangunan dan penghantaran perisian anda

dengan Suit Produk Xygeni