10 Agen AI OWASP Paling Apik

10 Paling Apik AI Agen OWASP Dijelasake: ASI01–ASI10

TL; DR

Apa tegese OWASP Agentic AI Top 10 kanggo sampeyan pipeline

LLM sing ujar manawa ana sing salah iku masalah konten. Agen sing nindakake kesalahan iku kedadeyan keamanan. OWASP Agentic AI Top 10 iku peta kanggo sing nomer loro.

  • Apa iku: 10 Teratas OWASP Agentic AI (resminé 10 Aplikasi Agen Paling Apik OWASP 2026) ndhaptar sepuluh risiko khusus kanggo agen AI sing ngrancang, nelpon alat, nyimpen memori lan tumindak atas jenenge sampeyan. Kode-kode kasebut diwiwiti saka ASI01 nganti ASI10.
  • Kepiye hubungane: Iki ngluwihi OWASP LLM Top 10 tinimbang ngganti. Dhaptar LLM nyakup apa sing diomongake model; dhaptar agentik nyakup apa sing ditindakake agen.
  • Ing ngendi mlebu: ing nyata pipeline, risiko-risiko iki teka liwat patang lawang: IDE, komponen agen pihak katelu, kode agen sampeyan dhewe, lan runtime produksi.
  • Apa sing bisa sampeyan tangkep: Enem saka sepuluh ninggalake bekas driji ing kode lan konfigurasi, supaya sampeyan bisa mungkasi sadurunge disebarake. Papat liyane mbutuhake kontrol desain runtime, lan saben-saben diwiwiti kanthi ngerti agen endi sing sampeyan jalanake.

Langkah kapisan: inventarisasi saben agen, alat, server MCP, lan katrampilan, banjur gapura kode agen anyar ing CI kanthi temuan sing ditandai karo kode ASI.

Apa sebabe OWASP Agentic AI Top 10 penting: sampeyan pipeline nduweni sing anyar commitmalik

Setaun kepungkur, kode ing repositori sampeyan asale saka wong-wong. Saiki, pangsa sing saya tambah akeh asale saka agen AI: asisten coding sing nginstal dependensi, agen sing mbukak pull requests, lan kerangka kerja agen sing dikirim menyang produk sampeyan dhewe nganggo alat, memori, lan kredensial dhewe. Kuwi owah-owahan sing digawe kanggo OWASP Agentic AI Top 10.

Kuwi ngowahi model ancaman. LLM sing ujar manawa ana sing salah minangka masalah konten. Agen sing nindakake kesalahan (mbusak data, mbocorake token, nginstal paket sing diracun) minangka kedadeyan keamanan.

OWASP Agentic AI Top 10 minangka kosakata sing dienggo bareng pisanan kanggo jinis masalah kapindho kasebut. Umume panjelasan mandheg ing definisi. Sing iki memetakan saben risiko menyang papan sing sejatine mlebu ing sampeyan. pipeline, lan apa sing bisa sampeyan lakoni sadurunge penyebaran.

Apa sing diarani OWASP Agentic AI Top 10?

OWASP Agentic AI Top 10 minangka dhaptar sepuluh risiko keamanan paling kritis ing agen AI sing wis ditinjau dening peer: sistem sing ngrancang, nelpon alat, nyimpen memori, lan tumindak kanthi wewenang sing didelegasikan. Jeneng resmine yaiku 10 Aplikasi Agen Paling Apik OWASP 2026Proyek Keamanan OWASP GenAI nerbitake tanggal 9 Desember 2025, liwat Agentic Security Initiative, saka ngendi awalan ASI asale.

Iku isih enom standardIki edisi pisanane. Saben entri ngetutake format OWASP sing wis dikenal, kanthi katrangan, conto umum, skenario serangan, lan pandhuan pencegahan. Saran desain pusat OWASP nyakup kabeh sepuluh: aja menehi agen otonomi luwih akeh tinimbang sing dibutuhake tugas, lan nganggep observabilitas minangka wajib.

Agentic Top 10 vs. LLM Top 10

Daftar agen ora ngganti 10 Aplikasi LLM Paling Apik OWASPIki dibangun adhedhasar iku, lan entri-entrine ngrujuk silang LLM kanthi risiko langsung. Aturan praktis sing prasaja:

ukuran10 Paling Apik LLM OWASP10 Agen AI OWASP Paling Apik
fokusApa sing diomongake model kasebutApa sing ditindakake agen kasebut
Gagal sing umumRespon sing dimanipulasi utawa bocorTujuan sing dimanipulasi, piranti sing digunakake, utawa tumindak sing ditindakake
Ditrapake kanggoChatbot, aplikasi RAG, fitur LLM apa waeAgen nganggo piranti, memori, delegasi utawa agen liyane
kodeLLM01 nganti LLM10ASI01 nganti ASI10

Yen aplikasi sampeyan mung njawab pitakonan, dhaptar LLM bakal nutupi sampeyan. Nalika aplikasi kasebut bisa njupuk tindakan, sampeyan butuh loro-lorone. Pandhuan kita kanggo serangan ekstraksi model nuduhake siji risiko LLM Top 10 kanthi jero.

10 Teratas OWASP Agentic AI, dijlentrehake: ASI01 nganti ASI10 ing kasunyatan pipelines

Iki saben risiko ing OWASP Agentic AI Top 10 kanthi gamblang, banjur kaya apa rupane ing basis kode lan pipelinesing kita deleng saben dina.

ASI01: Pembajakan Sasaran Agen

Penyerang ngowahi apa sing dicoba digayuh agen liwat instruksi sing diinjeksi ing dokumen, email, kaca web, utawa pesen agen liyane. Agen angel mbedakake instruksi saka konten, mula teks sing ditanam bisa ngarahake kabeh rencana multi-langkah.

Ing pipeline: agen sing ngringkes pull requests maca katrangan PR sing ngemot pandhuan sing didhelikake, lan wiwit nyetujoni utawa bocor tinimbang ngringkes.

ASI02: Penyalahgunaan lan Eksploitasi Piranti

Agen kasebut nggunakake alat sing diidini digunakake, nanging kanthi cara sing mbebayani: mbusak data, nelpon API sing larang sekaligus, utawa ngirim informasi. Ora ana hak istimewa sing dieskalasi; akses sing sah mung ditujokake menyang target sing salah.

Ing pipeline: Agen coding nganggo akses shell nglakokake printah reresik marang direktori sing salah.

ASI03: Penyalahgunaan Identitas lan Hak Istimewa

Agen nampa kredensial, sesi, lan peran, lan penyerang ngeksploitasi rantai delegasi kasebut kanggo nggayuh apa sing ora bisa digayuh langsung. Penyebab utama yaiku sistem identitas sing digawe kanggo manungsa, sing diterapake ing piranti lunak sing tumindak dhewe.

Ing pipeline: Konfigurasi agen nyimpen token sing tahan suwe kanthi ruang lingkup organisasi, sing dienggo bareng ing sawetara alat.

ASI04: Kerentanan Rantai Pasokan Agen

Model, piranti, plugin, server MCP, katrampilan, lan pitunjuk sing dimuat agen asale saka pihak katelu, lan kabeh mau bisa mbebayani utawa dirusak. Ora kaya dependensi klasik, agen asring nglumpukake komponen kasebut nalika runtime.

Ing pipeline: Pangembang nginstal katrampilan agen sing salah ketik sing pandhuane ngandhani agen supaya maca kredensial lan ngirim menyang njaba.

ASI05: Eksekusi Kode sing Ora Dikarepake (RCE)

Agen kasebut ngasilake utawa micu kode sing mlaku ing papan sing ora kudune: printah shell, objek deserialized, mesin template, eval ing output model. Asilé bisa dadi kompromi host lengkap utawa kontainer.

Ing pipeline: Output LLM mili langsung menyang eval, utawa agen ngunggah set data sing ora dipercaya nganggo pickle.load.

ASI06: Keracunan Memori lan Konteks

Para penyerang nyebarake data mbebayani ing memori jangka panjang, ringkesan, utawa panyimpenan RAG agen, saengga saben kerusakan ing mangsa ngarepcision kasebut miring. Ora kaya injeksi cepet sing mung ditindakake sapisan, korupsi kasebut tetep ana ing saben sesi.

Ing pipeline: RAG retriever ngonsumsi dokumen eksternal tanpa sanitasi, lan siji kaca sing diracun mbentuk saben jawaban sawise iku.

ASI07: Komunikasi Antar-Agen sing Ora Aman

Agen ijol-ijolan pesen tanpa otentikasi, pamriksan integritas, utawa validasi, saengga pesen bisa dipalsu, dicegat, utawa diowahi. Instruksi sing padha uga bisa diwaca kanthi beda dening agen sing beda.

Ing pipeline: Agen perencana nampa tugas saka layanan apa wae ing jaringan internal sing nggunakake protokol kasebut.

ASI08: Kegagalan Bertingkat

Siji kesalahan (halusinasi, memori sing diracuni, alat sing disusupi) nyebar ing antarane agen lan alur kerja luwih cepet tinimbang reaksi manungsa. OWASP ngetrapake kategori iki nalika kerusakan nyebar ngluwihi pelanggaran asli.

Ing pipeline: siji agen nulis konfigurasi sing ala, sing nomer loro nyebarake, sing nomer telu ngluncurake menyang saben wilayah. Kita debat babagan carane ngemot radius ledakan kasebut ing Blast Radius SafeDev Talk.

ASI09: Eksploitasi Kepercayaan Manusia-Agen

Wong-wong percaya karo output agen sing yakin lan diterangake kanthi apik, lan penyerang utawa desain sing cacat nggunakake kepercayaan kasebut kanggo ngarahake.cision. Manungsa nindakake tumindak pungkasan, saengga peran agen bisa ilang saka jejak audit.

Ing pipeline: reviewer nyetujoni agen pull request amarga panjelasane muni bener, tanpa mriksa bedane.

ASI10: Agen Nakal

Agen nyimpang saka fungsi sing dikarepake lan terus tumindak kanthi mbebayani, ngapusi, utawa ngluwihi ruang lingkup. Saben tumindak bisa uga katon sah; prilaku sakabèhé ora. ASI10 babagan kelangan kendali sawise penyimpangan diwiwiti, dudu babagan gangguan awal.

Ing pipeline: Agen terus nggunakake ijin sawise tugase rampung, kanthi meneng-meneng ngembangake apa sing disentuh.

Saka sepuluh risiko, ASI04 minangka risiko sing paling akeh diadhepi tim saben dina: agen coding milih lan nginstal paket tanpa ana sing mriksa apa sing mlebu. Kita wis ngrembug bab iku ing SafeDev Talk bubar iki. Coba delengen!

Ing ngendi OWASP Agentic AI Top 10 mlebu ing dhaptar sampeyan pipeline

Sepuluh risiko ora teka liwat siji lawang. Nanging teka liwat papat, lan saben lawang butuh kendhali dhewe-dhewe.

Titik mlebuApa sing mlebuRisiko ASINgendi arep mandheg
IDE lan stasiun kerja pangembangAgen coding, server MCP, katrampilan, paket sing diinstal agenASI04, ASI05Ing stasiun kerja, sadurunge dipasang
Komponen agen pihak kateluModel, piranti, plugin, lan pituduh saka registriASI04, ASI06Inventaris lan review, sadurunge diadopsi
Kode agen sampeyan dheweKerangka kerja agen, pitunjuk, definisi alat, kredensial, RAG pipelinesASI01, ASI02, ASI03,
ASI05, ASI06
Analisis statis, ing pull requests lan CI
Wektu produksiAgen tumindak, ngobrol karo siji liyane, kerja bareng karo wong liyaASI07, ASI08,
ASI09, ASI10
Arsitektur, pemantauan, lan saklar mateni

Pola kasebut penting kanggo kepiye sampeyan ngetrapake OWASP Agentic AI Top 10. Telung lawang pisanan ninggalake bukti ing kode lan konfigurasi, tegese sampeyan bisa nemokake lan mblokir sadurunge ana sing dikirim. Sing kaping papat gumantung saka prilaku runtime, mula gumantung saka pilihan desain: agensi paling sithik, pesen sing ditandatangani, persetujuan manungsa kanggo tumindak sing berdampak dhuwur, lan kemampuan kanggo mbatalake agen apa wae kanthi cepet.

Malah kontrol runtime gumantung marang siji bab sing wis digawe sadurunge: inventaris. Sampeyan ora bisa masang tombol mateni ing agen sing sampeyan ora ngerti anane.

Kepiye Xygeni nangkep 10 risiko paling dhuwur OWASP Agentic AI sadurunge penyebaran

Keamanan AI Xygeni Mindhai komponen AI sing digunakake kanggo nggawe aplikasi sampeyan, langsung saka kode sumber. Saben temuan nduweni kategori OWASP LLM Top 10 lan, yen ditrapake, kode OWASP Agentic AI Top 10, supaya tim lan auditor sampeyan bisa maca temuan kasebut nganggo basa sing padha.

Ngliputi OWASP Agentic AI Top 10 diwiwiti saka inventaris. Keamanan AI nemokake agen, model, alat, server MCP, katrampilan, pitunjuk, guardrails, nyimpen vektor, lan set data ing repositori sampeyan, lan memetakan kepiye cara nyambungake: agen endi sing nggunakake model endi, nglakokake alat endi, lan nelpon server MCP endi. Inventaris diekspor minangka CycloneDX 1.6 ML-BOM.

Keamanan AI Xygeni

Apa sing dideteksi Xygeni sadurunge disebarake, miturut risiko ASI

Saben temuan ditandai nganggo kode OWASP, supaya tim lan auditor sampeyan bisa maca nganggo basa sing padha.

ASI01

Pembajakan Sasaran Agen

Permukaan injeksi cepet, agen ngonsumsi konten eksternal tanpa sanitasi, petunjuk sing dijupuk saka registri ing label sing ngambang.

ASI02

Penyalahgunaan Piranti

Agen sing nggunakake alat tanpa input guardrails, ditambah tampilan kemampuan per aset kayata eksekusi kode lan eksekusi otomatis.

ASI03

Penyalahgunaan Identitas lan Hak Istimewa

Kredensial statis sing awet ing konfigurasi agen, kredensial sing dienggo bareng tanpa penyempitan ruang lingkup, server MCP lan alat kanthi hak istimewa sing luwih dhuwur, lan rahasia ing file prompt.

ASI04

Rantai Pasokan Agen

Katrampilan sing mbebayani utawa salah ketik, kanthi putusan AMAN / CAUTION / DO_NOT_INSTALL; pemuatan model ora aman (trust_remote_code=True); AI-BOM saka saben komponen.

ASI05

Eksekusi Kode sing Ora Dikarepake

Aliran taint saka output LLM menyang eval lan saka set data sing ora dipercaya menyang pickle.load, nganggo Python lan JavaScript; injeksi cithakan sing ndadékaké menyang RCE.

ASI06

Keracunan Memori lan Konteks

RAG retriever sing ora diresiki, lan kelemahane vektor lan embedding (LLM08).

ASI07 nganti ASI10

Prilaku wektu proses

Komunikasi antar-agen, kegagalan bertingkat, kepercayaan manusia, lan agen nakal muncul nalika runtime. Xygeni menehi sampeyan grafik inventaris lan hubungan sing dadi dhasar kontrol runtime kasebut.

Ing sakubenge inti kasebut:

  • Tinjauan semantik babagan katrampilan lan instruksi agen. Tinjauan LLM opsional lan bisa direproduksi ngadili maksud saka SKILL.md lan AGENTS.md file, nyekel instruksi jahat sing mung prosa sing ora bisa dideleng dening tandha tangan. Iki bisa mlaku ing model sing di-host dhewe.
  • Gate ing CI. The xygeni ai scanner mlaku ing njero awakmu pipeline lan gagal mbangun nalika ana temuan. Miwiti ing mode laporan wae, banjur bukak gerbang ing Kritis.
  • Keamanan ing njero puteran agen. DevAI nggawa pindai, triage, lan perbaikan Xygeni menyang IDE lan menyang agen pengkodean AI liwat Server MCP Xygeni.
  • Lindungi stasiun kerja. Shield mblokir paket-paket jahat ing mesin pangembang sadurunge diundhuh, sapa wae sing mbukak instalasi, lan ngubungake saben blok karo proses lan printah sing micu.
  • Cepet ndandani. AI Triage ngutamakake temuan, lan AI Remediasi ngasilake pandhuan perbaikan kanggo saben kategori OWASP LLM.

Dhaptar priksa kesiapan 10 Teratas OWASP Agentic AI

  1. Inventarisasi: dhaptar saben agen, model, alat, server MCP lan katrampilan ing repositori sampeyan, lan jaga dhaptar kasebut tetep anyar ing saben commit.
  2. Agensi paling sithik: menehi saben agen mung otonomi lan piranti sing dibutuhake tugase, lan mbutuhake persetujuan manungsa kanggo tumindak destruktif.
  3. Identitas sing dicakup: ngganti kredensial agen sing dienggo bareng lan tahan suwe karo token saben agen sing umure cendhak.
  4. Input sing ora dipercaya: Anggep saben dokumen, kaca web, email, lan pesen agen minangka ora dipercaya sadurunge bisa mbentuk tujuan utawa panggunaan alat.
  5. Komponen sing wis diverifikasi: nliti katrampilan, server lan model MCP sadurunge diadopsi, masang pin ing versi, lan nyimpen AI-BOM.
  6. Ora ana eksekusi sing ora aman: ban eval ing output model, eksekusi kode sandbox lan ora tau mbukak agen minangka root.
  7. Memori resik: ngresiki apa sing mlebu ing panyimpenan RAG lan memori jangka panjang, lan misahake memori miturut pangguna lan konteks.
  8. Gerbang ing CI: kode agen pindai ing saben pull request lan memetakan temuan menyang kode ASI.
  9. Amati lan isi: cathet saben tumindak agen lan panggilan alat, lan priksa manawa sampeyan bisa mbatalake agen apa wae kanthi cepet.

Ngerteni agen endi sing sampeyan lakoni sadurunge tumindak

OWASP Agentic AI Top 10 menehi peta. Langkah pisanan padha kanggo kabeh sepuluh risiko: goleki saben agen, alat, lan katrampilan ing kode sampeyan. Deloken kepiye Xygeni AI Security nginventarisasi agen sampeyan lan memetakake temuan menyang kode ASI, utawa bukak demo.

FAQs

Apa tegese ASI ing OWASP Agentic AI Top 10?

ASI iku cekakan saka Agentic Security Initiative, tim OWASP GenAI Security Project sing nulis dhaptar iki. Saben risiko nggawa kode saka ASI01 (Agent Goal Hijack) menyang ASI10 (Rogue Agents), kaya dene dhaptar LLM nggunakake LLM01 nganti LLM10.

Apa aku butuh OWASP Agentic AI Top 10 yen aku wis ngetutake OWASP LLM Top 10?

Mung yen AI sampeyan bisa tumindak. Aplikasi chatbot utawa RAG sing mung njawab pitakonan wis dilindhungi dening LLM Top 10. Sawise aplikasi sampeyan nelpon alat, nyimpen memori, ndelegasi menyang agen liyane, utawa nggunakake kredensial, dhaptar agentik nutupi risiko sing ora dilindhungi dhaptar LLM.

Apa analisis statis bisa ndeteksi 10 risiko paling dhuwur OWASP Agentic AI?

Kanggo akeh wong, ya. Permukaan pembajakan tujuan, alat sing ora dijaga, kredensial sing duwe hak istimewa, katrampilan sing mbebayani, eksekusi kode sing ora aman, lan input RAG sing ora resik kabeh ninggalake bukti ing kode lan konfigurasi. Risiko sing muncul saka prilaku langsung, kayata kegagalan cascading lan agen nakal, mbutuhake kontrol runtime ing ndhuwur.

piranti lunak-piranti-sca-piranti-analisis-komposisi
Prioritasake, ndandani, lan amanake risiko piranti lunak sampeyan
Entuk Akun Gratismu.
Ora ana kertu kredit.

Amanake pangembangan lan pangiriman piranti lunak sampeyan

karo Suite Produk Xygeni