Pandan kèk dènye ane yo, sekirite aplikasyon yo te gen yon limit klè: depo a ak pipelineSe la kontwòl yo te ye, se la eskan yo te fèt, se la ekip yo te deside si yon bagay te dwe an pwodiksyon. Tout bagay sa yo te repoze sou yon sèl sipozisyon: yon devlopè te chwazi klèman ki kòd ak ki depandans ki te antre nan sistèm nan.
Sipozisyon sa a pa valab ankò. Yon pati k ap grandi nan kòd jodi a ekri, sijere, oswa enstale pa yon ajan IA, souvan san pèsonn pa gade non sa k ap rale a. Lè de acisPlis yon eleman antre nan kòd la deplase, se konsa atak la deplase tou. Li deplase nan premye etap pwosesis la: nan moman yo kreye kòd la, andedan asistan an li menm ak nan dosye ki konfigire li yo.
Men sifas atak IA ou a: chak modèl, ajan, sèvè MCP, konpetans, ak depandans sijere pa IA ki kounye a ka prezante risk anvan yon moun janm revize li. Menm IA devlopè ou yo fè konfyans lan fè pati li kounye a. Sa a se pa yon risk nan lavni. Se yon chanjman ki deja rive, epi men kijan li sanble nan pratik.
Yon vag atak, pa yon ensidan izole
Okenn nan sa ki annapre yo pa yon egzèsis laboratwacise oubyen yon ipotetik. Sa yo se ensidan piblik, dokimante, prèske tout nan ane ki sot pase a, epi chak youn rive yon ti kras pi pre ajan IA a li menm:
- Out 2025, singularite: Atakè yo te vòlè yon jeton piblikasyon nan men Nx, youn nan sistèm konstriksyon ki pi itilize yo, epi yo te pouse vèsyon move yo sou npm, lè l sèvi avèk zouti IA pou chase sekrè sou machin devlopè yo.
- Septanm 2025, lakre/debogaj: Youn nan pi gwo konpwomi npm yo an tèm de rive, 18 pakè ak plis pase de milya telechajman chak semèn, reprann atravè detounman kont yon sèl moun ki responsab antretyen an.
- Septanm 2025, Shai-Hulud: youn nan premye vè ki te dokimante ki te kapab oto-pwopagasyon atravè npm. Dezyèm vag li a, an Novanm, te pi agresif e li te lye ak sekrè ki te ekspoze nan plis pase 25,000 depo.
- Oktòb 2025, enpòtasyon ki pa itilize yo: Yon pati nan kanpay PhantomRaven an, kote alisinasyon IA te entwodui yon vrè malveyan nan npm atravè yon teknik slopsquatting.
- Ane sa a, ClawHub: yon rejis konpetans IA anpwazonnen kote senk nan sèt konpetans ki pi telechaje yo se te malveyan.
Endistri a ap fòmalize menm konklizyon an. OWASP Top 10 pou Aplikasyon LLM yo mete enjeksyon rapid an premye plas. OWASP MCP Top 10 la (kounye a an beta) vize pwotokòl ajan yo itilize pou kominike ak zouti yo. OWASP Agentic Skills Top 10 la, yon nouvo pwojè nan etap Enkibatè, site konpetans move kòm pi gwo risk li yo. OWASP anjeneral deplase ak anpil prekosyon; louvri twa fron alafwa, youn ladan yo ijan, di yon bagay sou jan sa ap deplase vit.
Tout twa konvèje sou menm lide a: enstriksyon yo, zouti yo, ak konfigirasyon yo otou yon modèl fè pati sifas atak IA a kounye a, epi yo anjeneral rete andedan pwòp depo ou a. Sa ki soulve premye kesyon ki vo poze ekip ou yo: kiyès ki revize dosye règ yo, konpetans yo, ak konfigirasyon MCP ki rete nan depo ou a?
Vektè 1: konpetans anpwazonnen an
Yon konpetans se yon dosye enstriksyon ak kapasite ki anseye yon ajan IA kijan pou fè yon travay. Se pa sèl fason pou fòme konpòtman yon ajan (dosye règ, hooks, ak konfigirasyon MCP yo fè menm bagay la), men yo tout pataje yon pwopriyete: yo vwayaje andedan depo a, ak kòd la.
Rechèch ane sa a te egzamine 4,000 nan konpetans sa yo:
- 36% te gen omwen yon fay sekirite.
- 13.4% te nan eta kritik.
- Prèske 100 te gen chaj move dirèkteman.
Chanjman prensipal la: atakè a pa vize kòd ou a ankò. Yo vize ajan ki ekri kòd ou a, yo plante enstriksyon kache (pafwa lè l sèvi avèk karaktè envizib) ke modèl la li epi trete kòm fonksyonèl. Yon evalyatè imen apwouve a. pull request ak bon lafwa paske, nan je yo, dosye a sanble pwòp. Modèl la entèprete enstriksyon ke revizè a pa janm wè.
Sa pa teorik. CVE-2025-59536 (CVSS 8.7) te pèmèt lansman Claude Code soti nan yon depo ki pa fyab, kote yon konfigirasyon move te kapab egzekite kòmand anvan itilizatè a te aksepte dyalòg konfyans lan. Yon dezyèm vilnerabilite, CVE-2026-21852, te pèmèt èsfiltrasyon yon kle API atravè konfigirasyon kontwole pa pwojè a, san itilizatè a pa apwouve anyen.
H2: Vektè 2: akoupiman plat
Non an melanje "slop" (fatra yon IA pwodui pafwa) ak atak typosquatting klasik la. Typosquatting depann sou erè imen: yon atakè anrejistre yon non pake ki pre yon non popilè epi li tann yon fot ekriti. Li o aza.
Akoupi pa tann yon erè. Nan etid yo te mansyone pandan sesyon sa a, 19.7% nan referans pakè ki te pwodui pa modèl IA yo te montre pakè ki pa egziste. Modèl yo gen tandans pou yo gen alizinasyon sou menm non yo plizyè fwa, kidonk yon atakè obsève ki non IA a envante, anrejistre non sa yo ak kòd move, epi tann pwochen enstalasyon IA a sijere a pou rale l nan aplikasyon w lan.
Echèl la pa piti: Yo te idantifye plis pase 450,000 nouvo pakè move an 2025. De egzanp fè li konkret:
- Yon chèchè te plante yon pake tès ki pa danjere yo rele huggingface-cli pou pwouve pwen an. Li te anrejistre plis pase 30,000 telechajman nan twa mwa.
- enpòtasyon ki pa itilize, dapre delè ki anwo a, te konfime yon malveyan, ki egziste nan yon rejis piblik, ki te itilize egzakteman teknik sa a. Sa a pa t yon tès.
Kesyon an se pa si sa ka rive ekip ou a. Se konbyen pakè sijere pa IA k ap antre nan kòd ou a jodi a san pèsonn pa gade yo.
Repons lan: standardap ratrape
De fòs ap kouri an paralèl. Pandan atak yo ap akselere, standardkò yo ap reyaji:
- NIST SP 800-218A pwolonje kad devlopman lojisyèl an sekirite a ak pratik espesifik pou modèl IA, ki gen ladan prèv entegrite ak orijin.
- In Me 2026, CISA ak patnè entènasyonal G7 li yo pibliye gid sou yon Lis Materyèl Lojisyèl pou IA, ki defini sa ki dwe nan envantè sa a: modèl, ansanm done, konpozan, founisè, ak depandans.
Direksyon an klè: la SBOM ap agrandi pou l vin tounen yon AI-BOM. Ou pa ka sètifye oswa ateste sa ou pa ka envantè. Epi jodi a, pifò òganizasyon pa kapab:
- 43% pa ka odit oswa fè envantè zouti IA y ap deja itilize yo.
- 79% pa gen okenn vizibilite sou ajan IA yo ak sistèm MCP yo k ap fonksyone nan pwòp anviwònman yo.
Nan anviwònman reglemante yo, envantè sa a ap chanje soti nan bon pratik pou rive nan atant kontra oswa obligasyon konfòmite. Men, yon envantè sèlman di ou sa ou genyen. Poukont li, li pa bloke yon atak.
Diferans lan: yon EDR pou AppSec
SAST ta dwe apwouve bèso tibebe w la epi SCA Zouti yo fèt pou analize kòd ak depandans, pa konpòtman yon ajan oswa konfigirasyon li. Yon BDU wè pwosesis ak koneksyon rezo, men tipikman li manke kontèks sekirite aplikasyon an pou entèprete yon depandans oswa yon konfigirasyon ajan. Ant de kategori zouti sa yo gen yon espas, egzakteman ki kote kòd la ap kreye kounye a, ak egzakteman ki kote sifas atak IA a ye.
Twou sa a gen twa pwen avèg:
- Byen IA yo. Modèl, ajan, ak sèvè MCP yo pa parèt sou ou. SAST's oswa SCARadar a. Ou pa ka fè envantè sa ou pa ka wè.
- Fichye konfigirasyon yo. Konpetans, règ, ak konfigirasyon MCP yo fòme konpòtman ajan yo men yo tipikman revize kòm si yo te tèks plenn ki pa danjere.
- Enstalasyon pakè yo. A Yon depandans move ka fonksyone anvan yo konnen li move., apresa èsfiltre sekrè ak jeton san pèsonn pa apwouve sa.
Kijan Xygeni fèmen li
Ki sa yon EDR fè pou pwen final yo, Xygeni Shield fè pou sik lavi devlopman ak asistans entèlijans atifisyèl la: li pwoteje kote kòd la kreye tout pandan l ap konprann kontèks sekirite aplikasyon an.
- Vizibilite kote SAST ta dwe apwouve bèso tibebe w la epi SCA pa rive. Xygeni siyalize dosye konpetans ak règ move yo, analize konfigirasyon MCP yo, epi konstwi yon sistèm pare pou odit. IA-BOM, ki konpare ak 10 pi bon konpetans OWASP LLM, MCP, ak Agentic Skills yo.
- Entèlijans, pa siyati sèlman. MEW (Malware Early Warning) analize konpòtman ak risk yon pake pou bloke li anvan yon CVE, yon avi, oswa yon siyati piblik egziste. Entèlijans rezo ajou koupe koneksyon ak enfrastrikti move li te ye yo.
- Yon pwen kontwòl, soti nan kòd rive nan pwen final la. Yon sèl ajan, deplwaye san reachitekti anviwònman an, avèk souverènte done Ewopeyen an ak prèv konfòmite entegre.
Nan yon demonstrasyon an dirèk, aplikasyon règleman sa a te bloke tantativ yon ajan IA pou enstale yon pake move atravè twa chemen enstalasyon diferan (anviwònman vityèl, jesyonè pake, ak telechajman dirèk) anvan enstalasyon an te fini, tout anrejistre an tan reyèl epi ekspòtab nan yon SOC. Entegrasyon yon premye pwojè anjeneral pran apeprè inèdtan; pwolonje pwoteksyon atravè yon òganizasyon konplè anjeneral pran youn a de semèn, tou depann de estrikti a.
Kesyon'w yo
Ki sifas atak IA a nan yon sèl paragraf?
Sifas atak IA a se ansanm modèl, ajan, sèvè MCP, konpetans, fichye règ, ak depandans sijere pa IA kote risk ka antre nan yon aplikasyon, souvan anvan yon moun revize li. Li depase kòd tradisyonèl ak depandans pou enkli fichye konfigirasyon ak enstriksyon ki fòme fason yon ajan IA konpòte li.
Kouman mwen ka di si yon non pake asistan IA mwen an sijere a se yon alisinasyon oswa si li jis lejitim men mwen pa konnen?
Valide anvan enstalasyon: tcheke rejis la epi analize kontni reyèl pake a ak entansyon li olye pou w fè non an konfyans sèlman. Xygeni otomatize validasyon sa a an tan reyèl pandan jenerasyon kòd la, kidonk yon enstalasyon apwouve oswa bloke anvan li fonksyone, kit pake a se youn ou rekonèt ou pa.
Èske slopsquatting afekte tout modèl IA egalman?
Rechèch ki dèyè chif 19.7% la te kouvri plizyè modèl epi li te jwenn pwoblèm nan lajman distribye, ak sèlman yon ti varyasyon ant yo. Sa a se yon modèl atravè devlopman asisté pa IA, pa yon defo espesifik nan yon sèl asistan.
Èske nou ka verifye an aryè si nou deja enstale yon pake ki gen alizyon oswa move?
Wi. Platfòm Xygeni a bay kliyan yo aksè a yon baz done byen òganize ki gen pakè move yo detekte, ou ka fè rechèch sou yo nan envantè konpozan ou deja genyen an, pou ou ka konfime an kèk klik si gen yon bagay ki deja enstale ki se yon menas li te ye.
Konbyen tan aplikasyon an pran pou yon òganizasyon mwayen ki gen plizyè ekip?
Anjeneral, entegrasyon yon premye pwojè pran anviwon inèdtan. Anjeneral, li pran youn a de semèn pou l devlope nan yon òganizasyon konplè, sa depann de estrikti ekip la ak fason yo travay.
Kat sifas atak IA ou a, gratis
Kat jeyografik anprint IA aplikasyon w lan gratis: kreye yon kont epi fè yon premye eskanè nan kèk minitKòmanse avèk yon sèl aplikasyon, gade ki IA ki ladan l, epi gade ki pati nan sifas atak IA ou a ki danjere.
*Kèk kapasite yo mansyone pi wo a aplike atravè Xygeni Shield ak la ASPMModil sekirite IA; disponiblite a ka varye selon plan an. Gade xygeni.io pou detay pwodwi aktyèl yo.
