Një skedar aftësish. Një skedar rregullash. Një konfigurim i serverit MCP. Tre rreshta teksti të thjeshtë, committë testuara si dokumentacion, të rishikuara si dokumentacion dhe asnjëra prej tyre nuk duket si kod. E megjithatë, secila prej tyre mund të rishkruajë në heshtje atë që asistenti juaj i IA-së udhëzohet të bëjë dhe atë që i lejohet të arrijë. Kjo është e vërteta e pakëndshme pas sigurisë së IA-së. në 2026Industria kaloi dy vjet duke u shqetësuar për përmbajtjen e kodit të gjeneruar nga IA-ja. Problemi më i vështirë doli të ishte vetë zinxhiri i furnizimit me IA: modelet, agjentët, serverët MCP dhe skedarët e konfigurimit që tani ndodhen së bashku me kodin tuaj burimor dhe varësitë me burim të hapur, kryesisht të painventarizuara dhe të pashqyrtuara. Pikërisht kjo është arsyeja pse siguria e zinxhirit të furnizimit me IA është bërë disiplinë më vete dhe pse zgjedhja e kompanisë së duhur të sigurisë me IA ka po aq rëndësi sa zgjedhja e skanerit të duhur.
Sipërfaqja e sulmit për të cilën askush nuk kishte planifikuar buxhet
Softueri dikur kishte disa vende ku një sulmues mund të arrinte: kodin, varësitë, pipelineIA shtoi edhe dy të tjera, dhe të dyja ushqejnë drejtpërdrejt zinxhirin e furnizimit me IA.
Modeli dhe agjenti. Helmim nga mjetet, injektim i shpejtë, autonomi agjenti që shkon më tej nga sa kishte menduar kushdo. Një udhëzim i fshehur në përshkrimin e një serveri MCP mund ta ridrejtojë në heshtje atë që bën një bashkëpilot, dhe zhvilluesi nuk e sheh kurrë të ndodhë.
Mjedisi i vetë zhvilluesit. IDE, bashkëpilotë të IA-së, serverë MCP, agjentë CLI. Të padukshëm për skanerët e trashëguar të AppSec, të cilët nuk e dinë se çfarë është një model, dhe të padukshëm për EDR, i cili vëzhgon sistemin operativ dhe nuk ka idenë se çfarë është një varësi ose një thirrje MCP.
Asgjë nga këto nuk është teorike. Në tetëmbëdhjetë muajt e fundit:
- Një “derë e pasme e skedarëve të rregullave” e fshehur me Unicode i lejonte sulmuesit të injektonin udhëzime të padukshme në skedarët e konfigurimit që lexonin Copilot dhe Cursor, duke hapur në heshtje kodin e gjeneruar nga asistenti. GitHub shtoi një paralajmërim për të në vitin 2025.
- Një defekt i injektimit të komandave në një urë të njohur MCP (CVSS 9.6) u shkarkua mbi 400,000 herë para se të rregullohej, rasti i parë i dokumentuar i ekzekutimit të plotë të kodit në distancë të shkaktuar thjesht duke u lidhur me një server MCP të pabesueshëm.
- Një krimb npm që përhapet vetë i shndërroi vetë zhvilluesit në mekanizëm shpërndarjeje, dhe modeli u përsërit në shkallë të gjerë në muajt në vijim në ekosisteme të tjera, një dështim i sigurisë së zinxhirit të furnizimit me IA, një shembull i zakonshëm i librit shkollor.
- Studiuesit zbuluan se një pjesë domethënëse e paketave që rekomandojnë LLM-të nuk ekzistojnë fare, emra "të papërshtatshëm" që një sulmues regjistron përpara se një zhvillues i vërtetë t'i kërkojë modelit t'i importojë ato.
Hulumtimi i vetë Google-it mbi sigurimin e zinxhirit të furnizimit me softuer të inteligjencës artificiale arrin në një përfundim të ngjashëm nga një këndvështrim tjetër: modelet e gjetura që qarkullonin në vitet 2023 dhe 2024 dukeshin të ligjshme ndërsa mbartnin kod që mund të nxirrte të dhëna ose të vendoste një derë të pasme pasi të shkarkohej, dhe zgjidhja nuk ishte një kategori e re mjeti, aq më tepër zbatimi i disiplinës së zinxhirit të furnizimit, si prejardhja dhe nënshkrimi, për objekte që askush nuk i kishte ndjekur më parë. Ky është problemi i sigurisë së zinxhirit të furnizimit me inteligjencën artificiale me një fjali: objektet janë të reja, por disiplina që u nevojitet nuk është.
Pse mjetet tuaja ekzistuese mbarojnë pak
SAST lexon kodin. SCA lexon një manifest varësish. Asnjëri nuk e di se çfarë është një model, çfarë ekspozon një server MCP ose çfarë udhëzon një skedar aftësish një agjent të bëjë. Ky boshllëk është pikërisht aty ku bien sulmet e epokës së inteligjencës artificiale, në hapësirën midis "kodit që skanojmë" dhe "IA-së që e përvetësuam në heshtje".
Rezultati është një kategori e AI-së në hije nr. CISAktualisht, O mund të përgjigjet për: cilat modele po përdorim, cilët agjentë mund të arrijnë çfarë dhe me cilin server MCP u lidh dikush të martën e kaluar pa i thënë askujt. Përgjigja e mirë e kësaj pyetjeje është detyrë e sigurisë së zinxhirit të furnizimit me IA dhe kjo është arsyeja pse mjetet gjenerike AppSec vazhdojnë të dështojnë këtu.
Çfarë do të thotë në të vërtetë siguria e inteligjencës artificiale
Xygeni është kompania e sigurisë së IA-së që e trajton këtë si tre lëvizje të lidhura në të gjithë SDLC: zbulo, zbulo dhe zbato.
Zbuloni: dini se çfarë inteligjence artificiale keni në të vërtetë
Zbulimi i vazhdueshëm dhe automatik në të gjitha depot tuaja nxjerr në pah çdo aset të IA-së: modele, korniza, grupe të dhënash, pika fundore të përfundimit, agjentë, serverë MCP, aftësi, kërkesa, guardrailsdhe mjetet e kodimit të inteligjencës artificiale që zhvilluesit tuaj po përdorin në të vërtetë. Pa anketa. Pa vetë-raportim. Nëse ka lënë gjurmë në një depo, shfaqet në inventar, kërkesa e parë dhe më themelore e sigurisë së vërtetë të zinxhirit të furnizimit me inteligjencë artificiale.
Grafiku i IA-së më pas hartëzon se si lidhen këto asete: cilin model ushqen një grup të dhënash, cili agjent aktivizon cilin mjet, cili server MCP ndodhet pas cilit asistent. Një aset i izoluar ju tregon pak. Grafiku ju tregon se ku përqendrohet rreziku.
Nga i njëjti zbulim, Xygeni gjeneron një AI-BOM: një inventar i gatshëm për auditim dhe i lexueshëm nga makina për gjithçka që lidhet me IA-në në softuerin tuaj. Kur një rregullator, një auditor ose një klient pyet se çfarë IA-je po përdorni, përgjigjja bëhet një shkarkim në vend të një përpjekjeje tre-javore.
Zbuloni: rreziqet që skanerët konvencionalë nuk mund t'i shohin
Një skaner i dedikuar i IA-së kërkon mënyrat e dështimit që janë specifike për sistemet e IA-së: injektimi i menjëhershëm, injektimi i mjeteve dhe thirrja e mjeteve të pabesueshme, rrjedhja e të dhënave përmes rikuperimit, anashkalimi i menjëhershëm i sistemit, veprimi i tepërt. Çdo gjetje lidhet me OWASP 10 më të mirat për aplikimet LLM dhe tregon skedarin dhe rreshtin e saktë që krijon ekspozimin, jo një alarm të paqartë "rishikoni përdorimin tuaj të inteligjencës artificiale".
E njëjta shtresë zbulimi i trajton skedarët e aftësive, skedarët e rregullave dhe konfigurimet MCP si artefakte sigurie që ato janë, jo si dokumentacion të padëmshëm. Ai sinjalizon aftësi keqdashëse ose të helmuara, inspekton konfigurimet e serverit MCP për helmim mjetesh dhe nxjerr në pah kërkesat që në të vërtetë drejtojnë ngarkesat tuaja të punës në IA.
Përparësoni: kanalin që ul zhurmën, jo qoshet
Çdo gjetje filtrohet në mënyrë progresive: deri te ajo që është e arritshme në kodin e aplikacionit, pastaj te ajo që është vërtet e shfrytëzueshme dhe më pas te ajo që ndodhet në kodin që ekipi juaj po zhvillon në mënyrë aktive. Ajo që i arrin radhës së zhvilluesit është lista e shkurtër që në të vërtetë kërcënon prodhimin, me referencën e kornizës, dritaren e ekspozimit dhe udhëzimet e zbutjes të bashkangjitura.
Zbatoje: ndaloje përpara se të ekzekutohet
Shield sjell zbatimin e politikave në pikën fundore të zhvilluesit: bllokon instalimet e paautorizuara dhe dashakeqe, modelet e pamiratuara dhe serverët MCP të paautorizuar para se të ekzekutohet ndonjë gjë. Poshtë saj ndodhet Xygeni's Paralajmërim i Hershëm për Malware (MEW), e cila kap paketat keqdashëse përpara se të ekzistojë një nënshkrim, mjetet e shtresës së bazuara në reputacion ende besojnë sepse askush nuk e ka raportuar paketën ende. Është gjysma e zbatimit të sigurisë së zinxhirit të furnizimit me IA: zbulimi dhe zbulimi ju tregojnë se çfarë nuk shkon, Shield është ajo që në të vërtetë e ndalon atë.
Ekspozimi juaj ndaj inteligjencës artificiale nuk është vetëm në kodin tuaj të inteligjencës artificiale
Një pamje e plotë e sigurisë së zinxhirit të furnizimit me IA ka nevojë për më shumë sesa një inventar modelesh, dhe rrallë janë vetëm gjërat që bien në sy:
- Kredencialet e ofruesit të inteligjencës artificiale të mbetura në skedarët e kërkesave, konfigurimet e agjentëve ose pipeline Regjistrat janë sekrete si çdo sekret tjetër, dhe zbulimi i sekreteve i Xygenit i kap ato përpara se të arrijnë në një regjistër publik.
- Varësi të cenueshme nga IA dhe ML mbajnë CVE-të e zakonshme, të nxjerra në pah nga e njëjta analizë e përbërjes së softuerit që mbulon tashmë pjesën tjetër të paketës suaj. Hulumtimet e palëve të treta mbi adaptimin e IA-së kanë treguar se sa nga paketën moderne të IA-së përbëhet nga paketa me burim të jashtëm dhe komponentë të fshehur, që është pikërisht analiza sipërfaqësore e përbërjes së softuerit që është ndërtuar për të mbuluar.
- Paketa keqdashëse u publikua më shpejt se çdo këshillë pipeline mund t'i katalogojë ato kur kapen para-nënshkrimit, me të njëjtën aftësi MEW që mbron pjesën tjetër të zinxhirit tuaj të furnizimit.
Shtresa agjentike: DevAI dhe CoreAI
Zbulimi dhe zbulimi mbulojnë atë që ndodhet tashmë në depot tuaja. DevAI Funksionon aty ku krijohet rreziku: brenda IDE-së, si një shtresë e vazhdueshme dhe proaktive që skanon kodin njerëzor dhe të gjeneruar nga IA ndërsa shkruhet, nuk kërkohen kërkesa. Ai shpjegon rrugën e plotë të shfrytëzimit pas një gjetjeje dhe propozon rregullime të validuara nga MCP që një zhvillues mund t'i aplikojë me besim, pa prishur ndërtimin.
CoreAI ndodhet mbi skanerët individualë si shtresa e inteligjencës: ai korrelon kodin, varësinë, pipelinedhe të dhënat e pozicionit në një model të vetëm rreziku, u përgjigjet pyetjeve në gjuhë natyrore dhe prodhon raportimin e gatshëm për ekzekutivin që një udhëheqës sigurie duhet të tregojë se qeverisja po ndodh vërtet, jo vetëm po pretendohet.
Zgjero atë që ke në AI Security. Mos fshij asgjë.
Kundërshtimi më i zakonshëm ndaj një kategorie të re sigurie është "ne tashmë kemi mjete të mjaftueshme". Si një kompani sigurie e inteligjencës artificiale, Xygeni nuk ju kërkon të zëvendësoni asgjë: i njëjti klasifikim, shpjegim dhe përparësim i aplikuar në gjetjet e veta funksionon në mënyrë të barabartë edhe në gjetjet nga kategoria juaj ekzistuese. SAST, SCAdhe skanerë të palëve të treta. Stack-u juaj aktual bëhet një input, jo një viktimë, dhe siguria e zinxhirit të furnizimit me IA përmirësohet pa një projekt "riparimi dhe zëvendësimi" të lidhur me të.
Pse kjo ka rëndësi tani, jo më vonë
Rregullatorët po konvergojnë rreth të njëjtës pritshmëri nga drejtime të ndryshme: Akti i BE-së për IA-në, NIS2 dhe ENS i Spanjës shtyjnë të gjitha drejt inventarit dhe gjurmueshmërisë për sistemet e IA-së, të njëjtat prova që një AI-BOM është ndërtuar për të prodhuar. Drejtimi i lëvizjes është i qartë edhe aty ku mekanizmat e saktë të përputhshmërisë ende nuk janë vendosur: nuk mund të dëshmoni për IA që nuk e keni inventarizuar kurrë dhe nuk mund të pretendoni sigurinë e zinxhirit të furnizimit me IA nëse vetë zinxhiri i furnizimit është i padukshëm për ju.
Zgjedhja e një kompanie sigurie për inteligjencën artificiale
Jo çdo kompani sigurie e IA-së e vendos kufirin e saj në të njëjtin vend. Disa ndalen në skanimin e kodit tuaj të gjeneruar nga IA. Të tjera ndalen në pikën fundore. Çështja e sigurisë së zinxhirit të furnizimit të IA-së është më e madhe se secila pjesë më vete: ajo përfshin modelin, agjentin, serverin MCP, skedarin e aftësive dhe varësinë e zakonshme që ndodhet poshtë të gjithave. Kjo pamje e ciklit të plotë jetësor, nga zbulimi deri te zbatimi, në një tastierë me pjesën tjetër të gjetjeve tuaja të AppSec, është ajo që duhet të kërkoni kur vlerësoni një kompani sigurie të IA-së në vend të një mjeti të vetëm.
Dosjet që askush nuk i shqyrton u bënë rruga hyrëse. Siguria e inteligjencës artificiale është disiplina e shqyrtimit të tyre, dhe siguria e zinxhirit të furnizimit të inteligjencës artificiale është ajo që e bën atë disiplinë të qëndrojë e qëndrueshme, në të njëjtën platformë ku ju tashmë shqyrtoni gjithçka tjetër.
Shih se çfarë lejohet të bëjë në të vërtetë IA-ja jote. Filloni falas or caktoni një demo.
FAQ
A del ndonjëherë kodi i Xygenit nga infrastruktura ime?
Jo. Skanimet kryhen brenda mjedisit tuaj dhe kodi burimor nuk ngarkohet kurrë në serverat e Xygeni-t. Inventari i IA-së dhe AI-BOM ndërtohen nga ajo që skaneri sheh lokalisht, jo nga një kopje e dërguar nga jashtë.
Cili është ndryshimi midis AI Security, DevAI dhe CoreAI?
AI Security zbulon dhe detekton: ndërton inventarin e IA-së, AI-BOM, dhe gjen rreziqe si injektim i menjëhershëm ose skedarë aftësish të helmuara. DevAI punon brenda IDE-së ndërsa zhvilluesit shkruajnë kod, duke propozuar rregullime gjatë procesit. CoreAI qëndron mbi të dyja, duke lidhur gjetjet në të gjithë platformën dhe duke u përgjigjur pyetjeve në lidhje me qëndrimin tuaj të sigurisë në gjuhë natyrore.
Me cilat korniza sigurie të IA-së përputhet Xygeni?
Gjetjet përputhen me OWASP Top 10 për Aplikimet LLM, OWASP Top 10 për MCP dhe OWASP Top 10 për Aftësitë Agjentike, së bashku me NIST SP 800-218A dhe CISUdhëzime A/G7 mbi listat e materialeve të IA-së. Kjo hartëzim është ajo që e bën AI-BOM të përdorshëm si provë përputhshmërie dhe jo vetëm si një inventar.
A do të shënojë kjo çdo bibliotekë ose model të IA-së si rrezik?
Jo. Kanali i prioritizimit i ngushton gjetjet në atë që është e arritshme në kodin e aplikacionit, vërtet e shfrytëzueshme dhe në zhvillim aktiv, kështu që lista që sheh një zhvillues është e shkurtër, jo një përmbledhje e çdo aseti të zbuluar të IA-së.
