An Inventari i inteligjencës artificiale është një katalog i përditësuar vazhdimisht i çdo aseti të IA-së që funksionon në të gjithë organizatën tuaj — modele, pika fundore të mundësuara nga IA, grupe të dhënash, asistentë kodimi të IA-së, serverë MCP dhe varësi të IA-së — së bashku me marrëdhëniet, rreziqet dhe pronarët që i lidhin ato. Në një kontekst sigurie kjo nuk ka të bëjë fare me menaxhimin e inventarit të magazinës ose stokut; këtu, "Inventari i inteligjencës artificiale" thjesht do të thotë të dish saktësisht se çfarë IA-je po përdor, ku jeton dhe çfarë mund të arrijë.
Ndërsa IA përhapet në çdo fazë të zhvillimit të softuerit, nga gjenerimi i kodit në IDE deri te agjentët autonomë që veprojnë brenda CI/CD pipelines, pyetja nuk është më nëse IA është e pranishme në mjedisin tuaj. Ka të bëjë me faktin nëse mund ta shihni. Ky udhëzues shpjegon se çfarë është një inventar i inteligjencës artificiale, si lidhet ai me një AI-BOM dhe një SBOM, pse hije AI është bërë një problem sigurie, dhe si praktika lidhet me Akti i BE-së për UA, NIST AI RMF ISO / IEC 42001.
Përtypjet kryesore
- Një inventar i IA-së katalogon çdo model, grup të dhënash, agjent, server MCP dhe mjet kodimi të IA-së gjatë gjithë ciklit jetësor të softuerit tuaj, jo vetëm ato të miratuara nga IT-ja.
- Shadow AI, IA e adoptuar pa qeverisje, tani është normë, jo përjashtim: në një anketë të vitit 2026 të liderëve të sigurisë, vetëm 19% e organizatave raportuan transparencë të plotë se ku dhe si përdoret inteligjenca artificiale..
- An AI-BOM (Lista e Materialeve AI) është rezultati i gatshëm për auditim i një inventari të IA-së: pasardhësi i epokës së IA-së i SBOM.
- Rregullorja po vjen. Akti i BE-së për IA-në, NIST AI RMF dhe ISO/IEC 42001 kërkojnë që të dini se me çfarë IA-je operoni.
- Një inventar është vetëm pika e fillimit; vlera vjen nga vlerësimi i rrezikut dhe veprimi mbi numrin e vogël të aseteve që vërtet kanë rëndësi.
Çfarë është një inventar i inteligjencës artificiale?
Një inventar i IA-së është praktika e zbulimit, katalogimit dhe monitorimit të vazhdueshëm të çdo aseti të IA-së që vepron gjatë gjithë ciklit jetësor të zhvillimit të softuerit tuaj, si dhe rreziqet që lidhen me secilin prej tyre. Një inventar i plotë përgjigjet tre pyetjeve për çdo aset: çfarë është ai, ku funksionon dhe në çfarë mund të hyjë?
Ky fushëveprim është më i gjerë nga sa presin shumica e ekipeve. Një inventar kuptimplotë i inteligjencës artificiale duhet të mbulojë:
- Modeleçdo model i madh gjuhësor dhe model themelor në përdorim gjatë zhvillimit dhe prodhimit, me besim në version, vendndodhje dhe zbulim.
- datasetstë dhëna trajnimi, grupe të dhënash të rikuperimit dhe depo vektoriale, duke përfshirë ekspozimin ndaj kontekstit të helmuar dhe rrjedhjen e të dhënave.
- Agjentetsisteme autonome që ndërmarrin veprime në mjedisin tuaj, siç është hapja pull requests, instalimi i varësive ose prekja e infrastrukturës.
- Serverat MCP: Protokolli i kontekstit të modelit servera që lidhin asistentët e IA-së me mjete të jashtme, API dhe burime të dhënash.
- Mjete dhe asistentë kodimi të inteligjencës artificiale: bashkëpilotët dhe integrimet IDE që gjenerojnë kod, sugjerojnë varësi dhe bashkëveprojnë me depot.
- Kornizat e inteligjencës artificialeLangChain, LangGraph, serverat e agjentëve dhe shtresa të tjera të orkestrimit që lidhin modelet me mjetet dhe të dhënat.
- Marrëdhëniet midis aseteve: lidhjet midis modeleve, agjentëve, serverave, grupeve të të dhënave dhe sekreteve të lidhura me to. Një grafik marrëdhëniesh e bën rrezikun të dukshëm në kontekst, jo si një listë të sheshtë.
Inventari i IA-së kundrejt inventarit të aseteve të IA-së kundrejt AI-BOM, dhe si ndryshojnë ato nga një SBOM
Këto terma përdoren lirshëm, kështu që ndihmon të jesh paraprakishtcise. "Inventari i IA-së" dhe "Inventari i aseteve të IA-së" përshkruajnë të njëjtën gjë: katalogu i gjallë i aseteve të IA-së dhe rreziqet e tyre. Një AI-BOM është objekti i eksportueshëm që prodhon inventari.një listë materialesh e lexueshme nga makina që mund t'ia dorëzoni një auditori ose një enterprise blerës.
Mënyra më e pastër për të kuptuar AI-BOM është me analogji me SBOM:
Ndërsa inteligjenca artificiale integrohet në të gjithë SDLC, AI-BOM po bëhet po aq themelor sa SBOM, dhe udhëheqësit e sigurisë po marrin gjithnjë e më shumë kërkesa nga auditorët dhe enterprise ekipet e prokurimit pikërisht për këtë artefakt.
Pse inventari i inteligjencës artificiale ka rëndësi tani
Tre forca e kanë shndërruar inventarin e inteligjencës artificiale nga një gjë e mirë për t’u pasur në një përparësi.
- Së pari, inteligjenca artificiale po shkruan kod të pasigurt në shkallë të gjerë. Hulumtimet e pavarura vazhdimisht zbulojnë se një pjesë e madhe e kodit të gjeneruar nga IA-ja shoqërohet me dobësi. Studimi origjinal i NYU/Copilot nga Pearce et al. zbuloi përafërsisht 40% e programeve të gjeneruara përmbanin dobësi sigurie, dhe testimet më të fundit në shkallë të gjerë tregojnë në të njëjtën mënyrë: Analiza e Veracode për vitin 2025 në mbi 100 modele u gjet vetëm 55% e kodit të gjeneruar nga inteligjenca artificiale ishte i sigurtNëse nuk e dini se cilët asistentë po gjenerojnë kod në llogarinë tuaj pipelines, ti nuk mund ta kontrollosh atë rrezik.
- Së dyti, zinxhiri i furnizimit të softuerëve është bërë një sipërfaqe sulmi e Inteligjencës Artificiale. Në shtator 2025, Shai Hulud, krimbi i parë npm që përhapet vetë, i shndërroi makinat e zhvilluesve në një mekanizëm shpërndarjeje, duke u përhapur në qindra paketa. Në mars të vitit 2026, sulmuesit kompromentuan AXIOS, një paketë me afërsisht 100 milionë shkarkime javore, duke publikuar versione të helmuara që lëshonin një trojan me akses të largët. Sulme të tilla ndodhin pikërisht në shtresën midis AppSec tradicionale dhe mjeteve të pikës fundore: shtresa për të cilën është ndërtuar një inventar i inteligjencës artificiale.
- Së treti, sekretet dhe kredencialet po rrjedhin përmes inteligjencës artificiale. Raporti i GitGuardian's State of Secrets Sprawl 2026 raportoi se Rrjedhjet e sekreteve të shërbimeve të inteligjencës artificiale u rritën me 81% nga viti në vit, dhe që me ndihmën e inteligjencës artificiale commits leak secretme afërsisht dyfishin e shpejtësisë bazë. Çdo model, agjent ose server MCP i padokumentuar është një rrugë e mundshme drejt një kredenciali.
AppSec tradicional ndalet te depoja dhe nuk e kupton se çfarë është një model. Mjetet fundore e vëzhgojnë sistemin operativ, por nuk i kuptojnë paketat, serverët MCP ose asistentët e IA-së. Hendeku midis tyre është vendi ku grumbullohet rreziku i IA-së, dhe një inventar është hapi i parë për ta mbyllur atë.
Ku fshihet IA: Hije e IA-së në të gjithë SDLC
Shadow AI a është ndonjë sistem i IA-së i miratuar pa miratim ose qeverisje formale: bashkë-piloti që një zhvillues e aktivizoi javën e kaluar, serveri MCP që funksionon në një laptop, modeli i nxjerrë direkt nga një qendër publike në një projekt anësor. Nuk është një rast i jashtëzakonshëm. Në një anketë të vitit 2026 me mbi 400 udhëheqës të sigurisë, vetëm 19% raportuan se kishin njohuri të plotë se ku dhe si përdoret inteligjenca artificiale në të gjithë organizatën e tyre, ndërsa shumica dërrmuese tashmë përdornin ose pilotonin asistentë kodimi të inteligjencës artificiale.
IA-ja në hije më e vështirë për t'u gjetur është IA brenda ciklit jetësor të softuerit, sepse rrallë shfaqet në një konsolë cloud:
- Modelet dhe bibliotekat e IA-së të tërhequra në depo si varësi.
- Asistentët e kodimit të IA-së të konfiguruar për çdo zhvillues, për çdo IDE.
- Serverat MCP dhe skedarët e rregullave që ekzekutohen lokalisht në pikat fundore të zhvilluesit.
- Flukset e punës së agjentëve hapen në heshtje pull requests ose instalimi i paketave.
Kjo është arsyeja pse zbulimi vetëm në cloud nuk është i mjaftueshëm. Një inventar vërtet i plotë i IA-së duhet të përfshijë kodin dhe mjediset e ndërtimit (laptopi i zhvilluesit, depoja, pipeline), jo vetëm në cloud-in e prodhimit.
Çfarë i përket një AI-BOM
Një AI-BOM i gatshëm për auditim e kthen inventarin tuaj në diçka që mund ta provoni. Minimum, duhet të përfshijë:
- Çdo aset i IA-së: modele, grupe të dhënash, agjentë, serverë MCP, mjete kodimi të IA-së.
- Lloji i aseteve, vendndodhja dhe besimi i zbulimit për secilën.
- Origjina dhe varësitë (nga erdhi modeli ose përbërësi).
- Një nivel rreziku për aset, bazuar në vektorët e sulmit specifikë të inteligjencës artificiale.
- Hartimi rregullator me Aktin e BE-së për IA-në, NIST AI RMF dhe ISO/IEC 42001.
- Një format i eksportueshëm dhe i lexueshëm nga makina për auditorët dhe klientët.
Organizatat që mund të gjenerojnë një AI-BOM sipas kërkesës do të kenë një avantazh të vërtetë përputhshmërie dhe besimi, ndërsa detyrimet e auditimit të IA-së maturohen.
Inventari dhe përputhshmëria e IA-së: Akti i BE-së për IA-në, NIST AI RMF dhe ISO/IEC 42001
Asnjë nga kornizat kryesore nuk e emërton "inventarin e IA-së" si një artikull rreshti, por secila prej tyre është praktikisht e pamundur të plotësohet pa të. Ju nuk mund të dokumentoni, klasifikoni ose qeverisni sistemet e IA-së që nuk mund t'i shihni.
Një shënim mbi kohën: zbatimi i Aktit të BE-së për Inteligjencën Artificiale u rishikua nga marrëveshja "Digital Omnibus" e majit 2026, e cila shtyu shumicën e detyrimeve me risk të lartë deri në dhjetor 2027, duke mbajtur në fuqi disa momente kyçe të datës 2 gusht 2026 (detyrimet e transparencës, fuqitë e ndëshkimit të GPAI). Trajtojini datat e sakta si një objektiv lëvizës dhe konfirmojini ato me burimet kryesore të BE-së. Por drejtimi i udhëtimit është i qartë dhe inventari është parakushti për të gjithë këtë.
Si të ndërtoni dhe mirëmbani një inventar të inteligjencës artificiale
Ndërtimi i një inventari ka më pak të bëjë me një auditim të vetëm dhe më shumë me krijimin e një procesi të vazhdueshëm, sepse asetet e IA-së ndryshojnë vazhdimisht: modele të reja të miratuara, agjentë të rinj të vendosur në punë, serverë të rinj MCP të konfiguruar, shpesh pa miratim.
Një qasje praktike:
- Zbulo automatikisht në kod, ndërtim dhe në cloud. Fletët manuale të llogaritjes bëhen të vjetra brenda disa ditësh. Zbulimi duhet të funksionojë vazhdimisht dhe të arrijë deri në SDLC, jo vetëm kohën e ekzekutimit.
- Klasifikoni dhe hartëzoni marrëdhëniet. Lloji i regjistrimit, vendndodhja, prejardhja dhe, në mënyrë kritike, mënyra se si secili aset lidhet me të tjerët dhe me sekretet.
- Rreziku i pikëve në kontekst. Një listë e sheshtë me qindra gjetje nuk i ndihmon askujt; jep përparësi asaj që është realisht e arritshme, e shfrytëzueshme dhe kritike për biznesin.
- Cakto pronësinë. Çdo aset ka nevojë për një pronar të përgjegjshëm.
- Mbajeni aktiv dhe të eksportueshëm. Mbajeni atë si një inventar të vazhdueshëm që mund të prodhojë një AI-BOM sipas kërkesës.
Çfarë duhet të kërkoni në softuerin e inventarit të IA-së
Nëse po vlerësoni mjetet, këto janë aftësitë që dallojnë softuerin e vërtetë të inventarit të IA-së nga një listë statike:
- Kupton llojet e aseteve specifike për inteligjencën artificiale (modele, agjentë, servera MCP, grupe të dhënash), jo vetëm paketa dhe biblioteka.
- Arrin në SDLC, duke zbuluar IA-në në kod dhe në pikat fundore të zhvilluesve, jo vetëm në cloud.
- Marrëdhëniet në harta, jo vetëm asete individuale, kështu që rreziku është i dukshëm në kontekst.
- Vlerëson rrezikun në vektorët e sulmit specifikë të inteligjencës artificiale (injektim i shpejtë, MCP i pasigurt, agjenci e tepërt), jo vetëm ashpërsia e CVE.
- Funksionon vazhdimisht, duke kapur IA-në e re ndërsa shfaqet.
- Prodhon një AI-BOM të gatshëm për auditim që i kënaq si auditorët ashtu edhe enterprise prokurimi.
- Lidh inventarin me zbatimin e ligjit, në mënyrë që të mund të veproni sipas asaj që gjeni.
Nga inventari në veprim: sigurimi i asaj që gjen
Zbulimi është hapi i parë; i dyti është të kuptuarit se cilat asete mbartin rrezik real, sepse shumica nuk do të mbartin. Qëllimi është të kalohet nga mijëra gjetje të papërpunuara në një numër të vogël gjetjesh që në të vërtetë mund të kompromentojnë sistemet, të dhënat ose operacionet: ato që janë në përdorim aktiv, pranojnë të dhëna të pabesueshme, janë realisht të shfrytëzueshme, kanë akses të ndjeshëm dhe ndikojnë në prodhimin ose asetet e rregulluara.
Këtu është vendi ku Menaxhimi i Qëndrimit të Sigurisë së IA-së (AI-SPM) merr përsipër: marrjen e inventarit, vlerësimin e rrezikut përgjatë rrugës së sulmit të IA-së, hartëzimin e tij sipas rregullores dhe prodhimin e AI-BOM. Është gjithashtu vendi ku inventari takon zbatimin: bllokimin e varësive keqdashëse para se ato të instalohen, refuzimin e serverëve dhe modeleve MCP të pamiratuara dhe përmbajtjen e pikave fundore të kompromentuara para se një incident të përhapet.
At Xygeni, ky është modeli që ndërtojmë drejt: inventarit të vazhdueshëm të IA-së dhe AI-BOM përmes AI-SPM, zbulimit të malware që kap paketat keqdashëse përpara se të ekzistojë një nënshkrim (MEW, Paralajmërim i Hershëm për Malware), dhe zbatimin e politikave në pikën fundore të zhvilluesit përmes Xygeni Shield. Zbulimi është në përputhje me OWASP Top 10 për Aplikacionet LLM, OWASP Top 10 për Aplikacionet Agjentike dhe OWASP MCP Top 10. Por cilado qasje që të zgjidhni, parimi qëndron: Nuk mund ta sigurosh atë që nuk mund ta shohësh, dhe një inventar i inteligjencës artificiale është vendi ku fillon dukshmëria.
FAQs
Si ndryshon një AI-BOM nga një SBOM?
An SBOM katalogon varësitë e softuerëve me burim të hapur dhe të palëve të treta, të vlerësuara sipas ashpërsisë së CVE. Një AI-BOM katalogon asetet specifike të IA-së (modelet, agjentët, serverët MCP, grupet e të dhënave) me vlerësimin e rrezikut specifik të IA-së dhe hartëzimin rregullator. Ndërsa IA përhapet në të gjithë SDLC, AI-BOM po bëhet po aq themelor sa SBOM.
Çfarë është AI në hije dhe si ta zbuloj atë?
IA në hije është çdo IA e adoptuar pa miratim ose qeverisje formale: një bashkëpilot i aktivizuar, një server lokal MCP, një model i nxjerrë nga një qendër publike. E zbuloni me inventar të automatizuar të vazhdueshëm që arrin në kod, ndërtim. pipelinedhe pikat fundore të zhvilluesve, jo vetëm në cloud-in e prodhimit ku shumica e inteligjencës artificiale në hije nuk shfaqet kurrë.
A kërkon Akti i BE-së për Inteligjencën Artificiale një inventar të Inteligjencës Artificiale?
Akti i BE-së për IA-në nuk e emërton në mënyrë të qartë "inventarin e IA-së", por detyrat e tij të dokumentimit, klasifikimit dhe regjistrimit për sistemet me rrezik të lartë janë të pamundura të përmbushen pa një të tillë. E njëjta gjë vlen edhe për RMF-në e IA-së të NIST (funksioni Map, Govern 1.6) dhe ISO/IEC 42001, i cili kërkon mbajtjen e një inventari të sistemeve të IA-së.
Çfarë është AI-SPM?
Menaxhimi i Qëndrimit të Sigurisë së IA-së (AI-SPM) është praktika e zbulimit të vazhdueshëm të aseteve të IA-së, vlerësimit të rrezikut të tyre përgjatë rrugës së sulmit të IA-së, hartëzimit të tyre sipas rregullores dhe prodhimit të një AI-BOM. Ai zgjeron të menduarit për menaxhimin e qëndrimit (të njohur nga CSPM dhe DSPM) tek asetet dhe vektorët e sulmit specifikë të IA-së.
Sa shpesh duhet të përditësohet një inventar i inteligjencës artificiale?
Vazhdimisht. Asetet e IA-së ndryshojnë çdo ditë ndërsa ekipet miratojnë modele të reja, vendosin agjentë të rinj dhe konfigurojnë servera të rinj MCP, zakonisht pa miratim formal. Një skanim në çdo kohë bëhet i vjetëruar brenda disa ditësh, kështu që softueri efektiv i inventarit të IA-së funksionon si një proces i vazhdueshëm dhe jo si një auditim i vetëm.
Si e inventarizoj inteligjencën artificiale të përdorur në kodin burimor?
Inventarizimi i IA-së në kod do të thotë zbulimi i modeleve dhe librarive të IA-së të tërhequra si varësi, asistentëve të kodimit të IA-së të konfiguruar për zhvillues dhe serverëve MCP ose skedarëve të rregullave që funksionojnë lokalisht. Kjo kërkon zbulim që vepron brenda SDLC (depozita, ndërtimi pipelines dhe pikat fundore të zhvilluesve) në vend që vetëm në konsolat cloud.
