An Inventar umetne inteligence je nenehno posodobljen katalog vseh sredstev umetne inteligence, ki delujejo v vaši organizaciji – modeli, končne točke, ki jih poganja umetna inteligenca, nabori podatkov, pomočniki za kodiranje z umetno inteligenco, strežniki MCP in odvisnosti od umetne inteligence — skupaj z odnosi, tveganji in lastniki, ki jih povezujejo. V varnostnem kontekstu to nima nobene zveze z upravljanjem skladišča ali zalog; tukaj, "Inventar umetne inteligence" preprosto pomeni vedeti, katero umetno inteligenco uporabljate, kje se nahaja in kaj lahko doseže.
Ker se umetna inteligenca širi v vse faze razvoja programske opreme, od generiranja kode v integriranem razvojnem okolju (IDE) do avtonomnih agentov, ki delujejo znotraj CI/CD pipelineVprašanje ni več, ali je umetna inteligenca prisotna v vašem okolju. Gre za to, ali ga lahko vidiš. Ta priročnik pojasnjuje, kaj je inventar umetne inteligence in kako je povezan z AI-BOM in SBOM, zakaj senca AI je postal varnostni problem in kako se praksa preslikava na Zakon EU o AI, NIST AI RMF in ISO / IEC 42001.
Ključni odvzemi
- Popis umetne inteligence katalogizira vse modele, nabore podatkov, agente, strežnike MCP in orodja za kodiranje umetne inteligence v celotnem življenjskem ciklu programske opreme, ne le tiste, ki jih je odobrila IT služba.
- Shadow AI, umetna inteligenca, sprejeta brez upravljanja, je zdaj norma, ne izjema: v eni anketi med varnostnimi voditelji iz leta 2026 je le 19 % organizacij je poročalo o popolnem pregledu nad tem, kje in kako se uporablja umetna inteligenca.
- An AI-BOM (kosovnica materialov z umetno inteligenco) je rezultat popisa umetne inteligence, pripravljen za revizijo: naslednik obdobja umetne inteligence SBOM.
- Prihajajo predpisi. Zakon EU o umetni inteligenci, standard NIST AI RMF in standard ISO/IEC 42001 dejansko zahtevajo, da veste, s katero umetno inteligenco upravljate.
- Popis je le izhodišče; vrednost izhaja iz ocenjevanja tveganja in ukrepanja na podlagi majhnega števila sredstev, ki so resnično pomembna.
Kaj je inventar umetne inteligence?
Popis umetne inteligence je praksa odkrivanja, katalogiziranja in nenehnega spremljanja vseh sredstev umetne inteligence, ki delujejo v celotnem življenjskem ciklu razvoja programske opreme, ter tveganj, povezanih z vsakim od njih. Popoln popis odgovori na tri vprašanja za vsako sredstvo: kaj je to, kje deluje in do česa lahko dostopa?
Ta obseg je širši, kot večina ekip pričakuje. Smiseln popis umetne inteligence bi moral zajemati:
- Modeli: vsak velik jezikovni model in osnovni model, ki se uporablja v razvoju in produkciji, z zanesljivostjo različice, lokacije in zaznavanja.
- Podatkovni nizi: podatki za učenje, nabori podatkov za pridobivanje in vektorske shrambe, vključno z izpostavljenostjo zastrupljenemu kontekstu in uhajanju podatkov.
- Agenti: avtonomni sistemi, ki izvajajo dejanja v vašem okolju, kot je odpiranje pull requests, nameščanje odvisnosti ali dotikanje infrastrukture.
- MCP strežniki: Model Context Protocol strežniki, ki povezujejo pomočnike umetne inteligence z zunanjimi orodji, API-ji in viri podatkov.
- Orodja in pomočniki za kodiranje umetne inteligence: integracije kopilotov in IDE, ki ustvarjajo kodo, predlagati odvisnosti in komunicirati z repozitoriji.
- Okviri umetne inteligenceLangChain, LangGraph, agentski strežniki in druge orkestracijske plasti, ki povezujejo modele z orodji in podatki.
- Razmerja med sredstvi: povezave med modeli, agenti, strežniki, nabori podatkov in skrivnostmi, povezanimi z njimi. Graf odnosov omogoča, da je tveganje vidno v kontekstu, ne kot raven seznam.
Zaloga umetne inteligence v primerjavi z zalogo sredstev umetne inteligence v primerjavi z AI-BOM in kako se razlikujeta od SBOM
Ti izrazi se uporabljajo ohlapno, zato je koristno, da se predhodnocise. »Inventar umetne inteligence« in »inventar sredstev umetne inteligence« opisujeta isto stvar.Živi katalog sredstev umetne inteligence in njihovih tveganj. AI-BOM je izvozni artefakt, ki ga proizvaja inventar: strojno berljiv seznam materialov, ki ga lahko izročite revizorju ali enterprise kupec.
Najčistejši način za razumevanje AI-BOM je po analogiji z SBOM:
Ko se umetna inteligenca vgrajuje v vse SDLC, AI-BOM postaja tako temeljna kot SBOMin vodje varnostnih oddelkov vse pogosteje prejemajo zahteve revizorjev in enterprise nabavne ekipe za točno ta artefakt.
Zakaj je inventar umetne inteligence zdaj pomemben
Tri sile so zaloge umetne inteligence iz nekaj lepega spremenile v prednostno nalogo.
- Prvič, umetna inteligenca piše nezanesljivo kodo v velikem obsegu. Neodvisne raziskave dosledno ugotavljajo, da velik delež kode, ustvarjene z umetno inteligenco, vsebuje ranljivosti. Prvotna študija NYU/Copilot, ki so jo izvedli Pearce in sodelavci, je pokazala približno 40 % ustvarjenih programov je vsebovalo varnostne pomanjkljivostiin novejše obsežno testiranje kaže na isto: analiza Veracode iz leta 2025, ki je zajemala več kot 100 modelov, je pokazala le 55 % kode, ustvarjene z umetno inteligenco, je bilo varnihČe ne veste, kateri pomočniki ustvarjajo kodo v vašem pipelines, tega tveganja ne morete obvladovati.
- Drugič, dobavna veriga programske opreme je postala površina za napade umetne inteligence. Septembra 2025, Shai Hulud, prvi samorazmnoževalni črv npm, je razvijalske stroje spremenil v distribucijski mehanizem, ki se je širil po stotinah paketov. Marca 2026 so napadalci ogrozili axios, paket s približno 100 milijonov tedenskih prenosov..., ki je objavil zastrupljene različice, ki so spuščale trojanca za oddaljeni dostop. Takšni napadi pristanejo natanko v plasti med tradicionalnim orodjem za varnost aplikacij AppSec in končnimi točkami: plasti, ki jo osvetljuje inventar umetne inteligence.
- Tretjič, skrivnosti in poverilnice uhajajo prek umetne inteligence. V poročilu GitGuardian State of Secrets Sprawl 2026 je bilo poročano, da Uhajanje skrivnosti o storitvah umetne inteligence se je v primerjavi z lanskim letom povečalo za 81 %in da s pomočjo umetne inteligence commits leak secrets približno dvakratno osnovno stopnjo. Vsak nedokumentiran model, agent ali strežnik MCP je potencialna pot do poverilnice.
Tradicionalna AppSec se ustavi pri repozitoriju in ne razume, kaj je model. Orodja za končne točke opazujejo operacijski sistem, vendar ne razumejo paketov, strežnikov MCP ali pomočnikov umetne inteligence. Vrzel med njima je tista, kjer se kopiči tveganje umetne inteligence, inventar pa je prvi korak k njenemu zaprtju.
Kjer se skriva umetna inteligenca: Senčenje umetne inteligence po vsem svetu SDLC
Shadow AI Ali je kateri koli sistem umetne inteligence sprejet brez formalne odobritve ali upravljanja: kopilot, ki ga je razvijalec omogočil prejšnji teden, strežnik MCP, ki deluje na prenosniku, model, ki je bil neposredno iz javnega središča prenesen v stranski projekt? To ni robni primer. V anketi iz leta 2026, v kateri je sodelovalo več kot 400 varnostnih vodij, je le 19 % jih je poročalo o popolnem vpogledu v to, kje in kako se uporablja umetna inteligenca v celotni organizaciji, medtem ko je velika večina že uporabljala ali pilotno izvajala pomočnike za kodiranje z umetno inteligenco.
Najtežje najti senčno umetno inteligenco je umetna inteligenca znotraj življenjskega cikla programske opreme, ker se le redko prikaže v konzoli v oblaku:
- Modeli in knjižnice umetne inteligence, ki so bili kot odvisnosti preneseni v repozitorije.
- Pomočniki za kodiranje z umetno inteligenco, konfigurirani na razvijalca, na integrirano razvojno okolje (IDE).
- Strežniki MCP in datoteke s pravili, ki se izvajajo lokalno na končnih točkah razvijalcev.
- Tiho odpiranje delovnih procesov agentov pull requests ali nameščanje paketov.
Zato odkrivanje samo v oblaku ni dovolj. Resnično popoln popis umetne inteligence mora doseči kodo in okolja za gradnjo (prenosnik razvijalca, repozitorij, pipeline), ne le produkcijski oblak.
Kaj spada v AI-BOM
Seznam umetne inteligence, pripravljen za revizijo, spremeni vaše zaloge v nekaj, kar lahko dokažete. Vsaj vsebovati mora:
- Vsako sredstvo umetne inteligence: modeli, nabori podatkov, agenti, strežniki MCP, orodja za kodiranje umetne inteligence.
- Vrsta sredstva, lokacija in zanesljivost zaznavanja za vsako.
- Izvor in odvisnosti (od kod prihaja model ali komponenta).
- Stopnja tveganja na sredstvo, ki temelji na vektorjih napadov, specifičnih za umetno inteligenco.
- Preslikava predpisov v zakon EU o umetni inteligenci, okvirno shemo za upravljanje umetne inteligence NIST in standard ISO/IEC 42001.
- Izvozna, strojno berljiva oblika za revizorje in stranke.
Organizacije, ki lahko na zahtevo ustvarijo seznam umetne inteligence (AI-BOM), bodo imele resnično prednost skladnosti in zaupanja, ko bodo obveznosti revizije umetne inteligence dozorele.
Popis in skladnost z umetno inteligenco: Zakon EU o umetni inteligenci, standard NIST AI RMF in ISO/IEC 42001
Noben od večjih ogrodji ne omenja »zaloge umetne inteligence« kot postavke, vendar je brez nje praktično nemogoče izpolniti katero koli od njih. Sistemov umetne inteligence, ki jih ne morete videti, ni mogoče dokumentirati, razvrstiti ali upravljati.
Opomba glede časa: uvedba zakona EU o umetni inteligenci je bila spremenjena s sporazumom »Digital Omnibus« iz maja 2026, ki je večino obveznosti z visokim tveganjem preložil na december 2027, hkrati pa ohranil več mejnikov z 2. avgusta 2026 (dolžnosti glede preglednosti, pooblastila za kazni v zvezi z GPAI). Natančne datume obravnavajte kot premično tarčo in jih preverite glede na primarne vire EU. Vendar je smer potovanja jasna, popis pa je predpogoj za vse to.
Kako zgraditi in vzdrževati inventar umetne inteligence
Pri izdelavi inventarja gre manj za enkratni pregled in bolj za vzpostavitev neprekinjenega procesa, saj se sredstva umetne inteligence nenehno spreminjajo: sprejeti so novi modeli, nameščeni so novi agenti, konfigurirani so novi strežniki MCP, pogosto brez odobritve.
Praktičen pristop:
- Samodejno odkrivanje v kodi, gradnji in oblaku. Ročno vnesene preglednice zastarijo v nekaj dneh. Odkrivanje mora delovati neprekinjeno in doseči SDLC, ne samo med izvajanjem.
- Razvrstite in preslikajte odnose. Zabeležite vrsto, lokacijo, izvor in, kar je ključno, kako je vsako sredstvo povezano z drugimi in s skrivnostmi.
- Tveganje rezultata v kontekstu. Ploski seznam stotin ugotovitev ne pomaga nikomur; prednostno razvrstite po tem, kaj je dejansko dosegljivo, uporabno in poslovno ključnega pomena.
- Dodeli lastništvo. Vsako premoženje potrebuje odgovornega lastnika.
- Naj bo aktivno in izvozno. Vzdržujte ga kot neprekinjeno zalogo, ki lahko na zahtevo ustvari seznam umetne inteligence (AI-BOM).
Na kaj morate biti pozorni pri izbiri programske opreme za inventarizacijo z umetno inteligenco
Če ocenjujete orodja, so to zmogljivosti, ki ločujejo pristno programsko opremo za inventar umetne inteligence od statičnega seznama:
- Razume vrste sredstev, specifičnih za umetno inteligenco (modeli, agenti, strežniki MCP, nabori podatkov), ne le paketi in knjižnice.
- Sega v SDLC, odkrivanje umetne inteligence v kodi in na končnih točkah razvijalcev, ne le v oblaku.
- Zemljevidi odnosov, ne le posameznih sredstev, zato je tveganje vidno v kontekstu.
- Oceni tveganje na vektorjih napadov, specifičnih za umetno inteligenco (hitro injiciranje, negotov MCP, pretirana posrednost), ne le resnost CVE.
- Deluje neprekinjeno, ki ujame novo umetno inteligenco, kot se zdi.
- Izdela seznam umetne inteligence, pripravljen za revizijo ki zadovolji tako revizorje kot enterprise nabava.
- Povezuje inventar z izvrševanjem, da lahko ukrepate na podlagi tega, kar odkrijete.
Od popisa do dejanja: zavarovanje najdenega
Odkritje je prvi korak; drugi je razumevanje, katera sredstva predstavljajo resnično tveganje, saj večina ne bo. Cilj je preiti od tisočev surovih ugotovitev k peščici tistih, ki lahko dejansko ogrozijo sisteme, podatke ali operacije: tistih, ki so aktivno v uporabi, sprejemajo nezanesljive vnose, jih je realno mogoče izkoristiti, imajo občutljiv dostop in vplivajo na proizvodnjo ali regulirana sredstva.
Tukaj se uporablja upravljanje varnostnih pozicij umetne inteligence (AI-SPM) prevzame: popis, ocenjevanje tveganja vzdolž poti napada umetne inteligence, njegovo preslikavo v predpise in izdelavo seznama umetne inteligence (AI-BOM). Tukaj se popis sreča tudi z izvrševanjem: blokiranje zlonamernih odvisnosti pred namestitvijo, zavračanje neodobrenih strežnikov in modelov MCP ter zadrževanje ogroženih končnih točk, preden se incident razširi.
At Ksigeni, to je model, ki ga gradimo v smeri: neprekinjenega popisa umetne inteligence in AI-BOM prek AI-SPM, zaznavanja zlonamerne programske opreme, ki zazna zlonamerne pakete, še preden obstaja podpis (MEW, zgodnje opozarjanje na zlonamerno programsko opremo) in uveljavljanje pravilnikov na končni točki razvijalca prek Xygeni Shield. Zaznavanje je usklajeno z OWASP Top 10 za aplikacije LLM, OWASP Top 10 za agentske aplikacije in OWASP MCP Top 10. Ne glede na to, kateri pristop izberete, pa velja načelo: Ne moreš zavarovati tistega, česar ne moreš videti, in inventar umetne inteligence je tisto, kjer se vidnost začne.
Pogosta vprašanja
Kakšna je razlika med AI-BOM in SBOM?
An SBOM katalogizira odvisnosti od odprtokodne programske opreme in programske opreme tretjih oseb, ocenjene glede na resnost CVE. AI-BOM katalogizira sredstva, specifična za umetno inteligenco (modele, agente, strežnike MCP, nabore podatkov), z oceno tveganja, specifičnega za umetno inteligenco, in regulativnim kartiranjem. Ko se umetna inteligenca širi po SDLC, AI-BOM postaja tako temeljna kot SBOM.
Kaj je senčna umetna inteligenca in kako jo odkrijem?
Senčna umetna inteligenca je katera koli umetna inteligenca, sprejeta brez formalne odobritve ali upravljanja: omogočen kopilot, lokalni strežnik MCP, model, pridobljen iz javnega središča. Odkrijete jo z nenehnim avtomatiziranim popisom, ki sega v kodo, gradnjo pipelinein končne točke razvijalcev, ne le produkcijski oblak, kjer se večina senčne umetne inteligence nikoli ne pojavi.
Ali zakon EU o umetni inteligenci zahteva popis umetne inteligence?
Zakon EU o umetni inteligenci ne omenja izrecno „inventara umetne inteligence“, vendar je brez njega nemogoče izpolniti obveznosti dokumentiranja, klasifikacije in registracije za sisteme z visokim tveganjem. Enako velja za NIST AI RMF (funkcija mapiranja, Govern 1.6) in standard ISO/IEC 42001, ki zahteva vzdrževanje inventara sistemov umetne inteligence.
Kaj je AI-SPM?
Upravljanje varnostne strukture umetne inteligence (AI-SPM) je praksa nenehnega odkrivanja sredstev umetne inteligence, ocenjevanja njihovega tveganja vzdolž poti napada umetne inteligence, njihovega preslikavanja v predpise in izdelave AI-BOM. Razširja razmišljanje o upravljanju strukture (znano iz CSPM in DSPM) na sredstva in vektorje napadov, specifične za umetno inteligenco.
Kako pogosto je treba posodabljati inventar umetne inteligence?
Neprekinjeno. Sredstva umetne inteligence se dnevno spreminjajo, ko ekipe uvajajo nove modele, uvajajo nove agente in konfigurirajo nove strežnike MCP, običajno brez formalne odobritve. Skeniranje v določenem trenutku se v nekaj dneh zastara, zato učinkovita programska oprema za inventarizacijo umetne inteligence deluje kot stalen proces in ne kot enkratna revizija.
Kako naredim popis umetne inteligence, uporabljene v izvorni kodi?
Popisovanje umetne inteligence v kodi pomeni zaznavanje modelov in knjižnic umetne inteligence, ki so bile prenesene kot odvisnosti, pomočnikov za kodiranje umetne inteligence, konfiguriranih za vsakega razvijalca, in strežnikov MCP ali datotek s pravili, ki se izvajajo lokalno. To zahteva odkrivanje, ki deluje znotraj SDLC (repozitoriji, gradnja pipelinein končne točke razvijalcev) in ne le v konzolah v oblaku.
