An inventár AI je neustále aktualizovaný katalóg všetkých aktív umelej inteligencie, ktoré sa používajú vo vašej organizácii – modely, koncové body s umelou inteligenciou, súbory údajov, asistenti kódovania s umelou inteligenciou, servery MCP a závislosti umelej inteligencie — spolu so vzťahmi, rizikami a vlastníkmi, ktoré ich spájajú. V kontexte bezpečnosti to nemá nič spoločné so správou skladu alebo zásob; tu, „Inventár umelej inteligencie“ jednoducho znamená presne vedieť, akú umelú inteligenciu používate, kde sa nachádza a čo dokáže dosiahnuť.
Keďže sa umelá inteligencia rozširuje do každej fázy vývoja softvéru, od generovania kódu v IDE až po autonómnych agentov pôsobiacich vo vnútri... CI/CD pipelineotázka už neznie, či je umelá inteligencia prítomná vo vašom prostredí. Ide o to, či to dokážeš vidieť. Táto príručka vysvetľuje, čo je inventár umelej inteligencie a ako súvisí s AI-BOM a SBOM, prečo tieňová AI sa stal bezpečnostným problémom a ako sa táto prax zhoduje s Zákon EÚ o AI, NIST AI RMF a ISO / IEC 42001.
Kľúčové jedlá
- Inventár AI katalogizuje každý model, súbor dát, agenta, MCP server a kódovací nástroj AI počas celého životného cyklu softvéru, nielen tie, ktoré schválilo IT oddelenie.
- Tieňová AI, UI prijatá bez riadenia je teraz normou, nie výnimkou: v jednom prieskume bezpečnostných lídrov z roku 2026 iba 19 % organizácií uviedlo plný prehľad o tom, kde a ako sa umelá inteligencia používa.
- An AI-BOM (kusovník materiálu s umelou inteligenciou) je výstupom inventára umelej inteligencie pripraveným na audit: nástupcom éry umelej inteligencie SBOM.
- Prichádza regulácia. Zákon EÚ o umelej inteligencii, norma NIST AI RMF a norma ISO/IEC 42001 v podstate vyžadujú, aby ste vedeli, s akou umelou inteligenciou pracujete.
- Inventarizácia je len východiskovým bodom; hodnota pochádza z hodnotenia rizika a konania na základe malého počtu aktív, ktoré sú skutočne dôležité.
Čo je to inventár umelej inteligencie?
Inventarizácia umelej inteligencie je postup objavovania, katalogizovania a neustáleho monitorovania každého aktíva umelej inteligencie, ktoré je v prevádzke počas celého životného cyklu vývoja softvéru, a rizík spojených s každým z nich. Kompletná inventarizácia odpovedá na tri otázky pre každé aktívum: čo to je, kde beží a k čomu má prístup?
Tento rozsah je širší, než väčšina tímov očakáva. Zmysluplný inventár umelej inteligencie by mal zahŕňať:
- Modelykaždý rozsiahly jazykový model a základný model používaný vo vývoji aj produkcii s istotou verzie, umiestnenia a detekcie.
- dátovej sady: trénovacie dáta, vyhľadávacie súbory dát a vektorové úložiská vrátane vystavenia kontaminovanému kontextu a úniku dát.
- Agentiautonómne systémy, ktoré vykonávajú akcie vo vašom prostredí, ako napríklad otváranie pull requests, inštalovanie závislostí alebo dotýkanie sa infraštruktúry.
- MCP servery: Kontextový protokol modelu servery, ktoré pripájajú asistentov s umelou inteligenciou k externým nástrojom, API a zdrojom údajov.
- Nástroje a asistenti pre kódovanie s umelou inteligenciou: integrácie copilotov a IDE, ktoré generujú kód, navrhovať závislosti a interagovať s repozitármi.
- Rámce umelej inteligencieLangChain, LangGraph, agentské servery a ďalšie orchestračné vrstvy, ktoré prepájajú modely s nástrojmi a údajmi.
- Vzťahy medzi aktívami: prepojenia medzi modelmi, agentmi, servermi, súbormi údajov a tajnými údajmi, ktoré sú s nimi spojené. Graf vzťahov zobrazuje riziko v kontexte, nie ako plochý zoznam.
Inventár AI vs. inventár aktív AI vs. kusovník AI a ako sa líšia od SBOM
Tieto pojmy sa používajú voľne, preto je užitočné si ich vopredcise. „Inventár AI“ a „inventár aktív AI“ opisujú to isté.živý katalóg aktív umelej inteligencie a ich rizík. AI-BOM je exportovateľný artefakt, ktorý produkuje inventár.strojovo čitateľný kusovník, ktorý môžete odovzdať audítorovi alebo enterprise kupujúci.
Najčistejším spôsobom, ako pochopiť AI-BOM, je analogicky s SBOM:
Ako sa umelá inteligencia stáva integrovanou naprieč SDLCAI-BOM sa stáva rovnako základným ako SBOMa vedúci pracovníci v oblasti bezpečnosti čoraz častejšie dostávajú žiadosti od audítorov a enterprise obstarávacie tímy presne pre tento artefakt.
Prečo je teraz dôležitý inventár s umelou inteligenciou
Tri sily zmenili inventár umelej inteligencie z niečoho, čo je príjemné mať, na prioritu.
- Po prvé, umelá inteligencia píše nezabezpečený kód vo veľkom meradle. Nezávislý výskum opakovane zistil, že veľká časť kódu generovaného umelou inteligenciou je dodávaná so zraniteľnosťami. Pôvodná štúdia NYU/Copilot od Pearce a kol. zistila približne 40 % vygenerovaných programov obsahovalo bezpečnostné nedostatkya novšie rozsiahle testovanie poukazuje na to isté: analýza spoločnosti Veracode z roku 2025 na viac ako 100 modeloch zistila iba 55 % kódu vygenerovaného umelou inteligenciou bolo bezpečnýchAk neviete, ktorí asistenti generujú kód vo vašom pipelines, toto riziko nemôžete riadiť.
- Po druhé, dodávateľský reťazec softvéru sa stal povrchom pre útoky umelej inteligencie. V septembri 2025, Shai Hulud, prvý samošíriaci sa červ npm, premenil vývojárske počítače na distribučný mechanizmus, ktorý sa šíril cez stovky balíkov. V marci 2026 útočníci prelomili systém Axios, balík s približne 100 miliónov stiahnutí týždenne..., publikovanie infikovaných verzií, ktoré umiestňovali trójskeho koňa so vzdialeným prístupom. Útoky, ako sú tieto, sa nachádzajú presne vo vrstve medzi tradičným AppSec a nástrojmi pre koncové body: vo vrstve, ktorú má osvetliť inventár umelej inteligencie.
- Po tretie, tajomstvá a poverenia unikajú cez umelú inteligenciu. Správa GitGuardian s názvom State of Secrets Sprawl 2026 uvádza, že Úniky tajomstiev služieb umelej inteligencie medziročne vzrástli o 81 %a že s pomocou umelej inteligencie commits leak secrets približne dvojnásobnou mierou oproti základnej línii. Každý nedokumentovaný model, agent alebo server MCP predstavuje potenciálnu cestu k získaniu poverenia.
Tradičná ochrana AppSec sa zastaví pri repozitári a nerozumie, čo je model. Koncové nástroje sledujú operačný systém, ale nerozumejú balíkom, MCP serverom ani AI asistentom. V medzere medzi nimi sa hromadí riziko AI a inventúra je prvým krokom k jej uzavretiu.
Kde sa skrýva AI: Tieň AI naprieč SDLC
Tieňová AI je akýkoľvek systém umelej inteligencie prijatý bez formálneho schválenia alebo riadenia: druhý pilot, ktorého vývojár spustil minulý týždeň, server MCP bežiaci na notebooku, model stiahnutý priamo z verejného centra do vedľajšieho projektu. Nie je to okrajový prípad. V prieskume z roku 2026, v ktorom sa zúčastnilo viac ako 400 bezpečnostných lídrov, iba 19 % uviedlo plný prehľad o tom, kde a ako sa umelá inteligencia používa v celej svojej organizácii, zatiaľ čo prevažná väčšina už používala alebo pilotne testovala asistentov kódovania s umelou inteligenciou.
Najťažšie nájsť tieňovú umelú inteligenciu je umelá inteligencia v rámci životného cyklu softvéru, pretože sa zriedkakedy zobrazuje v cloudovej konzole:
- Modely a knižnice AI stiahnuté do repozitárov ako závislosti.
- Asistenti kódovania s umelou inteligenciou konfigurovaní pre každého vývojára a pre každé IDE.
- Servery MCP a súbory pravidiel spustené lokálne na koncových bodoch vývojárov.
- Tiché otváranie pracovných postupov agentov pull requests alebo inštalácia balíkov.
Preto nestačí len cloudové vyhľadávanie. Skutočne kompletný inventár umelej inteligencie musí siahať do kódu a prostredí zostavovania (laptop vývojára, repozitár, pipeline), nielen produkčný cloud.
Čo patrí do AI-BOM
Audit-pripravený zoznam zásob s umelou inteligenciou premení váš inventár na niečo, čo môžete preukázať. Mal by minimálne obsahovať:
- Každý prvok AI: modely, súbory údajov, agenti, MCP servery, nástroje na kódovanie AI.
- Typ aktíva, umiestnenie a spoľahlivosť detekcie pre každý z nich.
- Pôvod a závislosti (odkiaľ model alebo komponent pochádza).
- Úroveň rizika pre každé aktívum, založená na vektoroch útokov špecifických pre umelú inteligenciu.
- Regulačné mapovanie podľa zákona EÚ o umelej inteligencii, normy NIST AI RMF a normy ISO/IEC 42001.
- Exportovateľný, strojovo čitateľný formát pre audítorov a zákazníkov.
Organizácie, ktoré dokážu vygenerovať zoznam materiálov s umelou inteligenciou (AI-BOM) na požiadanie, budú mať skutočnú výhodu v dodržiavaní predpisov a dôveryhodnosti, keďže povinnosti auditu umelej inteligencie budú dozrievať.
Inventár a súlad s predpismi o umelej inteligencii: zákon EÚ o umelej inteligencii, norma NIST AI RMF a norma ISO/IEC 42001
Žiaden z hlavných frameworkov neuvádza „zásoby AI“ ako riadkovú položku, ale bez nich je prakticky nemožné uspokojiť všetky požiadavky. Systémy AI, ktoré nevidíte, nemôžete dokumentovať, klasifikovať ani riadiť.
Poznámka k načasovaniu: zavádzanie zákona EÚ o umelej inteligencii bolo revidované dohodou „Digitálny omnibus“ z mája 2026, ktorá odložila väčšinu povinností s vysokým rizikom na december 2027, pričom niekoľko míľnikov z 2. augusta 2026 zostalo v platnosti (povinnosti týkajúce sa transparentnosti, sankčné právomoci v oblasti GPAI). Presné dátumy treba považovať za pohyblivý cieľ a overiť si ich podľa primárnych zdrojov EÚ. Smer cesty je však jasný a predpokladom všetkého je inventúra.
Ako vytvoriť a udržiavať inventár umelej inteligencie
Vytvorenie inventára nie je ani tak o jednorazovom audite ako skôr o zavedení nepretržitého procesu, pretože aktíva umelej inteligencie sa neustále menia: prijímajú sa nové modely, nasadzujú sa noví agenti, konfigurujú sa nové servery MCP, často bez schválenia.
Praktický prístup:
- Automatické objavovanie naprieč kódom, zostavovaním a cloudom. Manuálne tabuľky zastarajú v priebehu niekoľkých dní. Vyhľadávanie musí bežať nepretržite a dosahovať SDLC, nielen za behu.
- Klasifikovať a mapovať vzťahy. Zaznamenajte typ, umiestnenie, pôvod a, čo je dôležité, ako jednotlivé aktíva súvisia s ostatnými a s tajomstvami.
- Riziko skóre v kontexte. Plochý zoznam stoviek zistení nikomu nepomôže; uprednostňujte to, čo je skutočne dosiahnuteľné, využiteľné a kritické pre podnikanie.
- Priradiť vlastníctvo. Každý majetok potrebuje zodpovedného vlastníka.
- Udržujte ho aktívny a exportovateľný. Udržiavajte ho ako nepretržitý inventár, ktorý dokáže na požiadanie vytvoriť kusovník s umelou inteligenciou.
Na čo sa zamerať pri výbere softvéru na inventarizáciu s umelou inteligenciou
Ak hodnotíte nástroje, toto sú funkcie, ktoré odlišujú skutočný softvér pre inventarizáciu s umelou inteligenciou od statického zoznamu:
- Rozumie typom aktív špecifickým pre umelú inteligenciu (modely, agenti, MCP servery, súbory údajov), nielen balíky a knižnice.
- Siaha do SDLC, objavovanie umelej inteligencie v kóde a na koncových bodoch vývojárov, nielen v cloude.
- Vzťahy v mapách, nielen jednotlivé aktíva, takže riziko je viditeľné v kontexte.
- Hodnotí riziko na základe vektorov útokov špecifických pre umelú inteligenciu (rýchla injekcia, nezabezpečený MCP, nadmerná agentúrnosť), nielen závažnosť CVE.
- Beží nepretržite, zachytávajúc novú umelú inteligenciu, hneď ako sa objaví.
- Vytvára zoznam AI-BOM pripravený na audit ktorý uspokojí audítorov aj enterprise obstarávania.
- Prepája inventár s presadzovaním práva, aby ste mohli konať na základe toho, čo zistíte.
Od inventára k akcii: zabezpečenie toho, čo nájdete
Prvým krokom je objavenie; druhým je pochopenie toho, ktoré aktíva predstavujú skutočné riziko, pretože väčšina z nich ho nenesie. Cieľom je prejsť od tisícok surových zistení k hŕstke tých, ktoré môžu skutočne ohroziť systémy, údaje alebo operácie: tie, ktoré sa aktívne používajú, akceptujú nedôveryhodné vstupy, sú realisticky zneužiteľné, majú citlivý prístup a ovplyvňujú výrobu alebo regulované aktíva.
Tu sa nachádza správa bezpečnostných pozícií s využitím umelej inteligencie (AI-SPM) vykonáva: vykonanie inventarizácie, vyhodnotenie rizika pozdĺž cesty útoku AI, jeho mapovanie na predpisy a vytvorenie zoznamu AI-BOM. Je to tiež miesto, kde sa inventarizácia stretáva s presadzovaním predpisov: blokovanie škodlivých závislostí pred ich inštaláciou, odmietanie neschválených serverov a modelov MCP a obmedzenie kompromitovaných koncových bodov predtým, ako sa incident rozšíri.
At Xygeni, toto je model, na ktorom budujeme: nepretržitá inventúra AI a AI-BOM prostredníctvom AI-SPM, detekcia malvéru, ktorá zachytáva škodlivé balíky skôr, ako existuje podpis (MEW, Včasné varovanie pred škodlivým softvérom) a presadzovanie politík na koncovom bode vývojára prostredníctvom Xygeni Shield. Detekcia je v súlade s OWASP Top 10 pre LLM aplikácie, OWASP Top 10 pre Agentic aplikácie a OWASP MCP Top 10. Ale bez ohľadu na to, ktorý prístup si zvolíte, princíp platí: Nemôžete zabezpečiť to, čo nevidíte, a inventár umelej inteligencie je miestom, kde sa viditeľnosť začína.
Často kladené otázky
V čom sa líši AI-BOM od SBOM?
An SBOM katalogizuje závislosti od open-source softvéru a softvéru tretích strán, hodnotené podľa závažnosti CVE. AI-BOM katalogizuje aktíva špecifické pre AI (modely, agentov, servery MCP, súbory údajov) s hodnotením rizík špecifických pre AI a mapovaním regulačných predpisov. Ako sa AI šíri naprieč SDLCAI-BOM sa stáva rovnako základným ako SBOM.
Čo je tieňová umelá inteligencia a ako ju objavím?
Tieňová umelá inteligencia je akákoľvek umelá inteligencia prijatá bez formálneho schválenia alebo riadenia: povolený kopilot, lokálny MCP server, model stiahnutý z verejného centra. Objavíte ju pomocou nepretržitej automatizovanej inventúry, ktorá siaha do kódu, zostavuje pipelinea koncové body vývojárov, nielen produkčný cloud, kde sa väčšina tieňovej umelej inteligencie nikdy neobjavuje.
Vyžaduje si zákon EÚ o umelej inteligencii inventár umelej inteligencie?
Zákon EÚ o umelej inteligencii explicitne neuvádza „inventár umelej inteligencie“, ale jeho povinnosti týkajúce sa dokumentácie, klasifikácie a registrácie pre vysoko rizikové systémy nie je možné splniť bez neho. To isté platí pre NIST AI RMF (Map function, Govern 1.6) a normu ISO/IEC 42001, ktorá vyžaduje vedenie inventára systémov umelej inteligencie.
Čo je AI-SPM?
Riadenie bezpečnostného fungovania AI (AI-SPM) je prax neustáleho objavovania aktív AI, hodnotenia ich rizika pozdĺž cesty útoku AI, ich mapovania na predpisy a vytvárania AI-BOM. Rozširuje myslenie zamerané na riadenie zabezpečenia (známe z CSPM a DSPM) na aktíva a vektory útokov špecifické pre AI.
Ako často by sa mal aktualizovať inventár umelej inteligencie?
Neustále. Prostriedky umelej inteligencie sa menia denne, keďže tímy prijímajú nové modely, nasadzujú nových agentov a konfigurujú nové servery MCP, zvyčajne bez formálneho schválenia. Skenovanie v určitom časovom bode zastará v priebehu niekoľkých dní, takže efektívny softvér na inventarizáciu umelej inteligencie funguje ako priebežný proces, a nie ako jednorazový audit.
Ako môžem inventarizovať umelú inteligenciu použitú v zdrojovom kóde?
Inventarizácia AI v kóde znamená detekciu modelov a knižníc AI stiahnutých ako závislosti, asistentov kódovania AI nakonfigurovaných jednotlivými vývojármi a serverov MCP alebo súborov s pravidlami bežiacich lokálne. To si vyžaduje objavovanie, ktoré funguje vo vnútri SDLC (repozitáre, zostavenie pipelinea koncové body vývojárov) a nie iba v cloudových konzolách.
