An AI-leltár egy folyamatosan frissített katalógus, amely tartalmazza a szervezetében futó összes mesterséges intelligencia eszközt — modellek, mesterséges intelligencia által vezérelt végpontok, adatkészletek, mesterséges intelligencia által vezérelt kódolási asszisztensek, MCP-kiszolgálók és mesterséges intelligencia által vezérelt függőségek – a hozzájuk kapcsolódó kapcsolatokkal, kockázatokkal és tulajdonosokkal együtt. Biztonsági kontextusban ennek semmi köze a raktározáshoz vagy a készletgazdálkodáshoz; itt, "Mesterséges intelligencia leltár" egyszerűen azt jelenti, hogy pontosan tudni kell, milyen mesterséges intelligenciát futtatunk, hol található, és mit tud elérni.
Ahogy a mesterséges intelligencia a szoftverfejlesztés minden szakaszában terjed, az integrált fejlesztőkörnyezetben (IDE) generált kódtól kezdve az abban működő autonóm ágensekig CI/CD pipelineA kérdés már nem az, hogy van-e jelen a mesterséges intelligencia a környezetedben. Az a kérdés, hogy látod-e. Ez az útmutató elmagyarázza, mi az a mesterséges intelligencia leltár, és hogyan kapcsolódik egy AI-BOM és egy SBOM, miért árnyék AI biztonsági problémává vált, és hogyan kapcsolódik ez a gyakorlat a EU AI törvény, NIST AI RMF és a ISO / IEC 42001.
Legfontosabb elvitel
- Egy mesterséges intelligencia leltár katalogizálja a szoftver életciklusa során minden modellt, adathalmazt, ügynököt, MCP-kiszolgálót és mesterséges intelligencia általi kódoló eszközt, nem csak azokat, amelyeket az informatikai részleg jóváhagyott.
- Shadow AIA felügyelet nélkül alkalmazott mesterséges intelligencia ma már a norma, nem pedig a kivétel: egy 2026-os, biztonsági vezetők körében végzett felmérésben csak A szervezetek 19%-a számolt be arról, hogy teljes rálátásuk van arra, hogy hol és hogyan használják a mesterséges intelligenciát..
- An AI-BOM (AI anyagjegyzék) egy MI-leltár auditra kész kimenete: a MI-korszak utódja a SBOM.
- Szabályozás érkezik. Az EU MI törvénye, a NIST AI RMF és az ISO/IEC 42001 szabvány mind előírja, hogy tudd, milyen MI-t üzemeltetsz.
- A leltár csak kiindulópont; az érték a kockázatértékelésből és a valóban fontos kis számú eszközzel való cselekvésből származik.
Mi az a mesterséges intelligencia által létrehozott leltár?
Az MI-leltár az a gyakorlat, amelynek során felfedezzük, katalogizáljuk és folyamatosan figyelemmel kísérjük a szoftverfejlesztési életciklus során működő összes MI-eszközt, valamint az egyes eszközökhöz kapcsolódó kockázatokat. Egy teljes leltár minden eszközzel kapcsolatban három kérdésre ad választ: mi az, hol fut, és mire férhet hozzá?
Ez a hatókör szélesebb, mint amire a legtöbb csapat számít. Egy értelmes MI-leltárnak a következőket kell lefednie:
- Modellek: minden nagyméretű nyelvi modell és alapmodell, amelyet fejlesztés és éles környezetben használnak, verziószámmal, hellyel és észlelési megbízhatósággal együtt.
- Datasets: betanítási adatok, visszakeresési adatkészletek és vektortárolók, beleértve a mérgezett kontextusnak és az adatszivárgásnak való kitettséget.
- Ügynökök: autonóm rendszerek, amelyek műveleteket hajtanak végre a környezetedben, például megnyitnak pull requests, függőségek telepítése vagy az infrastruktúra megérintése.
- MCP szerverek: Model Context Protocol szerverek, amelyek a mesterséges intelligencia asszisztenseket külső eszközökhöz, API-khoz és adatforrásokhoz csatlakoztatják.
- AI kódolóeszközök és asszisztensek: kódot generáló másodpilóták és IDE integrációk, függőségeket javasolhat és interakcióba léphet a tárhelyszolgáltatókkal.
- MI keretrendszerekLangChain, LangGraph, ügynökszerverek és más olyan vezénylési rétegek, amelyek a modelleket eszközökhöz és adatokhoz kapcsolják.
- Eszközök közötti kapcsolatokA modellek, ügynökök, szerverek, adathalmazok és a hozzájuk kapcsolódó titkok közötti kapcsolatok. A kapcsolati gráf kontextusban teszi láthatóvá a kockázatot, nem pedig lapos listaként.
MI-leltár vs. MI-eszközleltár vs. AI-BOM, és hogyan különböznek egytől SBOM
Ezeket a kifejezéseket lazán használják, ezért hasznos előre tudnicise. Az „AI-leltár” és az „AI-eszközleltár” ugyanazt a dolgot jelentik.: a mesterséges intelligencia eszközeinek és kockázatainak élő katalógusa. Egy Az AI-BOM az exportálható műtermék, amelyet a készlet előállít.: egy géppel olvasható anyagjegyzék, amelyet átadhat egy auditornak vagy egy enterprise vevő.
Az AI-BOM megértésének legtisztább módja a következő analógia alapján történik: SBOM:
Ahogy a mesterséges intelligencia beágyazódik az egész világba SDLC, az AI-BOM ugyanolyan alapvető fontosságúvá válik, mint a SBOM, és a biztonsági vezetők egyre gyakrabban kapnak kéréseket auditoroktól és enterprise beszerző csapatok pontosan erre a tárgyra.
Miért fontos most a mesterséges intelligencia által biztosított készlet?
Három erő tette a mesterséges intelligencia által biztosított leltárt a „jó, ha van” dologból prioritássá.
- Először is, a mesterséges intelligencia nagy mennyiségben ír nem biztonságos kódot. Független kutatások következetesen azt mutatják, hogy a mesterséges intelligencia által generált kódok nagy része sebezhetőségekkel rendelkezik. Az eredeti NYU/Copilot Pearce és munkatársai által végzett tanulmány nagyjából a következőket állapította meg: A létrehozott programok 40%-a tartalmazott biztonsági réseket, és a közelmúltbeli nagyszabású tesztelési pontok is ugyanígy mutatnak: a Veracode 2025-ös, több mint 100 modellre kiterjedő elemzése csak A mesterséges intelligencia által generált kód 55%-a biztonságos voltHa nem tudja, mely asszisztensek generálnak kódot az Ön rendszerében, pipelines, ezt a kockázatot nem tudod kontrollálni.
- Másodszor, a szoftverellátási lánc mesterséges intelligencia támadási felületévé vált. Szeptemberben 2025, Shai Hulud, az első önmagát terjedő npm féreg, a fejlesztői gépeket terjesztő mechanizmussá alakította, több száz csomagon keresztül terjedve. 2026 márciusában a támadók feltörték Axios, egy csomag, amely nagyjából 100 millió letöltés hetente, fertőzött verziókat közzétéve, amelyek távoli hozzáférést biztosító trójai vírust telepítettek. Az ilyen támadások pontosan a hagyományos alkalmazásbiztonság és a végponti eszközök közötti réteget érintik: azt a réteget, amelyet egy mesterséges intelligencia-leltár megvilágítására építettek.
- Harmadszor, a titkok és hitelesítő adatok kiszivárognak a mesterséges intelligencián keresztül. A GitGuardian State of Secrets Sprawl 2026 című jelentése szerint A mesterséges intelligencia szolgáltatási titkainak kiszivárogtatása 81%-kal nőtt az előző évhez képest., és hogy a mesterséges intelligencia által támogatott commits leak secretnagyjából kétszeresével az alapsebességnek. Minden nem dokumentált modell, ügynök vagy MCP-kiszolgáló potenciális utat jelent egy hitelesítő adathoz.
A hagyományos AppSec megáll a tárhelynél, és nem érti, mi az a modell. A végponti eszközök figyelik az operációs rendszert, de nem értik a csomagokat, az MCP-kiszolgálókat vagy az MI-asszisztenseket. A köztük lévő rés az, ahol a MI-kockázat felhalmozódik, és a leltározás az első lépés a bezárásához.
Ahol a mesterséges intelligencia rejtőzik: Árnyékoljuk a mesterséges intelligenciát SDLC
Shadow AI Van olyan MI-rendszer, amelyet hivatalos jóváhagyás vagy irányítás nélkül vezettek be: a fejlesztő által a múlt héten aktivált másodpilóta, a laptopon futó MCP-kiszolgáló, a nyilvános központból közvetlenül egy mellékprojektbe átvitt modell? Ez nem szélső eset. Egy 2026-os, több mint 400 biztonsági vezető bevonásával végzett felmérésben csak 19% számolt be arról, hogy teljes rálátásuk van arra, hogy hol és hogyan használják a mesterséges intelligenciát szervezetükön belül, míg a túlnyomó többség már használt vagy tesztelt mesterséges intelligenciával működő kódolóasszisztenseket.
A legnehezebben megtalálható árnyék-AI a szoftver életciklusán belüli MI, mivel ritkán jelenik meg egy felhőalapú konzolon:
- Modellek és MI-könyvtárak függőségként kerülnek be a tárházakba.
- Fejlesztőnként és IDE-nként konfigurált mesterséges intelligencia által vezérelt kódolási asszisztensek.
- MCP-kiszolgálók és szabályfájlok, amelyek helyben, fejlesztői végpontokon futnak.
- Ügynöki munkafolyamatok csendes megnyílása pull requests vagy csomagok telepítése.
Ezért nem elegendő a kizárólag felhőalapú felderítés. Egy valóban teljes MI-leltárnak be kell nyúlnia a kódba és a build környezetekbe (a fejlesztő laptopja, a tárház, a pipeline), nem csak az éles felhőt.
Mi tartozik egy AI-BOM-ba?
Egy auditra kész AI-BOM a készletedet bizonyíthatóvá teszi. Legalább a következőket kell tartalmaznia:
- Minden mesterséges intelligencia eszköz: modellek, adathalmazok, ügynökök, MCP szerverek, mesterséges intelligencia kódoló eszközök.
- Eszköztípus, helyszín és az egyes eszközök észlelési megbízhatósága.
- Származás és függőségek (ahonnan a modell vagy az összetevő származik).
- Eszközönkénti kockázati szint, mesterséges intelligencia-specifikus támadási vektorok alapján.
- Szabályozási megfeleltetés az EU AI törvényének, a NIST AI RMF-nek és az ISO/IEC 42001 szabványnak.
- Exportálható, géppel olvasható formátum auditorok és ügyfelek számára.
Azok a szervezetek, amelyek igény szerint képesek mesterséges intelligencia által meghatározott adatállományokat (MI-BOM) generálni, valódi megfelelőségi és bizalmi előnnyel rendelkeznek majd, ahogy a mesterséges intelligencia auditálási kötelezettségei kiteljesednek.
MI-leltár és megfelelőség: EU MI-törvény, NIST AI RMF és ISO/IEC 42001
Egyik nagyobb keretrendszer sem nevezi meg külön tételként a „MI-készletet”, de gyakorlatilag egyik sem elégíthető ki nélküle. Nem lehet dokumentálni, osztályozni vagy irányítani azokat a MI-rendszereket, amelyeket nem látunk.
Megjegyzés az időzítésről: az EU mesterséges intelligencia törvényének bevezetését a 2026. májusi „Digitális Omnibus” megállapodás felülvizsgálta, amely a legtöbb magas kockázatú kötelezettséget 2027 decemberére halasztotta, miközben számos, 2026. augusztus 2-i mérföldkövet életben tartott (átláthatósági kötelezettségek, GPAI büntetési hatáskörök). A pontos dátumokat mozgó célpontként kell kezelni, és az elsődleges uniós forrásokkal kell megerősíteni. De az irány egyértelmű, és a leltár az egész előfeltétele.
Hogyan építsünk fel és tartsunk fenn egy AI-leltárt
A leltározás kevésbé egyszeri auditról, inkább egy folyamatos folyamat létrehozásáról szól, mivel a mesterséges intelligencia eszközei folyamatosan változnak: új modellek kerülnek bevezetésre, új ügynökök kerülnek telepítésre, új MCP-szerverek konfigurálódnak, gyakran jóváhagyás nélkül.
Gyakorlatias megközelítés:
- Automatikus felderítés kódban, buildben és felhőben. A manuális táblázatok napok alatt elavulnak. A Discoverynek folyamatosan futnia kell, és be kell nyúlnia a... SDLC, nem csak futásidejű.
- Osztályozd és térképezd fel a kapcsolatokat. Rögzítse az egyes eszközök típusát, helyét, származását, és ami még fontosabb, azt, hogy azok hogyan kapcsolódnak másokhoz és a titkokhoz.
- Kockázat pontozása kontextusban. Egy több száz eredményt tartalmazó lapos lista senkinek sem segít; rangsorolj aszerint, hogy mi az, ami ténylegesen elérhető, hasznosítható és üzletileg kritikus.
- Tulajdonjog hozzárendelése. Minden vagyontárgynak szüksége van egy felelősségteljes tulajdonosra.
- Tartsa élőben és exportálhatóan. Folyamatos készletként kell kezelni, amely igény szerint AI-BOM-ot tud előállítani.
Mire kell figyelni egy mesterséges intelligenciával működő leltárkészítő szoftverben?
Ha eszközöket értékel, ezek azok a képességek, amelyek megkülönböztetik a valódi AI-leltárszoftvereket a statikus listáktól:
- Érti a mesterséges intelligenciára jellemző eszköztípusokat (modellek, ügynökök, MCP-kiszolgálók, adatkészletek), nem csak csomagok és könyvtárak.
- Belenyúl a SDLC, a mesterséges intelligencia felfedezése a kódban és a fejlesztői végpontokon, nem csak a felhőben.
- Térképkapcsolatok, nem csak az egyes eszközökre vonatkozik, így a kockázat kontextusban látható.
- Mesterséges intelligencia specifikus támadási vektorok kockázatának mérése (azonnali injekciózás, bizonytalan MCP, túlzott cselekvőképesség), nem csak a CVE súlyossága.
- Folyamatosan fut, az új mesterséges intelligencia elkapása, ahogy az látszik.
- Auditra kész AI-BOM-ot készít ami mind az auditorok, mind az enterprise beszerzés.
- Összeköti a leltárt a végrehajtással, így cselekedhetsz a találtak alapján.
A leltártól a cselekvésig: a talált dolgok biztosítása
Az első lépés a felfedezés; a második annak megértése, hogy mely eszközök hordoznak valódi kockázatot, mivel a legtöbbjük nem. A cél az, hogy a nyers eredmények ezrei helyett azok a maroknyi adat kerüljön előtérbe, amelyek ténylegesen veszélyeztethetik a rendszereket, adatokat vagy műveleteket: azok, amelyek aktív használatban vannak, megbízhatatlan bemenetet fogadnak el, reálisan kihasználhatók, érzékeny hozzáféréssel rendelkeznek, és hatással vannak a termelésre vagy a szabályozott eszközökre.
Itt jön létre a mesterséges intelligencia biztonsági helyzetkezelése (AI Security Testhelyzet-kezelés)AI-SPM) felgyorsul: a leltár felvétele, a kockázatok pontozása az AI támadási útvonal mentén, a szabályozáshoz való hozzárendelése, és az AI-BOM elkészítése. Itt találkozik a leltár a végrehajtással is: a rosszindulatú függőségek blokkolása a telepítés előtt, a nem jóváhagyott MCP-kiszolgálók és -modellek elutasítása, valamint a veszélyeztetett végpontok elszigetelése, mielőtt az incidens elterjedne.
At Xygeni, erre a modellre építünk: folyamatos AI-leltár és AI-BOM az AI-SPM-en keresztül, olyan kártevő-észlelés, amely még az aláírás létrejötte előtt elkapja a rosszindulatú csomagokat (MEW, Kártevők korai figyelmeztetése), valamint a fejlesztői végponton a Xygeni Shield segítségével történő szabályzat-érvényesítés. Az észlelés az OWASP Top 10 for LLM Applications, az OWASP Top 10 for Agentic Apps és az OWASP Top 10 listákhoz igazodik. De bármelyik megközelítést is választja, az elv érvényes: Amit nem látsz, azt nem tudod biztosítani, és egy mesterséges intelligencia által létrehozott leltárban kezdődik a láthatóság.
GYIK
Miben különbözik egy AI-BOM egy SBOM?
An SBOM katalogizálja a nyílt forráskódú és harmadik féltől származó szoftverfüggőségeket, CVE súlyosság szerint pontozva. Az AI-BOM katalogizálja a MI-specifikus eszközöket (modellek, ügynökök, MCP-kiszolgálók, adatkészletek) MI-specifikus kockázatértékeléssel és szabályozási feltérképezéssel. Ahogy a MI terjed... SDLC, az AI-BOM ugyanolyan alapvető fontosságúvá válik, mint a SBOM.
Mi az árnyék mesterséges intelligencia és hogyan fedezhetem fel?
Az árnyék-AI minden olyan MI, amelyet hivatalos jóváhagyás vagy irányítás nélkül alkalmaznak: egy engedélyezett másodpilóta, egy helyi MCP-kiszolgáló, egy nyilvános központból lekérdezett modell. Folyamatos automatizált leltározással fedezhető fel, amely a kódba, a buildbe és a buildbe jut. pipelineés fejlesztői végpontokon, nem csak az éles felhőben, ahol a legtöbb árnyék mesterséges intelligencia soha nem jelenik meg.
Az EU mesterséges intelligencia törvénye előírja a mesterséges intelligencia leltárát?
Az EU MI-törvénye nem nevezi meg kifejezetten a „mesterségesintelligencia-leltárt”, de a dokumentációs, osztályozási és regisztrációs kötelezettségei a magas kockázatú rendszerek esetében lehetetlen teljesíteni anélkül. Ugyanez igaz a NIST AI RMF-re (Map function, Govern 1.6) és az ISO/IEC 42001 szabványra, amely előírja a mesterséges intelligenciarendszerek leltárának vezetését.
Mi az AI-SPM?
Az AI biztonsági helyzetkezelés (AI-SPM) a mesterséges intelligencia eszközeinek folyamatos felderítését, kockázatuk értékelését a mesterséges intelligencia támadási útvonala mentén, a szabályozáshoz való hozzárendelésüket és az AI-BOM elkészítését jelenti. A helyzetkezelési gondolkodásmódot (amely a CSPM-ből és a DSPM-ből ismert) kiterjeszti a mesterséges intelligencia-specifikus eszközökre és támadási vektorokra.
Milyen gyakran kell frissíteni egy mesterséges intelligencia leltárt?
Folyamatosan. A mesterséges intelligencia eszközei naponta változnak, ahogy a csapatok új modelleket vezetnek be, új ügynököket telepítenek és új MCP-kiszolgálókat konfigurálnak, általában hivatalos jóváhagyás nélkül. Egy adott időpontban végzett vizsgálat napokon belül elavult, ezért a hatékony mesterséges intelligencia-leltár szoftver folyamatos folyamatként fut, nem pedig egyszeri auditként.
Hogyan leltározhatom a forráskódban használt mesterséges intelligenciát?
A kódban található mesterséges intelligencia leltározása azt jelenti, hogy fel kell ismerni a függőségként behívott MI-modelleket és -könyvtárakat, a fejlesztőnként konfigurált MI-kódolási asszisztenseket, valamint a helyben futó MCP-kiszolgálókat vagy szabályfájlokat. Ehhez olyan felderítésre van szükség, amely a rendszeren belül működik. SDLC (tárházak, build) pipelineés fejlesztői végpontokon), nem csak a felhőkonzolokon.
