An DI inventorius yra nuolat atnaujinamas visų jūsų organizacijoje veikiančių dirbtinio intelekto išteklių katalogas — modeliai, dirbtinio intelekto valdomi galiniai taškai, duomenų rinkiniai, dirbtinio intelekto kodavimo asistentai, MCP serveriai ir dirbtinio intelekto priklausomybės — kartu su jas siejančiais santykiais, rizika ir savininkais. Saugumo kontekste tai neturi nieko bendra su sandėlio ar atsargų valdymu; šiuo atveju, „DI inventorius“ tiesiog reiškia tiksliai žinoti, kokį dirbtinį intelektą naudojate, kur jis yra ir ką gali pasiekti.
Dirbtiniam intelektui plintant visuose programinės įrangos kūrimo etapuose – nuo kodo generavimo IDE iki autonominių agentų, veikiančių viduje CI/CD pipelineklausimas nebėra tas, ar jūsų aplinkoje yra dirbtinis intelektas. Svarbu, ar galite tai pamatyti. Šiame vadove paaiškinama, kas yra dirbtinio intelekto inventorius, kaip jis susijęs su AI-BOM ir SBOM, kodėl šešėlis AI tapo saugumo problema ir kaip ši praktika atitinka ES AI aktas, NIST AI RMF bei ISO / IEC 42001.
Svarbiausi paėmimai
- Dirbtinio intelekto inventorius kataloguoja visus modelius, duomenų rinkinius, agentus, MCP serverius ir dirbtinio intelekto kodavimo įrankius per visą jūsų programinės įrangos gyvavimo ciklą, o ne tik tuos, kuriuos patvirtino IT specialistai.
- Šešėlis AIDirbtinis intelektas, pritaikytas be valdymo, dabar yra norma, o ne išimtis: vienoje 2026 m. saugumo lyderių apklausoje tik 19 % organizacijų teigė, kad jos visiškai mato, kur ir kaip naudojamas dirbtinis intelektas..
- An AI-BOM (DI medžiagų sąrašas) yra auditui paruoštas dirbtinio intelekto inventoriaus rezultatas: dirbtinio intelekto eros įpėdinis SBOM.
- Reguliavimas artėja. ES Dirbtinio intelekto įstatymas, NIST dirbtinio intelekto rizikos valdymo sistema ir ISO/IEC 42001 iš esmės reikalauja žinoti, kokį dirbtinį intelektą naudojate.
- Inventorius yra tik atspirties taškas; vertė atsiranda vertinant riziką ir veikiant ties nedideliu skaičiumi iš tiesų svarbių turto objektų.
Kas yra dirbtinio intelekto inventorius?
Dirbtinio intelekto inventorizacija – tai praktika, kurios metu aptinkamas, kataloguojamas ir nuolat stebimas kiekvienas dirbtinio intelekto išteklius, veikiantis per visą programinės įrangos kūrimo gyvavimo ciklą, bei su kiekvienu iš jų susijusi rizika. Išsami inventorizacija atsako į tris klausimus apie kiekvieną išteklių: kas tai yra, kur jis veikia ir prie ko jis gali prisijungti?
Ši apimtis yra platesnė nei dauguma komandų tikisi. Prasmingas dirbtinio intelekto inventorius turėtų apimti:
- modeliai: kiekvienas didelis kalbos modelis ir pagrindinis modelis, naudojamas kūrimo ir gamybos procesuose, su versija, vieta ir aptikimo patikimumu.
- Duomenų rinkiniaimokymo duomenys, paieškos duomenų rinkiniai ir vektorinės saugyklos, įskaitant sąlytį su užterštu kontekstu ir duomenų nutekėjimą.
- Agentaiautonominės sistemos, kurios atlieka veiksmus jūsų aplinkoje, pavyzdžiui, atidaro pull requests, diegiant priklausomybes arba liečiant infrastruktūrą.
- MCP serveriai: Modelio konteksto protokolas serveriai, kurie jungia dirbtinio intelekto asistentus su išoriniais įrankiais, API ir duomenų šaltiniais.
- Dirbtinio intelekto kodavimo įrankiai ir asistentai: kopilotai ir IDE integracijos, kurios generuoja kodą, siūlyti priklausomybes ir sąveikauti su saugyklomis.
- AI sistemos„LangChain“, „LangGraph“, agentų serveriai ir kiti orkestravimo sluoksniai, kurie sujungia modelius su įrankiais ir duomenimis.
- Turto ryšiaiRyšiai tarp modelių, agentų, serverių, duomenų rinkinių ir su jais susijusių paslapčių. Ryšių grafikas riziką parodo kontekste, o ne kaip plokščią sąrašą.
Dirbtinio intelekto inventorius, dirbtinio intelekto turto inventorius ir dirbtinio intelekto-BOM bei jų skirtumai nuo SBOM
Šie terminai vartojami laisvai, todėl pravartu iš ankstocise. „DI inventorius“ ir „DI turto inventorius“ apibūdina tą patį dalyką.: gyvasis dirbtinio intelekto išteklių ir jų keliamos rizikos katalogas. AI-BOM yra eksportuojamas artefaktas, kurį sukuria inventorius.mašininio skaitymo medžiagų sąrašas, kurį galite pateikti auditoriui arba enterprise pirkėjas.
Aiškiausias būdas suprasti AI-BOM yra pagal analogiją su SBOM:
Dirbtiniam intelektui tampant integruotu visame pasaulyje SDLC, AI-BOM tampa tokiu pat pamatiniu kaip ir SBOM, o saugumo vadovai vis dažniau gauna auditorių ir enterprise būtent šio artefakto pirkimų komandos.
Kodėl dirbtinio intelekto atsargos svarbios dabar
Trys jėgos pavertė dirbtinio intelekto atsargas iš būtino daikto prioritetu.
- Pirma, dirbtinis intelektas dideliu mastu rašo nesaugų kodą. Nepriklausomi tyrimai nuolat rodo, kad didelė dalis dirbtinio intelekto sugeneruoto kodo turi pažeidžiamumų. Originaliame NYU/Copilot tyrime, kurį atliko Pearce ir kt., nustatyta maždaug 40 % sugeneruotų programų turėjo saugumo spragųir naujesni didelio masto bandymai rodo tą patį: „Veracode“ 2025 m. atlikta daugiau nei 100 modelių analizė parodė tik 55 % dirbtinio intelekto sugeneruoto kodo buvo saugusJei nežinote, kurie asistentai generuoja kodą jūsų pipelineai, tu negali valdyti tos rizikos.
- Antra, programinės įrangos tiekimo grandinė tapo dirbtinio intelekto atakų paviršiumi. Rugsėjo 2025 Shai Hulud, pirmasis savaime plintantis npm kirminas, pavertė kūrėjų kompiuterius platinimo mechanizmu, plintančiu šimtuose paketų. 2026 m. kovo mėn. užpuolikai įsilaužė į axios, pakuotė su maždaug 100 milijonų atsisiuntimų per savaitę, publikuodama užterštas versijas, kurios išsiuntė nuotolinės prieigos Trojos arklį. Tokios atakos įvyksta būtent tarp tradicinio programų saugumo ir galinių taškų įrankių: lygmenyje, kurį apšviečia dirbtinio intelekto inventorius.
- Trečia, paslaptys ir įgaliojimai nuteka per dirbtinį intelektą. „GitGuardian“ pranešime „State of Secrets Sprawl 2026“ pranešta, kad Dirbtinio intelekto paslaugų paslapčių nutekėjimas per metus išaugo 81 proc.ir kad dirbtinio intelekto pagalba commits leak secretmaždaug dvigubai didesniu nei bazinis dažnis. Kiekvienas nedokumentuotas modelis, agentas ar MCP serveris yra potencialus kelias į kredencialą.
Tradicinė programų saugumo sistema sustoja ties saugykla ir nesupranta, kas yra modelis. Galinių taškų įrankiai stebi operacinę sistemą, bet nesupranta paketų, MCP serverių ar dirbtinio intelekto asistentų. Tarp jų esanti spraga yra ta vieta, kur kaupiasi dirbtinio intelekto rizika, o inventorizacija yra pirmas žingsnis ją panaikinant.
Kur slepiasi dirbtinis intelektas: šešėlinis dirbtinis intelektas visame pasaulyje SDLC
Šešėlis AI ar kuri nors dirbtinio intelekto sistema yra priimta be oficialaus patvirtinimo ar valdymo: kopilotas, kurį praėjusią savaitę įjungė kūrėjas, MCP serveris veikia nešiojamajame kompiuteryje, modelis, perkeltas tiesiai iš viešojo centro į šalutinį projektą? Tai nėra kraštutinis atvejis. 2026 m. atliktoje daugiau nei 400 saugumo lyderių apklausoje tik 19 % teigė, kad mato, kur ir kaip naudojamas dirbtinis intelektas visoje savo organizacijoje, o didžioji dauguma jau naudojo arba išbandė dirbtinio intelekto kodavimo asistentus.
Sunkiausia rasti šešėlinį DI yra programinės įrangos gyvavimo ciklo metu, nes jis retai rodomas debesies konsolėje:
- Modeliai ir dirbtinio intelekto bibliotekos į saugyklas įtraukiamos kaip priklausomybės.
- Dirbtinio intelekto kodavimo asistentai, konfigūruojami pagal kūrėją, pagal IDE.
- MCP serveriai ir taisyklių failai, veikiantys lokaliai kūrėjų galiniuose taškuose.
- Agentų darbo eigos tyliai atidaromos pull requests arba diegiant paketus.
Štai kodėl vien debesijos teikiamų aptikimo galimybių nepakanka. Tikrai išsamus dirbtinio intelekto inventorius turi pasiekti kodą ir kūrimo aplinkas (kūrėjo nešiojamąjį kompiuterį, saugyklą, pipeline), ne tik gamybinę debesiją.
Kas priklauso dirbtinio intelekto medžiagų rinkiniui (AI-BOM)
Auditui paruoštas AI-BOM paverčia jūsų atsargas tuo, ką galite įrodyti. Jame turėtų būti bent jau:
- Kiekvienas dirbtinio intelekto išteklius: modeliai, duomenų rinkiniai, agentai, MCP serveriai, dirbtinio intelekto kodavimo įrankiai.
- Kiekvieno turto tipas, vieta ir aptikimo patikimumas.
- Kilmė ir priklausomybės (iš kur atsirado modelis ar komponentas).
- Kiekvieno ištekliaus rizikos lygis, pagrįstas dirbtiniam intelektui būdingais atakų vektoriais.
- Reglamentavimo atitikimas ES Dirbtinio intelekto įstatymui, NIST dirbtinio intelekto RMF ir ISO/IEC 42001.
- Eksportuojamas, kompiuterio skaitomas formatas auditoriams ir klientams.
Organizacijos, kurios gali sugeneruoti dirbtinio intelekto medžiagų sąrašą (AI-BOM) pagal poreikį, turės realų atitikties ir pasitikėjimo pranašumą, kai AI audito įsipareigojimai taps brandesni.
Dirbtinio intelekto inventorius ir atitiktis: ES Dirbtinio intelekto įstatymas, NIST dirbtinio intelekto RMF ir ISO/IEC 42001
Nė viena iš pagrindinių sistemų neįvardija „DI atsargų“ kaip eilutės elemento, tačiau be jos praktiškai neįmanoma patenkinti nė vienos iš jų. Negalite dokumentuoti, klasifikuoti ar valdyti DI sistemų, kurių nematote.
Pastaba dėl laiko: ES Dirbtinio intelekto įstatymo įsigaliojimas buvo peržiūrėtas 2026 m. gegužės mėn. susitarimu „Skaitmeninis omnibusas“, kuriuo dauguma didelės rizikos įsipareigojimų buvo atidėti iki 2027 m. gruodžio mėn., tačiau keli 2026 m. rugpjūčio 2 d. tikslai (skaidrumo pareigos, GPAI baudų skyrimo įgaliojimai) liko galioti. Tikslias datas traktuokite kaip kintantį taikinį ir patvirtinkite remdamiesi pirminiais ES šaltiniais. Tačiau kryptis aiški, o viso to būtina sąlyga yra inventorius.
Kaip sukurti ir prižiūrėti dirbtinio intelekto inventorių
Inventoriaus sudarymas yra ne vienkartinis auditas, o labiau nuolatinio proceso sukūrimas, nes dirbtinio intelekto ištekliai nuolat keičiasi: priimami nauji modeliai, diegiami nauji agentai, konfigūruojami nauji MCP serveriai, dažnai be patvirtinimo.
Praktinis požiūris:
- Automatinis aptikimas naudojant kodą, kompiliavimą ir debesį. Rankinės skaičiuoklės pasensta per kelias dienas. „Discovery“ turi veikti nuolat ir pasiekti SDLC, ne tik vykdymo laiką.
- Klasifikuoti ir sudaryti ryšių žemėlapį. Užrašykite tipą, vietą, kilmę ir, svarbiausia, kaip kiekvienas turtas yra susijęs su kitais ir paslaptimis.
- Įvertinkite riziką kontekste. Plokščias šimtų išvadų sąrašas niekam nepadeda; prioritetus nustatykite pagal tai, kas iš tikrųjų yra pasiekiama, išnaudojama ir verslui kritiškai svarbi.
- Priskirti nuosavybę. Kiekvienam turtui reikalingas atsakingas savininkas.
- Palaikykite jį aktyvų ir eksportuojamą. Tvarkykite jį kaip nuolatinį inventorių, kuris gali sukurti AI-BOM pagal poreikį.
Į ką atkreipti dėmesį renkantis dirbtinio intelekto inventorizacijos programinę įrangą
Jei vertinate įrankius, tai yra galimybės, kurios skiria tikrąją dirbtinio intelekto inventoriaus programinę įrangą nuo statinio sąrašo:
- Supranta dirbtiniam intelektui būdingus išteklių tipus (modeliai, agentai, MCP serveriai, duomenų rinkiniai), ne tik paketai ir bibliotekos.
- Pasiekia SDLC, atrasdami dirbtinį intelektą kode ir kūrėjų galiniuose taškuose, ne tik debesyje.
- Žemėlapių ryšiai, ne tik atskirus turtus, todėl rizika matoma atsižvelgiant į kontekstą.
- Įvertina riziką, susijusią su dirbtiniam intelektui būdingais atakų vektoriais (greita injekcija, nesaugus MCP, per didelis agentūrumas), ne tik CVE sunkumas.
- Veikia nuolat, gaudant naują dirbtinį intelektą, kaip jis atrodo.
- Sukuria auditui paruoštą AI-BOM kuris tenkina ir auditorius, ir enterprise pirkimas.
- Sujungia inventorių su vykdymo užtikrinimu, kad galėtumėte imtis veiksmų pagal tai, ką rasite.
Nuo inventoriaus iki veiksmų: randamų daiktų apsauga
Pirmas žingsnis – išsiaiškinti, kurie ištekliai kelia realią riziką, nes dauguma jų tokios rizikos nekelia. Tikslas – pereiti nuo tūkstančių neapdorotų išvadų prie tų, kurios iš tikrųjų gali pakenkti sistemoms, duomenims ar operacijoms: tų, kurie yra aktyviai naudojami, priima nepatikimą įvestį, yra realiai išnaudojami, turi slaptą prieigą ir daro įtaką gamybai ar reguliuojamam turtui.
Čia yra dirbtinio intelekto saugumo padėties valdymas (AI-SPM) prasideda: inventoriaus surinkimas, rizikos vertinimas DI atakos kelyje, jo susiejimas su reglamentais ir DI-BOM parengimas. Tai taip pat yra etapas, kai inventorius susiejamas su vykdymo užtikrinimu: kenkėjiškų priklausomybių blokavimas prieš jas įdiegiant, nepatvirtintų MCP serverių ir modelių atmetimas ir pažeistų galinių taškų sulaikymas prieš incidentui išplintant.
At Ksigeni, tai yra modelis, kuriuo siekiame: nuolatinis dirbtinio intelekto inventorius ir AI-BOM per AI-SPM, kenkėjiškų programų aptikimas, kuris sugauna kenkėjiškus paketus dar prieš atsirandant parašui (MEW, ankstyvas įspėjimas apie kenkėjiškas programas) ir politikos vykdymą kūrėjo galiniame taške naudojant „Xygeni Shield“. Aptikimas suderintas su OWASP 10 geriausių LLM programų, OWASP 10 geriausių agentinių programų ir OWASP 10 geriausių MCP programų sąrašu. Tačiau, kad ir kokį metodą pasirinktumėte, principas galioja: Negalite apsaugoti to, ko nematote, o dirbtinio intelekto inventorius yra vieta, kur prasideda matomumas.
DUK
Kuo AI-BOM skiriasi nuo SBOM?
An SBOM kataloguoja atvirojo kodo ir trečiųjų šalių programinės įrangos priklausomybes, įvertintas pagal CVE pavojingumą. AI-BOM kataloguoja su DI susijusius išteklius (modelius, agentus, MCP serverius, duomenų rinkinius) su DI specifiniu rizikos vertinimu ir reguliavimo žemėlapiu. DI plintant visame pasaulyje SDLC, AI-BOM tampa tokiu pat pamatiniu kaip ir SBOM.
Kas yra šešėlinis dirbtinis intelektas ir kaip jį atrasti?
Šešėlinis dirbtinis intelektas (DI) yra bet koks DI, pritaikytas be oficialaus patvirtinimo ar valdymo: įjungtas kopilotas, vietinis MCP serveris, modelis, ištrauktas iš viešojo centro. Jį aptinkate nuolat automatizuoto inventorizacijos būdu, kuris pasiekia kodą, versiją ir... pipelineir kūrėjų galinius taškus, ne tik gamybinę debesiją, kurioje dauguma šešėlinio dirbtinio intelekto niekada nepasirodo.
Ar ES Dirbtinio intelekto įstatymas reikalauja dirbtinio intelekto inventoriaus?
ES Dirbtinio intelekto įstatyme „DI inventorius“ nėra aiškiai įvardytas, tačiau didelės rizikos sistemų dokumentavimo, klasifikavimo ir registravimo pareigų neįmanoma įvykdyti be jo. Tas pats pasakytina ir apie NIST dirbtinio intelekto RMF (žemėlapio funkciją, „Govern 1.6“) ir ISO/IEC 42001, pagal kurį reikalaujama tvarkyti dirbtinio intelekto sistemų inventorių.
Kas yra dirbtinis intelektas ir SPM?
Dirbtinio intelekto saugumo padėties valdymas (DI-SPM) – tai praktika, kurios metu nuolat atrandami DI ištekliai, vertinama jų rizika DI atakos kelyje, susiejama su reglamentais ir parengiamas DI saugumo duomenų sąrašas (angl. DI-BOM). Tai praplečia padėties valdymo mąstymą (pažįstamą iš CSPM ir DSPM) į DI būdingus išteklius ir atakų vektorius.
Kaip dažnai reikėtų atnaujinti dirbtinio intelekto inventorių?
Nuolat. Dirbtinio intelekto ištekliai keičiasi kasdien, komandoms diegiant naujus modelius, diegiant naujus agentus ir konfigūruojant naujus MCP serverius, paprastai be oficialaus patvirtinimo. Nuskaitymas konkrečiu momentu pasensta per kelias dienas, todėl efektyvi dirbtinio intelekto inventorizacijos programinė įranga veikia kaip nuolatinis procesas, o ne vienkartinis auditas.
Kaip inventorizuoti dirbtinį intelektą, naudojamą šaltinio kode?
DI inventorizavimas kode reiškia DI modelių ir bibliotekų, įtrauktų kaip priklausomybės, DI kodavimo asistentų, sukonfigūruotų pagal kūrėją, ir MCP serverių arba taisyklių failų, veikiančių lokaliai, aptikimą. Tam reikalingas aptikimas, kuris veiktų viduje. SDLC (saugyklos, kūrimas pipelineir kūrėjų galiniuose taškuose), o ne tik debesies konsolėse.
