An AI inventuur on pidevalt uuendatav kataloog kõigist teie organisatsioonis töötavatest tehisintellekti varadest — mudelid, tehisintellektil põhinevad lõpp-punktid, andmekogumid, tehisintellektil põhinevad kodeerimisassistendid, MCP-serverid ja tehisintellekti sõltuvused — koos neid ühendavate suhete, riskide ja omanikega. Turvalisuse kontekstis pole sellel mingit pistmist lao või varude haldamisega; siin "Tehisintellekti inventuur" tähendab lihtsalt täpselt teada, millist tehisintellekti te kasutate, kus see asub ja milleni see jõuda suudab.
Kuna tehisintellekt levib tarkvaraarenduse igas etapis, alates koodi genereerimisest IDE-s kuni autonoomsete agentideni, mis tegutsevad selle sees, CI/CD pipelineKüsimus ei ole enam selles, kas tehisintellekt on teie keskkonnas olemas. See on küsimus selles, kas sa seda näha oskad. See juhend selgitab, mis on tehisintellekti inventuur ja kuidas see on seotud AI-BOM ja SBOM, miks vari AI on muutunud turvaprobleemiks ja kuidas see praktika sellega seostub EL AI seadus, NISTi tehisintellekti RMFi ja ISO / IEC 42001.
Peamised kaasavõtmised
- Tehisintellekti inventuur kataloogib kõik mudelid, andmestikud, agendid, MCP-serverid ja tehisintellekti kodeerimistööriistad kogu teie tarkvara elutsükli vältel, mitte ainult IT-poolt heaks kiidetud.
- Vari AIilma juhtimiseta omaks võetud tehisintellekt on nüüd norm, mitte erand: ühes 2026. aasta turvajuhtide uuringus oli ainult 19% organisatsioonidest teatasid täielikust ülevaatest tehisintellekti kasutamise kohast ja viisist.
- An AI-BOM (tehisintellekti materjalide loend) on tehisintellekti inventuuri auditeerimisvalmis väljund: tehisintellekti ajastu järeltulija SBOM.
- Regulatsioonid on saabumas. ELi tehisintellekti seadus, NISTi tehisintellekti nõuete täitmise funktsioon ja ISO/IEC 42001 nõuavad kõik sisuliselt teadmist, millist tehisintellekti te kasutate.
- Inventuur on vaid lähtepunkt; väärtus tuleneb riski hindamisest ja tegutsemisest väikese arvu varade kallal, mis tegelikult olulised on.
Mis on tehisintellekti inventuur?
Tehisintellekti inventuur on iga tarkvaraarenduse elutsükli jooksul töötava tehisintellekti ressursi ja sellega seotud riskide avastamise, kataloogimise ja pideva jälgimise tava. Täielik inventuur vastab iga ressursi kohta kolmele küsimusele: mis see on, kus see töötab ja millele see juurde pääseb?
See ulatus on laiem, kui enamik meeskondi eeldab. Mõtestatud tehisintellekti inventuur peaks hõlmama järgmist:
- Mudelid: kõik suured keelemudelid ja alusmudelid, mida kasutatakse nii arendus- kui ka tootmiskeskkonnas, koos versiooni, asukoha ja tuvastuskindlusega.
- Andmekogumidtreeningandmed, otsinguandmestikud ja vektorsalvestused, sh kokkupuude mürgitatud kontekstiga ja andmete lekkimine.
- Agendidautonoomsed süsteemid, mis tegutsevad teie keskkonnas, näiteks avavad pull requests, sõltuvuste installimine või infrastruktuuri puudutamine.
- MCP-serverid: Mudeli konteksti protokoll serverid, mis ühendavad tehisintellekti assistendid väliste tööriistade, API-de ja andmeallikatega.
- Tehisintellekti kodeerimistööriistad ja assistendid: kaaspiloodid ja IDE integratsioonid, mis genereerivad koodi, pakkuda välja sõltuvusi ja suhelda repositooriumidega.
- Tehisintellekti raamistikudLangChain, LangGraph, agentserverid ja muud orkestreerimiskihid, mis ühendavad mudeleid tööriistade ja andmetega.
- Varade vahelised seosed: mudelite, agentide, serverite, andmekogumite ja nendega seotud saladuste vahelised seosed. Seoste graafik muudab riski nähtavaks kontekstis, mitte ühetaolise loendina.
AI varud vs AI varade varud vs AI-BOM ja kuidas need erinevad SBOM
Neid termineid kasutatakse laialdaselt, seega on kasulik olla eelnevalt teadlikcise. „Tehisintellekti inventuur” ja „Tehisintellekti varade inventuur” kirjeldavad sama asja.: tehisintellekti varade ja nendega seotud riskide elav kataloog. AI-BOM on eksporditav artefakt, mille laoseis toodab.masinloetav materjalide loetelu, mille saate esitada audiitorile või enterprise ostja.
AI-BOMi mõistmise kõige selgem viis on analoogia abil SBOM:
Kuna tehisintellekt muutub kõikjale sisse juurutatud SDLC, on tehisintellektist saamas sama oluline osa kui SBOMja turvajuhid saavad üha enam päringuid audiitoritelt ja enterprise hankemeeskonnad just selle artefakti jaoks.
Miks tehisintellekti inventuur on nüüd oluline?
Kolm jõudu on muutnud tehisintellekti inventuuri meeldivast omamisest prioriteediks.
- Esiteks kirjutab tehisintellekt suures mahus ebaturvalist koodi. Sõltumatud uuringud näitavad järjepidevalt, et suur osa tehisintellekti loodud koodist sisaldab haavatavusi. Pearce'i jt algne NYU/Copiloti uuring leidis umbes 40% genereeritud programmidest sisaldasid turvaaukeja uuemad laiaulatuslikud testid näitavad samamoodi: Veracode'i 2025. aasta analüüs enam kui 100 mudeli kohta leidis ainult 55% tehisintellekti loodud koodist oli turvalineKui te ei tea, millised assistendid teie süsteemis koodi genereerivad. pipelines, te ei saa seda riski kontrollida.
- Teiseks on tarkvara tarneahelast saanud tehisintellekti rünnakupind. Septembris 2025, Shai Hulud, esimene isepaljunev npm-uss, muutis arendajate masinad jaotusmehhanismiks, levides sadade pakettide vahel. 2026. aasta märtsis rikkusid ründajad aksioosid, pakett, mis sisaldab umbes 100 miljonit allalaadimist nädalas, avaldades mürgitatud versioone, mis levitasid kaugjuurdepääsu trooja. Sellised rünnakud maanduvad täpselt traditsioonilise rakenduste turvalisuse ja lõpp-punkti tööriistade vahelisele kihile: kihile, mille valgustamiseks tehisintellekti inventuur on loodud.
- Kolmandaks, tehisintellekti kaudu lekivad saladused ja volitused. GitGuardiani artikkel „State of Secrets Sprawl 2026” teatas, et Tehisintellekti teenuste saladuste lekked kasvasid aastaga 81%ja et tehisintellekti abil commits leak secretumbes kaks korda kiiremini kui baaskiirus. Iga dokumenteerimata mudel, agent või MCP-server on potentsiaalne tee mandaadi saamiseks.
Traditsiooniline rakenduste turvalisus peatub repositooriumi juures ega mõista, mis on mudel. Lõpp-punkti tööriistad jälgivad operatsioonisüsteemi, kuid ei mõista pakette, MCP-servereid ega tehisintellekti assistente. Nende vaheline lõhe on koht, kus tehisintellekti risk kuhjub, ja inventuur on esimene samm selle sulgemiseks.
Kus tehisintellekt peidab end: Varjutage tehisintellekti üle kogu maailma SDLC
Vari AI Kas mõni tehisintellekti süsteem võetakse kasutusele ilma ametliku heakskiidu või juhtimiseta: arendaja poolt eelmisel nädalal aktiveeritud kaasprojekt, sülearvutil töötav MCP-server, avalikust keskusest otse kõrvalprojekti tõmmatud mudel? See ei ole ääremaa. 2026. aasta uuringus, milles osales üle 400 turvajuhi, ainult 19% teatasid täielikust ülevaatest tehisintellekti kasutamise kohta ja selle kasutamise viisist kogu oma organisatsioonis, samas kui valdav enamus juba kasutas või katsetas tehisintellektil põhinevaid kodeerimisassistente.
Kõige raskem on leida vari-AI-d tarkvara elutsükli sees, kuna see ilmub pilvekonsoolis harva:
- Mudelid ja tehisintellekti teegid tõmmatakse repositooriumidesse sõltuvustena.
- Tehisintellektiga kodeerimisassistendid, mis on konfigureeritud arendaja ja IDE järgi.
- MCP-serverid ja reeglifailid, mis töötavad lokaalselt arendaja lõpp-punktides.
- Agentide töövood avatakse vaikselt pull requests või pakettide installimine.
Seepärast ei piisa ainult pilvepõhisest avastamisest. Tõeliselt täielik tehisintellekti inventuur peab ulatuma koodi ja ehituskeskkondadesse (arendaja sülearvuti, repositoorium, pipeline), mitte ainult tootmispilve.
Mis kuulub tehisintellekti BOM-i
Auditiks valmis tehisintellekti materjaliloend (AI-BOM) muudab teie laoseisu millekski, mida saate tõestada. See peaks sisaldama vähemalt järgmist:
- Iga tehisintellekti ressurss: mudelid, andmekogumid, agendid, MCP-serverid, tehisintellekti kodeerimistööriistad.
- Vara tüüp, asukoht ja iga avastamise usaldusväärsus.
- Päritolu ja sõltuvused (kust mudel või komponent pärit on).
- Vara riskitase, mis põhineb tehisintellektipõhistel rünnakuvektoritel.
- Regulatiivne kaardistus ELi tehisintellekti seaduse, NISTi tehisintellekti riskijuhtimise raamistiku ja standardi ISO/IEC 42001 alusel.
- Eksporditav, masinloetav vorming audiitoritele ja klientidele.
Organisatsioonidel, mis suudavad nõudmisel tehisintellekti materjalide loendit (AI-BOM) genereerida, on tehisintellekti auditeerimiskohustuste küpsedes reaalne vastavuse ja usalduse eelis.
Tehisintellekti inventuur ja vastavus: ELi tehisintellekti seadus, NISTi tehisintellekti riskijuhtimise funktsioon ja ISO/IEC 42001
Ükski suurem raamistik ei nimeta „tehisintellekti inventuuri” reaüksusena, kuid igaüht neist on ilma selleta sisuliselt võimatu täita. Te ei saa dokumenteerida, klassifitseerida ega hallata tehisintellekti süsteeme, mida te ei näe.
Märkus ajastuse kohta: ELi tehisintellekti seaduse rakendamist vaadati läbi 2026. aasta mais sõlmitud digitaalse omnibuslepinguga, mis lükkas enamiku kõrge riskiga kohustuste täitmise edasi 2027. aasta detsembrisse, jättes samal ajal mitmed 2. augusti 2026. aasta verstapostid (läbipaistvuskohustused, GPAI karistusvolitused) kehtima. Täpseid kuupäevi tuleks käsitleda liikuva sihtmärgina ja kinnitada esmaste ELi allikate põhjal. Kuid edasiliikumise suund on selge ja kõige selle eeltingimuseks on inventuur.
Kuidas luua ja hallata tehisintellekti inventuuri
Inventuuri koostamine ei ole niivõrd ühekordne audit kuivõrd pideva protsessi loomine, sest tehisintellekti varad muutuvad pidevalt: võetakse kasutusele uusi mudeleid, juurutatakse uusi agente, konfigureeritakse uusi MCP-servereid, sageli ilma kinnituseta.
Praktiline lähenemine:
- Avasta automaatselt koodi, arenduse ja pilve kaudu. Manuaalsed arvutustabelid vananevad päevadega. Discovery peab pidevalt töötama ja ulatuma andmeteni. SDLC, mitte ainult käitusaja.
- Klassifitseeri ja kaardista seoseid. Salvesta tüüp, asukoht, päritolu ja, mis veelgi olulisem, kuidas iga vara on seotud teiste varade ja saladustega.
- Hinnake riski kontekstis. Sadadest leidudest koosnev ühetaoline nimekiri ei aita kedagi; prioriseerige seda, mis on tegelikult kättesaadav, kasutatav ja äriliselt kriitiline.
- Omandiõiguse määramine. Igal varal on vaja vastutustundlikku omanikku.
- Hoidke see aktiivsena ja eksporditavana. Säilita seda pideva laoseisuna, mis suudab nõudmisel luua tehisintellekti-materjalide loendi.
Mida tehisintellektiga inventuuritarkvaras otsida
Kui hindate tööriistu, siis need on võimalused, mis eristavad ehtsat tehisintellektiga inventuuri tarkvara staatilisest loendist:
- Mõistab tehisintellektile omaseid varatüüpe (mudelid, agendid, MCP-serverid, andmekogumid), mitte ainult paketid ja teegid.
- Ulatus sissepoole SDLC, avastades tehisintellekti koodis ja arendajate lõpp-punktides, mitte ainult pilves.
- Kaartide seosed, mitte ainult üksikuid varasid, seega on risk kontekstis nähtav.
- Hindab riski tehisintellekti-spetsiifiliste rünnakuvektorite puhul (kiire süstimine, ebakindel MCP, liigne agentiivsus), mitte ainult CVE raskusaste.
- Töötab pidevalt, püüdes kinni uue tehisintellekti, nagu see paistab.
- Loob auditeerimisvalmis tehisintellekti-materjalide loendi mis rahuldab nii auditoreid kui ka enterprise hanked.
- Ühendab inventuuri jõustamisega, et saaksite leitu põhjal tegutseda.
Inventuurist tegutsemiseni: leitu kindlustamine
Esimene samm on avastamine; teine samm on mõistmine, millised varad kujutavad endast reaalset riski, sest enamik neist ei kujuta endast. Eesmärk on liikuda tuhandete toorandmete asemel käputäie leidude juurde, mis võivad süsteeme, andmeid või toiminguid tegelikult kahjustada: need, mis on aktiivselt kasutusel, võtavad vastu ebausaldusväärset sisendit, on realistlikult ärakasutatavad, omavad tundlikku juurdepääsu ning mõjutavad tootmis- või reguleeritud varasid.
Siin on tehisintellekti turbepositsiooni haldamine (AI-SPM) hoogustub: inventuuri tegemine, riski hindamine tehisintellekti rünnakuteel, selle kaardistamine regulatsioonidega ja tehisintellekti-BOM-i koostamine. See on ka koht, kus inventuur kohtub jõustamisega: pahatahtlike sõltuvuste blokeerimine enne nende installimist, heakskiitmata MCP-serverite ja -mudelite tagasilükkamine ning ohustatud lõpp-punktide ohjeldamine enne intsidendi levikut.
At Xygeni, see on mudel, mille poole me ehitame: pidev tehisintellekti inventuur ja AI-BOM AI-SPM-i kaudu, pahavara tuvastamine, mis püüab pahatahtlikke pakette enne allkirja olemasolu (MEW, pahavara varajane hoiatus) ja poliitika jõustamine arendaja lõpp-punktis Xygeni Shieldi kaudu. Tuvastamine on joondatud OWASP Top 10 LLM-rakenduste, OWASP Top 10 agentide rakenduste ja OWASP MCP Top 10 edetabeliga. Kuid olenemata valitud lähenemisviisist kehtib põhimõte: Sa ei saa kindlustada seda, mida sa ei näe, ja tehisintellekti inventuur on see, kust nähtavus algab.
KKK
Mille poolest erineb tehisintellekti BOM tavalisest SBOM?
An SBOM kataloogib avatud lähtekoodiga ja kolmandate osapoolte tarkvara sõltuvusi, mis on hinnatud CVE raskusastme järgi. AI-BOM kataloogib tehisintellektile omaseid varasid (mudeleid, agente, MCP servereid, andmekogumeid) koos tehisintellektile omase riskiskoori ja regulatiivse kaardistamisega. Tehisintellekti levides SDLC, on tehisintellektist saamas sama oluline osa kui SBOM.
Mis on varjude tehisintellekt ja kuidas ma seda avastan?
Varitehisintellekt on iga tehisintellekt, mis on kasutusele võetud ilma ametliku heakskiidu või halduseta: lubatud kaaspiloot, kohalik MCP-server, avalikust keskusest hangitud mudel. Selle avastate pideva automatiseeritud inventuuri abil, mis ulatub koodi, ehitusse ja ... pipelines ja arendajate lõpp-punktid, mitte ainult tootmispilv, kus enamik varju-tehisintellekti ei ilmu kunagi.
Kas ELi tehisintellekti seadus nõuab tehisintellekti inventuuri?
ELi tehisintellekti seadus ei nimeta otseselt tehisintellekti inventuuri, kuid selle dokumenteerimis-, klassifitseerimis- ja registreerimiskohustusi kõrge riskiga süsteemide puhul on ilma selleta võimatu täita. Sama kehtib ka NISTi tehisintellekti RMFi (Map function, Govern 1.6) ja ISO/IEC 42001 kohta, mis nõuab tehisintellekti süsteemide inventuuri pidamist.
Mis on tehisintellekti ja SPM-i põhimõte?
Tehisintellekti turbepositsiooni haldamine (AI-SPM) on tehisintellekti varade pidev avastamine, nende riski hindamine tehisintellekti rünnakuteel, nende kaardistamine regulatsioonidega ja tehisintellekti-BOM-i loomine. See laiendab positsioonihalduse mõtlemist (tuttav CSPM-ist ja DSPM-ist) tehisintellektile spetsiifilistele varadele ja rünnakuvektoritele.
Kui tihti peaks tehisintellekti inventuuri uuendama?
Pidevalt. Tehisintellekti ressursid muutuvad iga päev, kuna meeskonnad võtavad kasutusele uusi mudeleid, juurutavad uusi agente ja konfigureerivad uusi MCP-servereid, tavaliselt ilma ametliku kinnituseta. Konkreetse ajahetke skannimine aegub mõne päevaga, seega töötab tõhus tehisintellekti inventuuritarkvara pideva protsessina, mitte ühekordse auditina.
Kuidas ma saan inventuurida lähtekoodis kasutatavat tehisintellekti?
Koodis tehisintellekti inventuur tähendab sõltuvustena sisse tõmmatud tehisintellekti mudelite ja teekide, arendaja poolt konfigureeritud tehisintellekti kodeerimisassistentide ning lokaalselt töötavate MCP-serverite või reeglifailide tuvastamist. See nõuab avastamist, mis toimib süsteemi sees. SDLC (hoidlad, ehitamine) pipelines ja arendajate lõpp-punktid), mitte ainult pilvekonsoolides.
