An KI-voorraad is 'n voortdurend opgedateerde katalogus van elke KI-bate wat regoor jou organisasie loop — modelle, KI-aangedrewe eindpunte, datastelle, KI-koderingsassistente, MCP-bedieners en KI-afhanklikhede — tesame met die verhoudings, risiko's en eienaars wat hulle verbind. In 'n sekuriteitskonteks het dit niks te doen met pakhuis- of voorraadvoorraadbestuur nie; hier, "KI-voorraad" beteken eenvoudig om presies te weet watter KI jy gebruik, waar dit is en wat dit kan bereik.
Soos KI oor elke stadium van sagteware-ontwikkeling versprei, van kodegenerering in die IDE tot outonome agente wat binne optree CI/CD pipelines, die vraag is nie meer of KI in jou omgewing teenwoordig is nie. Dit is of jy dit kan sien. Hierdie gids verduidelik wat 'n KI-inventaris is, hoe dit verband hou met 'n KI-BOM en 'n SBOM, hoekom skaduwee AI het 'n sekuriteitsprobleem geword, en hoe die praktyk ooreenstem met die EU KI-wet, NIST AI RMF en ISO / IEC 42001.
Belangrike takeaways
- 'n KI-inventaris katalogiseer elke model, datastel, agent, MCP-bediener en KI-koderingsinstrument oor jou sagtewarelewensiklus, nie net dié wat IT-goedgekeur het nie.
- Skaduwee AI, KI wat sonder bestuur aangeneem word, is nou die norm, nie die uitsondering nie: in een 2026-opname van sekuriteitsleiers, slegs 19% van organisasies het volle sigbaarheid gerapporteer oor waar en hoe KI gebruik word..
- An KI-BOM (KI-materiaallys) is die oudit-gereed uitvoer van 'n KI-inventaris: die KI-era opvolger van die SBOM.
- Regulasie is op pad. Die EU KI-wet, NIST KI RMF en ISO/IEC 42001 vereis almal effektief dat jy weet watter KI jy gebruik.
- 'n Inventaris is slegs die beginpunt; die waarde kom van die beoordeling van risiko en die optrede op die klein aantal bates wat werklik saak maak.
Wat is 'n KI-voorraad?
'n KI-inventaris is die praktyk om elke KI-bate wat oor jou sagteware-ontwikkelingslewensiklus bedryf word, te ontdek, te katalogiseer en voortdurend te monitor, asook die risiko's wat aan elkeen verbonde is. 'n Volledige inventaris beantwoord drie vrae vir elke bate: wat is dit, waar loop dit, en waartoe kan dit toegang kry?
Daardie omvang is breër as wat die meeste spanne verwag. 'n Betekenisvolle KI-inventaris behoort die volgende te dek:
- Modelleelke groot taalmodel en fondamentmodel wat in gebruik is oor ontwikkeling en produksie, met weergawe-, ligging- en opsporingsvertroue.
- datastelleopleidingsdata, herwinningsdatastelle en vektorbergings, insluitend blootstelling aan vergiftigde konteks en data-lekkasie.
- Agenteoutonome stelsels wat aksies in jou omgewing neem, soos om oop te maak pull requests, afhanklikhede installeer, of infrastruktuur aanraak.
- MCP-bedieners: Modelkonteksprotokol bedieners wat KI-assistente aan eksterne gereedskap, API's en databronne koppel.
- KI-koderingsinstrumente en -assistente: kopilote en IDE-integrasies wat kode genereer, stel afhanklikhede voor en kommunikeer met bewaarplekke.
- KI-raamwerkeLangChain, LangGraph, agentbedieners en ander orkestrasielae wat modelle aan gereedskap en data koppel.
- Verhoudings tussen bates: die verbindings tussen modelle, agente, bedieners, datastelle en die geheime wat daaraan gekoppel is. 'n Verwantskapsgrafiek maak risiko sigbaar in konteks, nie as 'n plat lys nie.
KI-voorraad teenoor KI-batevoorraad teenoor KI-BOM, en hoe hulle verskil van 'n SBOM
Hierdie terme word losweg gebruik, so dit help om vooraf te weescise. “KI-voorraad” en “KI-batevoorraad” beskryf dieselfde ding: die lewende katalogus van KI-bates en hul risiko's. 'n KI-BOM is die uitvoerbare artefak wat voorraad produseer'n masjienleesbare lys van materiaal wat jy aan 'n ouditeur of 'n enterprise koper.
Die skoonste manier om die AI-BOM te verstaan, is deur analogie met die SBOM:
Soos KI ingebed raak regoor die SDLC, die KI-BOM word so fundamenteel soos die SBOM, en sekuriteitsleiers ontvang toenemend versoeke van ouditeure en enterprise verkrygingspanne vir presies hierdie artefak.
Waarom KI-voorraad nou saak maak
Drie kragte het KI-voorraad van 'n lekker-om-te-hê in 'n prioriteit verander.
- Eerstens skryf KI onveilige kode op skaal. Onafhanklike navorsing bevind konsekwent dat 'n groot deel van KI-gegenereerde kode met kwesbaarhede kom. Die oorspronklike NYU/Copilot-studie deur Pearce et al. het rofweg bevind 40% van gegenereerde programme het sekuriteitsprobleme bevat, en meer onlangse grootskaalse toetse wys op dieselfde manier: Veracode se 2025-analise oor 100+ modelle het slegs gevind 55% van KI-gegenereerde kode was veiligAs jy nie weet watter assistente kode in jou genereer nie pipelines, jy kan nie daardie risiko beheer nie.
- Tweedens, die sagteware-voorsieningsketting het 'n KI-aanvalsoppervlak geword. In September 2025, Shai Hulud, die eerste selfverspreidende npm-wurm, het ontwikkelaarsmasjiene in 'n verspreidingsmeganisme omskep en oor honderde pakkette versprei. In Maart 2026 het aanvallers gekompromitteer Axios, 'n pakkie met ongeveer 100 miljoen weeklikse aflaaie, wat vergiftigde weergawes publiseer wat 'n afstandtoegang-trojaan laat val het. Aanvalle soos hierdie val presies in die laag tussen tradisionele AppSec en eindpunt-gereedskap: die laag wat 'n KI-inventaris gebou is om te verlig.
- Derdens, geheime en geloofsbriewe lek deur KI. GitGuardian se State of Secrets Sprawl 2026 het berig dat Lekkasies van KI-diensgeheime het jaar-tot-jaar met 81% gestyg, en dat KI-ondersteunde commits leak secretteen ongeveer twee keer die basislynkoers. Elke ongedokumenteerde model, agent of MCP-bediener is 'n potensiële pad na 'n geloofsbrief.
Tradisionele AppSec stop by die bewaarplek en verstaan nie wat 'n model is nie. Eindpunt-gereedskap hou die bedryfstelsel dop, maar verstaan nie pakkette, MCP-bedieners of KI-assistente nie. Die gaping tussen hulle is waar KI-risiko ophoop, en 'n inventaris is die eerste stap om dit te sluit.
Waar KI wegkruip: Skadu KI oor die SDLC
Skaduwee AI word enige KI-stelsel aangeneem sonder formele goedkeuring of beheer: die ko-pilot wat 'n ontwikkelaar verlede week geaktiveer het, die MCP-bediener wat op 'n skootrekenaar loop, die model wat direk van 'n openbare spilpunt na 'n syprojek getrek is. Dit is nie 'n randgeval nie. In 'n 2026-opname van meer as 400 sekuriteitsleiers, slegs 19% het volle sigbaarheid gerapporteer oor waar en hoe KI gebruik word regoor hul organisasie, terwyl die oorgrote meerderheid reeds KI-koderingsassistente gebruik of geloods het.
Die moeilikste skadu-KI om te vind, is die KI binne die sagtewarelewensiklus, want dit verskyn selde in 'n wolkkonsole:
- Modelle en KI-biblioteke wat as afhanklikhede na bewaarplekke ingetrek word.
- KI-koderingsassistente gekonfigureer per ontwikkelaar, per IDE.
- MCP-bedieners en reëllêers wat plaaslik op ontwikkelaar-eindpunte loop.
- Agentwerkvloei maak stilweg oop pull requests of pakkette installeer.
Daarom is wolk-alleen ontdekking nie genoeg nie. 'n Werklik volledige KI-inventaris moet kode en bou-omgewings bereik (die ontwikkelaar se skootrekenaar, die bewaarplek, die pipeline), nie net die produksiewolk nie.
Wat behoort in 'n KI-BOM
’n Ouditgereed KI-BOM verander jou voorraad in iets wat jy kan bewys. Dit moet ten minste die volgende insluit:
- Elke KI-bate: modelle, datastelle, agente, MCP-bedieners, KI-koderingsinstrumente.
- Batetipe, ligging en opsporingsvertroue vir elk.
- Herkoms en afhanklikhede (waar die model of komponent vandaan kom).
- 'n Risikovlak per bate, gebaseer op KI-spesifieke aanvalvektore.
- Regulatoriese kartering volgens die EU KI-wet, NIST KI RMF en ISO/IEC 42001.
- 'n Uitvoerbare, masjienleesbare formaat vir ouditeure en kliënte.
Die organisasies wat 'n KI-BOM op aanvraag kan genereer, sal 'n werklike voldoenings- en vertrouensvoordeel hê namate KI-ouditverpligtinge volwasse word.
KI-inventaris en -nakoming: EU-KI-wet, NIST KI RMF en ISO/IEC 42001
Nie een van die hoofraamwerke noem "KI-voorraad" as 'n lynitem nie, maar elkeen is effektief onmoontlik om te bevredig daarsonder. Jy kan nie KI-stelsels dokumenteer, klassifiseer of beheer wat jy nie kan sien nie.
'n Nota oor tydsberekening: die bekendstelling van die EU KI-wet is hersien deur die "Digitale Omnibus"-ooreenkoms van Mei 2026, wat die meeste hoërisiko-verpligtinge tot Desember 2027 uitgestel het, terwyl verskeie mylpale van 2 Augustus 2026 (deursigtigheidspligte, GPAI-strafbevoegdhede) gehandhaaf is. Beskou presiese datums as 'n bewegende teiken en bevestig dit teen primêre EU-bronne. Maar die rigting van reis is duidelik, en voorraad is die voorvereiste vir dit alles.
Hoe om 'n KI-voorraad te bou en te onderhou
Die opbou van 'n inventaris gaan minder oor 'n eenmalige oudit en meer oor die vestiging van 'n deurlopende proses, want KI-bates verander voortdurend: nuwe modelle word aangeneem, nuwe agente word ontplooi, nuwe MCP-bedieners word gekonfigureer, dikwels sonder goedkeuring.
'n Praktiese benadering:
- Ontdek outomaties oor kode, bou en wolk. Handmatige sigblaaie raak binne dae verouderd. Ontdekking moet aanhoudend loop en die SDLC, nie net looptyd nie.
- Klassifiseer en karteer verwantskappe. Rekordtipe, ligging, herkoms en, van kritieke belang, hoe elke bate met ander en met geheime verbind word.
- Tellingrisiko in konteks. ’n Plat lys van honderde bevindinge help niemand nie; prioritiseer volgens wat werklik bereikbaar, benutbaar en besigheidskrities is.
- Ken eienaarskap toe. Elke bate benodig 'n verantwoordelike eienaar.
- Hou dit lewendig en uitvoerbaar. Handhaaf dit as 'n deurlopende voorraad wat 'n KI-BOM op aanvraag kan produseer.
Waarvoor om te soek in KI-voorraadsagteware
As jy gereedskap evalueer, is dit die vermoëns wat egte KI-voorraadsagteware van 'n statiese lys onderskei:
- Verstaan KI-spesifieke batetipes (modelle, agente, MCP-bedieners, datastelle), nie net pakkette en biblioteke nie.
- Bereik in die SDLC, die ontdekking van KI in kode en op ontwikkelaarseindpunte, nie net in die wolk nie.
- Kaartverhoudings, nie net individuele bates nie, dus is risiko sigbaar in konteks.
- Tellingrisiko op KI-spesifieke aanvalvektore (vinnige inspuiting, onveilige MCP, oormatige agentskap), nie net CVE-ernstigheid nie.
- Loop voortdurend, vang nuwe KI soos dit lyk.
- Produseer 'n oudit-gereed KI-BOM wat beide ouditeure en enterprise verkryging.
- Verbind voorraad met afdwinging, sodat jy kan optree op grond van wat jy vind.
Van inventaris tot aksie: beveilig wat jy vind
Ontdekking is die eerste stap; die tweede is om te verstaan watter bates werklike risiko inhou, want die meeste sal nie. Die doel is om van duisende rou bevindinge na die handjievol te beweeg wat eintlik stelsels, data of bedrywighede kan in gevaar stel: dié wat aktief gebruik word, onbetroubare insette aanvaar, realisties benutbaar is, sensitiewe toegang het en produksie of gereguleerde bates beïnvloed.
Dit is waar KI-sekuriteitshoudingbestuur (KI-SPM) optel: die inventaris neem, risiko langs die KI-aanvalspad bepaal, dit aan regulasie koppel, en die KI-BOM produseer. Dit is ook waar inventaris aan afdwinging voldoen: kwaadwillige afhanklikhede blokkeer voordat hulle installeer, ongoedgekeurde MCP-bedieners en -modelle verwerp, en gekompromitteerde eindpunte beperk voordat 'n voorval versprei.
At Xygeni, dit is die model waarna ons bou: deurlopende KI-voorraad en KI-BOM deur KI-SPM, wanware-opsporing wat kwaadwillige pakkette vang voordat 'n handtekening bestaan (MEW, Vroeë Waarskuwing vir Wanware), en beleidsafdwinging by die ontwikkelaar se eindpunt deur Xygeni Shield. Opsporing is in lyn met die OWASP Top 10 vir LLM-toepassings, die OWASP Top 10 vir Agentic-toepassings en die OWASP MCP Top 10. Maar watter benadering jy ook al kies, die beginsel geld: Jy kan nie beveilig wat jy nie kan sien nie, en 'n KI-inventaris is waar sigbaarheid begin.
Vrae & Antwoorde
Hoe verskil 'n KI-BOM van 'n SBOM?
An SBOM katalogiseer oopbron- en derdeparty-sagtewareafhanklikhede, gegradeer volgens CVE-ernstigheid. 'n KI-BOM katalogiseer KI-spesifieke bates (modelle, agente, MCP-bedieners, datastelle) met KI-spesifieke risikotelling en regulatoriese kartering. Soos KI versprei oor die SDLC, die KI-BOM word so fundamenteel soos die SBOM.
Wat is skaduwee-KI en hoe ontdek ek dit?
Skadu-KI is enige KI wat sonder formele goedkeuring of bestuur aangeneem word: 'n geaktiveerde ko-piloot, 'n plaaslike MCP-bediener, 'n model wat van 'n openbare spilpunt afgetrek word. Jy ontdek dit met deurlopende outomatiese inventaris wat in kode, bou ens. delf. pipelines en ontwikkelaar-eindpunte, nie net die produksiewolk waar die meeste skadu-KI nooit verskyn nie.
Vereis die EU KI-wet 'n KI-inventaris?
Die EU-KI-wet noem nie "KI-inventaris" eksplisiet nie, maar die dokumentasie-, klassifikasie- en registrasiepligte vir hoërisiko-stelsels is onmoontlik om daarsonder na te kom. Dieselfde geld vir die NIST KI RMF (Map function, Govern 1.6) en ISO/IEC 42001, wat vereis dat 'n inventaris van KI-stelsels gehou word.
Wat is KI-SPM?
KI-Sekuriteitshoudingbestuur (KI-SPM) is die praktyk om KI-bates voortdurend te ontdek, hul risiko langs die KI-aanvalspad te bepaal, hulle aan regulasie te koppel en 'n KI-BOM te produseer. Dit brei houdingbestuursdenke (bekend van CSPM en DSPM) uit na KI-spesifieke bates en aanvalvektore.
Hoe gereeld moet 'n KI-voorraad opgedateer word?
Voortdurend. KI-bates verander daagliks soos spanne nuwe modelle aanneem, nuwe agente ontplooi en nuwe MCP-bedieners konfigureer, gewoonlik sonder formele goedkeuring. 'n Tydelike skandering is binne dae verouderd, dus werk effektiewe KI-voorraadsagteware as 'n deurlopende proses eerder as 'n eenmalige oudit.
Hoe maak ek 'n inventaris van KI wat in bronkode gebruik word?
Die inventarisering van KI in kode beteken die opsporing van KI-modelle en biblioteke wat as afhanklikhede ingetrek word, KI-koderingsassistente wat per ontwikkelaar gekonfigureer is, en MCP-bedieners of reëllêers wat plaaslik loop. Dit vereis ontdekking wat binne die SDLC (bewaarplekke, bou pipelines en ontwikkelaar-eindpunte) eerder as net in wolkkonsoles.
