An Inventar umjetne inteligencije je kontinuirano ažurirani katalog svake AI imovine koja se koristi u vašoj organizaciji — modeli, krajnje točke pokretane umjetnom inteligencijom, skupovi podataka, pomoćnici za kodiranje umjetnom inteligencijom, MCP poslužitelji i ovisnosti umjetne inteligencije — zajedno s odnosima, rizicima i vlasnicima koji ih povezuju. U sigurnosnom kontekstu to nema nikakve veze s upravljanjem skladištima ili zalihama; ovdje, "Inventar umjetne inteligencije" jednostavno znači znati točno koju umjetnu inteligenciju koristite, gdje se nalazi i što može dosegnuti.
Kako se umjetna inteligencija širi kroz svaku fazu razvoja softvera, od generiranja koda u IDE-u do autonomnih agenata koji djeluju unutar CI/CD pipelines, pitanje više nije je li umjetna inteligencija prisutna u vašem okruženju. Radi se o tome možeš li to vidjeti. Ovaj vodič objašnjava što je AI inventar, kako se odnosi na AI-BOM i SBOM, zašto sjena AI postao je sigurnosni problem i kako se praksa preslikava na EU AI Act, NIST AI RMF i ISO / IEC 42001.
Ključni postupci
- AI inventar katalogizira svaki model, skup podataka, agenta, MCP poslužitelja i AI alata za kodiranje tijekom životnog ciklusa vašeg softvera, ne samo one koje je IT odobrio.
- AI sjena, umjetna inteligencija usvojena bez upravljanja, sada je norma, a ne iznimka: u jednom istraživanju sigurnosnih lidera iz 2026. godine, samo 19% organizacija izvijestilo je o potpunom uvidu u to gdje i kako se koristi umjetna inteligencija.
- An AI-BOM (AI sastavnica materijala) je izlaz spreman za reviziju AI inventara: nasljednika AI ere SBOM.
- Stiže regulacija. Zakon EU o umjetnoj inteligenciji, NIST AI RMF i ISO/IEC 42001 zapravo zahtijevaju da znate kojom umjetnom inteligencijom upravljate.
- Popis je samo početna točka; vrijednost dolazi od bodovanja rizika i djelovanja na mali broj imovine koja je zaista važna.
Što je AI inventar?
Inventar umjetne inteligencije je praksa otkrivanja, katalogiziranja i kontinuiranog praćenja svake umjetne inteligencije koja djeluje tijekom životnog ciklusa razvoja softvera, te rizika povezanih sa svakom od njih. Potpuni inventar odgovara na tri pitanja za svaku imovinu: što je to, gdje se izvodi i čemu može pristupiti?
Taj opseg je širi nego što većina timova očekuje. Smisleni popis umjetne inteligencije trebao bi obuhvatiti:
- Modelisvaki veliki jezični model i temeljni model koji se koristi u razvoju i produkciji, s pouzdanošću verzije, lokacije i detekcije.
- Skupovi podatakapodaci za obuku, skupovi podataka za pronalaženje i vektorske pohrane, uključujući izloženost kontaminiranom kontekstu i curenje podataka.
- Agentiautonomni sustavi koji poduzimaju radnje u vašem okruženju, kao što je otvaranje pull requests, instaliranje ovisnosti ili dodirivanje infrastrukture.
- MCP poslužitelji: Protokol konteksta modela poslužitelji koji povezuju AI asistente s vanjskim alatima, API-jima i izvorima podataka.
- Alati i asistenti za AI kodiranje: kopiloti i IDE integracije koje generiraju kod, predlagati ovisnosti i komunicirati s repozitorijima.
- Okviri umjetne inteligencijeLangChain, LangGraph, agentski poslužitelji i drugi orkestracijski slojevi koji povezuju modele s alatima i podacima.
- Odnosi između imovine: veze između modela, agenata, poslužitelja, skupova podataka i tajni povezanih s njima. Grafikon odnosa čini rizik vidljivim u kontekstu, a ne kao ravni popis.
AI inventar u odnosu na AI inventar imovine u odnosu na AI-BOM i kako se razlikuju od SBOM
Ovi se termini koriste slobodno, stoga je korisno biti unaprijedcise. „Inventar umjetne inteligencije“ i „inventar imovine umjetne inteligencije“ opisuju istu stvar.živi katalog imovine umjetne inteligencije i njihovih rizika. AI-BOM je artefakt koji se može izvoziti, a koji proizvodi inventar.strojno čitljiv popis materijala koji možete predati revizoru ili enterprise kupac.
Najčišći način za razumijevanje AI-BOM-a je analogijom s SBOM:
Kako se umjetna inteligencija ugrađuje u sve SDLC, AI-BOM postaje jednako temeljan kao i SBOM, a sigurnosni lideri sve češće primaju zahtjeve od revizora i enterprise timovi za nabavu upravo ovog artefakta.
Zašto je inventar umjetne inteligencije sada važan
Tri su sile pretvorile zalihe umjetne inteligencije iz nešto što je lijepo imati u prioritet.
- Prvo, umjetna inteligencija piše nesiguran kod u velikim razmjerima. Neovisna istraživanja dosljedno pokazuju da veliki udio koda generiranog umjetnom inteligencijom dolazi s ranjivostima. Izvorna studija NYU/Copilota koju su proveli Pearce i suradnici otkrila je otprilike 40% generiranih programa sadržavalo je sigurnosne propuste, a novija testiranja velikih razmjera ukazuju na isto: Veracodeova analiza iz 2025. na više od 100 modela pronašla je samo 55% koda generiranog umjetnom inteligencijom bilo je sigurnoAko ne znate koji asistenti generiraju kod u vašem pipelines, ne možete upravljati tim rizikom.
- Drugo, lanac opskrbe softverom postao je površina za napad umjetne inteligencije. U rujnu 2025, Shai Hulud, prvi samorazmnožavajući npm crv, pretvorio je računala programera u mehanizam distribucije, šireći se na stotine paketa. U ožujku 2026. napadači su kompromitirali aksios, paket s otprilike 100 milijuna tjedno preuzimanja, objavljujući zaražene verzije koje su zarazile trojanca za udaljeni pristup. Napadi poput ovih odvijaju se točno u sloju između tradicionalnog AppSeca i alata za krajnje točke: sloju koji AI inventar treba osvijetliti.
- Treće, tajne i vjerodajnice cure kroz umjetnu inteligenciju. GitGuardianov izvještaj o širenju State of Secrets 2026 izvijestio je da Curenje tajni o uslugama umjetne inteligencije poraslo je za 81% u odnosu na prethodnu godinu.i to uz pomoć umjetne inteligencije commits leak secrets otprilike dvostruko većom stopom od osnovne. Svaki nedokumentirani model, agent ili MCP poslužitelj potencijalni je put do vjerodajnice.
Tradicionalni AppSec se zaustavlja na repozitoriju i ne razumije što je model. Alati za krajnje točke prate operativni sustav, ali ne razumiju pakete, MCP poslužitelje ili AI asistente. Jaz između njih je mjesto gdje se akumulira AI rizik, a inventar je prvi korak ka njegovom zatvaranju.
Gdje se skriva umjetna inteligencija: Sjenka umjetne inteligencije diljem SDLC
AI sjena Je li bilo koji AI sustav usvojen bez formalnog odobrenja ili upravljanja: kopilot kojeg je programer omogućio prošli tjedan, MCP poslužitelj koji radi na prijenosnom računalu, model izvučen izravno iz javnog središta u sporedni projekt. To nije rubni slučaj. U anketi iz 2026. provedenoj na više od 400 sigurnosnih lidera, samo 19% je izjavilo da ima potpuni uvid u to gdje i kako se koristi umjetna inteligencija u cijeloj svojoj organizaciji, dok je velika većina već koristila ili pilotirala pomoćnike za kodiranje s umjetnom inteligencijom.
Najteže pronaći umjetnu inteligenciju u sjeni je ona unutar životnog ciklusa softvera, jer se rijetko pojavljuje u konzoli u oblaku:
- Modeli i AI biblioteke povučene su u repozitorije kao ovisnosti.
- AI asistenti za kodiranje konfigurirani po programeru, po IDE-u.
- MCP poslužitelji i datoteke pravila koje se izvode lokalno na krajnjim točkama razvojnih programera.
- Tiho otvaranje tijekova rada agenata pull requests ili instaliranje paketa.
Zato otkrivanje samo u oblaku nije dovoljno. Uistinu potpuni popis umjetne inteligencije mora dosegnuti kod i okruženja za izradu (prijenosno računalo programera, repozitorij, pipeline), ne samo produkcijski oblak.
Što pripada AI-BOM-u
AI-BOM spreman za reviziju pretvara vaš inventar u nešto što možete dokazati. Minimalno bi trebao uključivati:
- Svaka AI imovina: modeli, skupovi podataka, agenti, MCP poslužitelji, alati za AI kodiranje.
- Vrsta imovine, lokacija i pouzdanost detekcije za svaku.
- Porijeklo i ovisnosti (odakle model ili komponenta potječu).
- Razina rizika po imovini, na temelju vektora napada specifičnih za umjetnu inteligenciju.
- Mapiranje propisa u skladu sa Zakonom EU o umjetnoj inteligenciji, NIST AI RMF-om i normom ISO/IEC 42001.
- Izvoziv, strojno čitljiv format za revizore i kupce.
Organizacije koje mogu generirati AI-BOM na zahtjev imat će stvarnu prednost u skladu s propisima i povjerenju kako obveze revizije umjetne inteligencije budu dospjevale.
Inventar umjetne inteligencije i usklađenost: Zakon EU o umjetnoj inteligenciji, NIST AI RMF i ISO/IEC 42001
Nijedan od glavnih okvira ne imenuje "AI inventar" kao stavku, ali svaki od njih je zapravo nemoguće zadovoljiti bez njega. Ne možete dokumentirati, klasificirati ili upravljati AI sustavima koje ne možete vidjeti.
Napomena o vremenu: uvođenje Zakona EU o umjetnoj inteligenciji revidirano je sporazumom „Digital Omnibus“ iz svibnja 2026., kojim je većina obveza visokog rizika odgođena do prosinca 2027., dok je nekoliko ključnih ciljeva od 2. kolovoza 2026. zadržano na snazi (dužnosti transparentnosti, ovlasti za kažnjavanje GPAI-a). Točne datume tretirajte kao pokretnu metu i provjerite u odnosu na primarne izvore EU. Ali smjer kretanja je jasan, a inventar je preduvjet za sve to.
Kako izgraditi i održavati AI inventar
Izrada inventara manje se odnosi na jednokratnu reviziju, a više na uspostavljanje kontinuiranog procesa, jer se AI sredstva stalno mijenjaju: usvajaju se novi modeli, raspoređuju se novi agenti, konfiguriraju se novi MCP poslužitelji, često bez odobrenja.
Praktičan pristup:
- Automatsko otkrivanje u kodu, izradi i oblaku. Ručno unesene proračunske tablice zastarevaju u roku od nekoliko dana. Discovery mora raditi kontinuirano i dosezati SDLC, ne samo vrijeme izvođenja.
- Klasificirajte i mapirajte odnose. Zabilježite vrstu, lokaciju, podrijetlo i, što je ključno, kako je svaka imovina povezana s drugima i s tajnama.
- Rizik bodovanja u kontekstu. Jednostavan popis od stotina nalaza nikome ne pomaže; odredite prioritete prema onome što je zapravo dostupno, iskoristivo i poslovno kritično.
- Dodijeli vlasništvo. Svaka imovina treba odgovornog vlasnika.
- Ostavite ga aktivnim i pogodnim za izvoz. Održavajte ga kao kontinuirani inventar koji može generirati AI-BOM na zahtjev.
Što tražiti u softveru za umjetnu inteligenciju za inventuru
Ako procjenjujete alate, ovo su mogućnosti koje razlikuju pravi softver za inventuru umjetne inteligencije od statičkog popisa:
- Razumije vrste imovine specifične za umjetnu inteligenciju (modeli, agenti, MCP poslužitelji, skupovi podataka), ne samo paketi i biblioteke.
- Doseže u SDLC, otkrivajući umjetnu inteligenciju u kodu i na krajnjim točkama programera, ne samo u oblaku.
- Odnosi na kartama, ne samo pojedinačna imovina, tako da je rizik vidljiv u kontekstu.
- Ocjenjuje rizik na vektorima napada specifičnim za umjetnu inteligenciju (brza injekcija, nesiguran MCP, pretjerana agencija), ne samo ozbiljnost CVE.
- Radi kontinuirano, hvatajući novu umjetnu inteligenciju kako se pojavljuje.
- Izrađuje AI-BOM spreman za reviziju što zadovoljava i revizore i enterprise nabava.
- Povezuje inventar s provedbom, tako da možete djelovati na temelju onoga što pronađete.
Od inventara do akcije: osiguranje onoga što pronađete
Otkriće je prvi korak; drugi je razumijevanje koja imovina nosi stvarni rizik, jer većina neće. Cilj je prijeći s tisuća sirovih nalaza na nekoliko onih koji zapravo mogu ugroziti sustave, podatke ili operacije: one koje su u aktivnoj upotrebi, prihvaćaju nepouzdane unose, realno se mogu iskoristiti, imaju osjetljiv pristup i utječu na proizvodnju ili reguliranu imovinu.
Ovdje se koristi Upravljanje sigurnosnim položajem umjetne inteligencije (AI-SPM) preuzima: uzimanje inventara, bodovanje rizika duž putanje AI napada, mapiranje istog u propise i izrada AI-BOM-a. To je također mjesto gdje se inventar susreće s provedbom: blokiranje zlonamjernih ovisnosti prije instalacije, odbacivanje neodobrenih MCP poslužitelja i modela te zadržavanje kompromitiranih krajnjih točaka prije nego što se incident proširi.
At Xygeni, ovo je model prema kojem gradimo: kontinuirana AI inventarizacija i AI-BOM putem AI-SPM-a, otkrivanje zlonamjernog softvera koje hvata zlonamjerne pakete prije nego što postoji potpis (MEW, rano upozorenje na zlonamjerni softver) i provođenje pravila na krajnjoj točki razvojnog programera putem Xygeni Shielda. Detekcija je usklađena s OWASP Top 10 za LLM aplikacije, OWASP Top 10 za Agentic aplikacije i OWASP MCP Top 10. Ali koji god pristup odabrali, načelo vrijedi: Ne možete osigurati ono što ne možete vidjeti, a inventar umjetne inteligencije je mjesto gdje vidljivost počinje.
Pitanja i odgovori
Po čemu se AI-BOM razlikuje od SBOM?
An SBOM katalogizira ovisnosti softvera otvorenog koda i softvera trećih strana, bodovane prema ozbiljnosti CVE-a. AI-BOM katalogizira sredstva specifična za AI (modele, agente, MCP poslužitelje, skupove podataka) s bodovanjem rizika specifičnim za AI i regulatornim mapiranjem. Kako se AI širi po SDLC, AI-BOM postaje jednako temeljan kao i SBOM.
Što je shadow AI i kako ga otkriti?
Umjetna inteligencija u sjeni je svaka umjetna inteligencija usvojena bez formalnog odobrenja ili upravljanja: omogućeni kopilot, lokalni MCP poslužitelj, model preuzet iz javnog središta. Otkrivate je kontinuiranom automatiziranom inventarizacijom koja doseže do koda, izgradnje pipelinei krajnje točke za razvojne programere, ne samo produkcijski oblak gdje se većina umjetne inteligencije u sjeni nikada ne pojavljuje.
Zahtijeva li Zakon EU o umjetnoj inteligenciji popis umjetne inteligencije?
Zakon EU o umjetnoj inteligenciji ne spominje izričito „inventar umjetne inteligencije“, ali obveze dokumentiranja, klasifikacije i registracije za visokorizične sustave nemoguće je ispuniti bez njega. Isto vrijedi i za NIST AI RMF (funkcija mapiranja, Govern 1.6) i ISO/IEC 42001, koji zahtijeva održavanje inventara sustava umjetne inteligencije.
Što je AI-SPM?
Upravljanje sigurnosnim položajem umjetne inteligencije (AI-SPM) je praksa kontinuiranog otkrivanja AI sredstava, bodovanja njihovog rizika duž putanje AI napada, njihovog mapiranja u propise i izrade AI-BOM-a. Proširuje razmišljanje o upravljanju položajem (poznato iz CSPM-a i DSPM-a) na AI specifična sredstva i vektore napada.
Koliko često treba ažurirati inventar umjetne inteligencije?
Kontinuirano. AI sredstva se mijenjaju svakodnevno kako timovi usvajaju nove modele, implementiraju nove agente i konfiguriraju nove MCP poslužitelje, obično bez formalnog odobrenja. Skeniranje u određenom trenutku zastarijeva u roku od nekoliko dana, pa učinkovit softver za inventuru umjetne inteligencije funkcionira kao kontinuirani proces, a ne kao jednokratna revizija.
Kako mogu napraviti inventuru umjetne inteligencije korištene u izvornom kodu?
Inventarizacija umjetne inteligencije u kodu znači otkrivanje modela umjetne inteligencije i biblioteka preuzetih kao ovisnosti, pomoćnika za umjetnu inteligenciju u kodiranju konfiguriranih po programeru i MCP poslužitelja ili datoteka s pravilima koje se izvršavaju lokalno. To zahtijeva otkrivanje koje djeluje unutar SDLC (repozitoriji, izgradnja pipelinei krajnje točke za razvojne programere) a ne samo u konzolama u oblaku.
