An AI inventar je kontinuirano ažurirani katalog svake AI imovine koja se koristi u vašoj organizaciji — modeli, krajnje tačke pokretane vještačkom inteligencijom, skupovi podataka, asistenti za vještačko kodiranje, MCP serveri i zavisnosti od vještačke inteligencije — zajedno sa odnosima, rizicima i vlasnicima koji ih povezuju. U sigurnosnom kontekstu ovo nema nikakve veze sa upravljanjem skladištima ili zalihama; ovdje, "Inventar umjetne inteligencije" jednostavno znači znati tačno koju vještačku inteligenciju koristite, gdje se nalazi i šta može dosegnuti.
Kako se umjetna inteligencija širi kroz svaku fazu razvoja softvera, od generiranja koda u IDE-u do autonomnih agenata koji djeluju unutar CI/CD pipelines, pitanje više nije da li je vještačka inteligencija prisutna u vašem okruženju. Radi se o tome da li to možete vidjeti. Ovaj vodič objašnjava šta je AI inventar, kako se odnosi na AI-BOM i SBOM, zašto shadow AI postao je sigurnosni problem i kako se ta praksa preslikava na Zakon o veštačkoj inteligenciji EU, NIST AI RMF i ISO / IEC 42001.
Ključni postupci
- AI inventar katalogizira svaki model, skup podataka, agenta, MCP server i AI alat za kodiranje tokom životnog ciklusa vašeg softvera, ne samo one koje je IT odobrio.
- Shadow AI, VI usvojen bez upravljanja, sada je norma, a ne izuzetak: u jednom istraživanju sigurnosnih lidera iz 2026. godine, samo 19% organizacija je prijavilo potpuni uvid u to gdje i kako se koristi umjetna inteligencija.
- An AI-BOM (AI sastavnica materijala) je rezultat spreman za reviziju AI inventara: nasljednika iz ere AI-a SBOM.
- Regulativa stiže. Zakon EU o umjetnoj inteligenciji, NIST AI RMF i ISO/IEC 42001 efektivno zahtijevaju da znate koju umjetnu inteligenciju koristite.
- Inventar je samo početna tačka; vrijednost dolazi od bodovanja rizika i djelovanja na mali broj imovine koja je zaista važna.
Šta je AI inventar?
Inventar umjetne inteligencije (AI) je praksa otkrivanja, katalogiziranja i kontinuiranog praćenja svake AI imovine koja radi tokom životnog ciklusa razvoja softvera, kao i rizika povezanih sa svakom od njih. Potpuni inventar odgovara na tri pitanja za svaku imovinu: šta je to, gdje se pokreće i čemu može pristupiti?
Taj opseg je širi nego što većina timova očekuje. Smisleni popis vještačke inteligencije trebao bi obuhvatiti:
- modelisvaki veliki jezički model i osnovni model koji se koristi u razvoju i produkciji, sa pouzdanošću verzije, lokacije i detekcije.
- Skupovi podatakapodaci za obuku, skupovi podataka za pronalaženje i vektorska spremišta, uključujući izloženost kontaminiranom kontekstu i curenje podataka.
- agentiautonomni sistemi koji preduzimaju radnje u vašem okruženju, kao što je otvaranje pull requests, instaliranje zavisnosti ili dodirivanje infrastrukture.
- MCP serveri: Kontekstni protokol modela serveri koji povezuju AI asistente sa eksternim alatima, API-jima i izvorima podataka.
- Alati i asistenti za AI kodiranje: kopiloti i IDE integracije koje generiraju kod, predložiti zavisnosti i komunicirati s repozitorijima.
- Okviri umjetne inteligencijeLangChain, LangGraph, agentski serveri i drugi orkestracijski slojevi koji povezuju modele s alatima i podacima.
- Odnosi između imovine: veze između modela, agenata, servera, skupova podataka i tajni povezanih s njima. Grafikon odnosa čini rizik vidljivim u kontekstu, a ne kao ravnu listu.
Inventar umjetne inteligencije u odnosu na inventar imovine umjetne inteligencije u odnosu na AI-BOM i kako se razlikuju od SBOM
Ovi termini se koriste slobodno, tako da je korisno biti unaprijedcise. „Inventar umjetne inteligencije“ i „Inventar imovine umjetne inteligencije“ opisuju istu stvar.Živi katalog imovine umjetne inteligencije i njihovi rizici. AI-BOM je artefakt koji se može izvoziti, a koji proizvodi inventar.: mašinski čitljiv popis materijala koji možete predati revizoru ili enterprise kupac.
Najčistiji način za razumijevanje AI-BOM-a je analogija sa SBOM:
Kako se umjetna inteligencija ugrađuje svuda SDLC, AI-BOM postaje fundamentalan kao i SBOM, a lideri u oblasti sigurnosti sve češće primaju zahtjeve od revizora i enterprise timovi za nabavku upravo ovog artefakta.
Zašto je inventar umjetne inteligencije sada važan
Tri sile su pretvorile inventar umjetne inteligencije od nečega što je lijepo imati u prioritet.
- Prvo, vještačka inteligencija piše nesiguran kod u velikim količinama. Nezavisna istraživanja dosljedno pokazuju da veliki dio koda generiranog umjetnom inteligencijom dolazi s ranjivostima. Originalna studija NYU/Copilot koju su proveli Pearce i suradnici otkrila je otprilike 40% generiranih programa sadržavalo je sigurnosne propuste, a novija testiranja velikih razmjera ukazuju na isto: Veracodeova analiza iz 2025. godine na više od 100 modela pronašla je samo 55% koda generiranog umjetnom inteligencijom bilo je sigurnoAko ne znate koji asistenti generiraju kod u vašem pipelines, ne možete upravljati tim rizikom.
- Drugo, lanac snabdijevanja softverom postao je površina za napad umjetne inteligencije. U septembru 2025, Shai Hulud, prvi samorazmnožavajući npm crv, pretvorio je mašine programera u mehanizam distribucije, šireći se na stotine paketa. U martu 2026. godine, napadači su kompromitovali axios, paket sa otprilike 100 miliona sedmičnih preuzimanja, objavljujući zaražene verzije koje su spuštale trojanca za udaljeni pristup. Napadi poput ovih završavaju upravo u sloju između tradicionalnog AppSec-a i alata za krajnje tačke: sloju koji AI inventar treba da osvijetli.
- Treće, tajne i akreditivi cure kroz vještačku inteligenciju. GitGuardianov izvještaj o širenju State of Secrets 2026 izvijestio je da Curenje tajni o uslugama umjetne inteligencije poraslo je za 81% u odnosu na prethodnu godinu.i to uz pomoć umjetne inteligencije commits leak secrets otprilike dvostruko većom stopom od osnovne. Svaki nedokumentirani model, agent ili MCP server predstavlja potencijalni put do akreditacije.
Tradicionalni AppSec se zaustavlja na repozitorijumu i ne razumije šta je model. Alati za krajnje tačke prate operativni sistem, ali ne razumiju pakete, MCP servere ili AI asistente. Jaz između njih je mjesto gdje se akumulira AI rizik, a inventar je prvi korak ka njegovom zatvaranju.
Gdje se krije umjetna inteligencija: Sjenka umjetne inteligencije širom SDLC
Shadow AI Da li je bilo koji AI sistem usvojen bez formalnog odobrenja ili upravljanja: kopilot kojeg je programer omogućio prošle sedmice, MCP server koji radi na laptopu, model direktno preuzet iz javnog centra u sporedni projekat. To nije granični slučaj. U anketi iz 2026. godine, provedenoj na više od 400 lidera u oblasti sigurnosti, samo 19% je izjavilo da ima potpuni uvid u to gdje i kako se koristi vještačka inteligencija u cijeloj svojoj organizaciji, dok je velika većina već koristila ili pilotirala asistente za kodiranje zasnovane na umjetnoj inteligenciji.
Najteže pronaći shadow AI je onaj unutar životnog ciklusa softvera, jer se rijetko pojavljuje u cloud konzoli:
- Modeli i AI biblioteke povučene su u repozitorije kao zavisnosti.
- AI asistenti za kodiranje konfigurirani po programeru, po IDE-u.
- MCP serveri i datoteke pravila koje se izvršavaju lokalno na krajnjim tačkama programera.
- Tiho otvaranje radnih procesa agenata pull requests ili instaliranje paketa.
Zato otkrivanje samo u oblaku nije dovoljno. Zaista potpuni inventar umjetne inteligencije mora dosegnuti kod i okruženja za izgradnju (laptop programera, repozitorij, pipeline), ne samo produkcijski oblak.
Šta pripada AI-BOM-u
AI-BOM spreman za reviziju pretvara vaš inventar u nešto što možete dokazati. Minimalno bi trebao uključivati:
- Svaka AI imovina: modeli, skupovi podataka, agenti, MCP serveri, alati za AI kodiranje.
- Vrsta imovine, lokacija i pouzdanost detekcije za svaku.
- Porijeklo i zavisnosti (odakle model ili komponenta potiču).
- Nivo rizika po imovini, zasnovan na vektorima napada specifičnim za vještačku inteligenciju.
- Mapiranje propisa u skladu sa Zakonom EU o umjetnoj inteligenciji, NIST AI RMF i ISO/IEC 42001.
- Izvoziv, mašinski čitljiv format za revizore i kupce.
Organizacije koje mogu generirati AI-BOM na zahtjev imat će stvarnu prednost u skladu s propisima i povjerenju kako obaveze revizije umjetne inteligencije budu sazrijevale.
Inventar umjetne inteligencije i usklađenost: Zakon EU o umjetnoj inteligenciji, NIST AI RMF i ISO/IEC 42001
Nijedan od glavnih okvira ne imenuje "AI inventar" kao stavku, ali svaki od njih je praktično nemoguće zadovoljiti bez njega. Ne možete dokumentirati, klasificirati ili upravljati AI sistemima koje ne možete vidjeti.
Napomena o vremenu: uvođenje Zakona EU o umjetnoj inteligenciji revidirano je sporazumom „Digital Omnibus“ iz maja 2026. godine, kojim je većina visokorizičnih obaveza odgođena do decembra 2027. godine, dok je nekoliko ključnih ciljeva od 2. augusta 2026. godine (dužnosti transparentnosti, ovlaštenja za kažnjavanje GPAI) zadržano na snazi. Tačne datume treba tretirati kao pokretnu metu i potvrditi ih u odnosu na primarne izvore EU. Ali smjer kretanja je jasan, a inventar je preduslov za sve to.
Kako kreirati i održavati AI inventar
Izrada inventara manje se svodi na jednokratnu reviziju, a više na uspostavljanje kontinuiranog procesa, jer se AI sredstva stalno mijenjaju: usvajaju se novi modeli, raspoređuju se novi agenti, konfiguriraju se novi MCP serveri, često bez odobrenja.
Praktičan pristup:
- Automatsko otkrivanje u kodu, izgradnji i oblaku. Ručno unesene proračunske tablice zastarevaju u roku od nekoliko dana. Discovery mora raditi kontinuirano i dosezati SDLC, ne samo vrijeme izvođenja.
- Klasifikujte i mapirajte odnose. Zabilježite vrstu, lokaciju, porijeklo i, što je ključno, kako je svaka imovina povezana s drugima i s tajnama.
- Rizik bodovanja u kontekstu. Jednostavna lista od stotina nalaza nikome ne pomaže; prioritizirajte ono što je zapravo dostupno, iskoristivo i poslovno kritično.
- Dodijeli vlasništvo. Svaka imovina treba odgovornog vlasnika.
- Održite ga aktivnim i pogodnim za izvoz. Održavajte ga kao kontinuirani inventar koji može generirati AI-BOM na zahtjev.
Šta tražiti u softveru za AI inventarizaciju
Ako procjenjujete alate, ovo su mogućnosti koje razlikuju originalni softver za inventar umjetne inteligencije od statičke liste:
- Razumije tipove imovine specifične za umjetnu inteligenciju (modeli, agenti, MCP serveri, skupovi podataka), ne samo paketi i biblioteke.
- Doseže u SDLC, otkrivajući vještačku inteligenciju u kodu i na krajnjim tačkama programera, ne samo u oblaku.
- Odnosi na mapama, ne samo pojedinačna imovina, tako da je rizik vidljiv u kontekstu.
- Ocjenjuje rizik na vektorima napada specifičnim za umjetnu inteligenciju (brza injekcija, nesiguran MCP, pretjerana agencija), ne samo ozbiljnost CVE.
- Radi kontinuirano, hvatajući novu vještačku inteligenciju onako kako se pojavljuje.
- Izrađuje AI-BOM spreman za reviziju što zadovoljava i revizore i enterprise nabavke.
- Povezuje inventar sa sprovođenjem zakona, tako da možete djelovati na osnovu onoga što pronađete.
Od inventara do akcije: osiguranje onoga što pronađete
Otkriće je prvi korak; drugi je razumijevanje koja imovina nosi stvarni rizik, jer većina neće. Cilj je preći sa hiljada sirovih nalaza na nekoliko onih koji zapravo mogu ugroziti sisteme, podatke ili operacije: one koje su u aktivnoj upotrebi, prihvataju nepouzdane unose, realno se mogu iskoristiti, imaju osjetljiv pristup i utiču na proizvodnju ili regulisanu imovinu.
Ovdje se primjenjuje Upravljanje sigurnosnim položajem umjetne inteligencije (AI-SPM) preuzima: uzimanje inventara, bodovanje rizika duž putanje AI napada, mapiranje istog u propise i izrada AI-BOM-a. To je također mjesto gdje se inventar susreće s provođenjem zakona: blokiranje zlonamjernih zavisnosti prije njihove instalacije, odbacivanje neodobrenih MCP servera i modela i ograničavanje kompromitovanih krajnjih tačaka prije nego što se incident proširi.
At Xygeni, ovo je model koji gradimo prema: kontinuiranoj AI inventarizaciji i AI-BOM putem AI-SPM-a, detekciji zlonamjernog softvera koja hvata zlonamjerne pakete prije nego što postoji potpis (MEW, rano upozorenje na zlonamjerni softver), i sprovođenje politika na krajnjoj tački programera putem Xygeni Shielda. Detekcija je usklađena sa OWASP Top 10 za LLM aplikacije, OWASP Top 10 za Agentic aplikacije i OWASP MCP Top 10. Ali koji god pristup da odaberete, princip važi: Ne možete osigurati ono što ne možete vidjeti, a inventar umjetne inteligencije je mjesto gdje vidljivost počinje.
Pitanja i odgovori
Po čemu se AI-BOM razlikuje od SBOM?
An SBOM katalogizira zavisnosti od softvera otvorenog koda i softvera trećih strana, bodovane prema ozbiljnosti CVE. AI-BOM katalogizira sredstva specifična za AI (modele, agente, MCP servere, skupove podataka) sa bodovanjem rizika specifičnim za AI i regulatornim mapiranjem. Kako se AI širi po SDLC, AI-BOM postaje fundamentalan kao i SBOM.
Šta je shadow AI i kako da ga otkrijem?
Shadow AI je bilo koja AI usvojena bez formalnog odobrenja ili upravljanja: omogućeni kopilot, lokalni MCP server, model izvučen iz javnog čvorišta. Otkrivate je kontinuiranom automatiziranom inventarizacijom koja doseže do koda, izgradnje... pipelinei krajnje tačke za razvojne programere, ne samo produkcijski oblak gdje se većina shadow AI nikada ne pojavljuje.
Da li Zakon EU o umjetnoj inteligenciji zahtijeva popis umjetne inteligencije?
Zakon EU o umjetnoj inteligenciji ne imenuje eksplicitno "inventar umjetne inteligencije", ali je nemoguće ispuniti obaveze dokumentiranja, klasifikacije i registracije za visokorizične sisteme bez njega. Isto važi i za NIST AI RMF (Map funkcija, Govern 1.6) i ISO/IEC 42001, koji zahtijeva održavanje inventara sistema umjetne inteligencije.
Šta je AI-SPM?
Upravljanje sigurnosnim pozicijama umjetne inteligencije (AI-SPM) je praksa kontinuiranog otkrivanja AI sredstava, bodovanja njihovog rizika duž putanje AI napada, njihovog mapiranja u propise i izrade AI-BOM-a. Proširuje razmišljanje o upravljanju pozicijama (poznato iz CSPM-a i DSPM-a) na sredstva i vektore napada specifične za umjetnu inteligenciju.
Koliko često treba ažurirati inventar umjetne inteligencije?
Neprekidno. AI sredstva se mijenjaju svakodnevno kako timovi usvajaju nove modele, raspoređuju nove agente i konfigurišu nove MCP servere, obično bez formalnog odobrenja. Skeniranje u određenom trenutku zastarijeva u roku od nekoliko dana, tako da efikasan softver za AI inventar funkcioniše kao kontinuirani proces, a ne kao jednokratna revizija.
Kako da napravim inventuru vještačke inteligencije korištene u izvornom kodu?
Inventarizacija umjetne inteligencije u kodu znači otkrivanje modela umjetne inteligencije i biblioteka preuzetih kao zavisnosti, asistenata za umjetnu inteligenciju kodiranih po programeru i MCP servera ili datoteka s pravilima koje se izvršavaju lokalno. Ovo zahtijeva otkrivanje koje funkcionira unutar SDLC (repozitorije, izgradnja pipelinei krajnje tačke za razvojne programere) a ne samo u konzolama u oblaku.
