An Inwentarz AI jest stale aktualizowanym katalogiem wszystkich zasobów sztucznej inteligencji działających w Twojej organizacji — modele, punkty końcowe obsługiwane przez sztuczną inteligencję, zestawy danych, asystenci kodowania AI, serwery MCP i zależności AI — wraz z relacjami, ryzykami i właścicielami, którzy je łączą. W kontekście bezpieczeństwa nie ma to nic wspólnego z zarządzaniem magazynem czy zapasami; tutaj „Inwentarz AI” oznacza po prostu, że dokładnie wiesz, jaką sztuczną inteligencję uruchamiasz, gdzie się ona znajduje i co może osiągnąć.
W miarę jak sztuczna inteligencja rozprzestrzenia się na każdym etapie rozwoju oprogramowania, od generowania kodu w środowisku IDE po autonomicznych agentów działających w jego obrębie, CI/CD pipelinePytanie nie brzmi już, czy sztuczna inteligencja jest obecna w Twoim otoczeniu. Ważne, czy potrafisz to zobaczyć. W tym przewodniku wyjaśniono, czym jest inwentarz sztucznej inteligencji i jaki ma związek z AI-BOM oraz SBOM, czemu sztuczna inteligencja cieni stało się problemem bezpieczeństwa i w jaki sposób praktyka ta odnosi się do Ustawa UE o sztucznej inteligencji, NIST AI RMF oraz ISO / IEC 42001.
Kluczowe dania na wynos
- Inwentarz AI kataloguje każdy model, zestaw danych, agenta, serwer MCP i narzędzie do kodowania AI w całym cyklu życia oprogramowania, a nie tylko te zatwierdzone przez dział IT.
- Sztuczna inteligencja cieni, sztuczna inteligencja przyjęta bez zarządzania jest obecnie normą, a nie wyjątkiem: w jednym badaniu liderów bezpieczeństwa przeprowadzonym w 2026 r. tylko 19% organizacji zgłosiło pełną przejrzystość tego, gdzie i jak wykorzystywana jest sztuczna inteligencja.
- An AI-BOM (zestawienie materiałów AI) jest gotowym do audytu wynikiem inwentaryzacji AI: następcą ery AI SBOM.
- Nadchodzą regulacje. Ustawa UE o sztucznej inteligencji (AI), NIST AI RMF i norma ISO/IEC 42001 wymagają od Ciebie wiedzy na temat tego, jaką sztuczną inteligencję obsługujesz.
- Inwentaryzacja to dopiero początek; wartość bierze się z oceny ryzyka i działania w oparciu o niewielką liczbę aktywów, które naprawdę mają znaczenie.
Czym jest inwentaryzacja AI?
Inwentaryzacja AI to proces polegający na odkrywaniu, katalogowaniu i ciągłym monitorowaniu każdego zasobu AI działającego w całym cyklu rozwoju oprogramowania oraz ryzyka związanego z każdym z nich. Pełna inwentaryzacja odpowiada na trzy pytania dotyczące każdego zasobu: czym on jest, gdzie jest uruchamiany i do czego ma dostęp?
Zakres ten jest szerszy, niż większość zespołów się spodziewa. Sensowny inwentarz sztucznej inteligencji powinien obejmować:
- modele:każdy duży model językowy i model podstawowy używany w procesach rozwoju i produkcji, z zapewnieniem pewności co do wersji, lokalizacji i wykrywania.
- Zbiory danych: dane szkoleniowe, zestawy danych wyszukiwania i magazyny wektorów, w tym narażenie na zatruty kontekst i wyciek danych.
- Agenci:autonomiczne systemy podejmujące działania w Twoim otoczeniu, takie jak otwieranie pull requests, instalowanie zależności lub modyfikowanie infrastruktury.
- Serwery MCP: Protokół kontekstu modelu serwery łączące asystentów AI z zewnętrznymi narzędziami, interfejsami API i źródłami danych.
- Narzędzia i asystenci kodowania AI: drugich pilotów i integracji IDE generujących kod, sugerować zależności i wchodzić w interakcje z repozytoriami.
- Ramy sztucznej inteligencji:LangChain, LangGraph, serwery agentów i inne warstwy orkiestracji, które łączą modele z narzędziami i danymi.
- Relacje między aktywami: Połączenia między modelami, agentami, serwerami, zbiorami danych i powiązanymi z nimi sekretami. Graf relacji uwidacznia ryzyko w kontekście, a nie jako płaską listę.
Inwentaryzacja AI w porównaniu z inwentaryzacją zasobów AI i AI-BOM oraz czym się różnią od SBOM
Terminy te są używane swobodnie, dlatego warto być przygotowanymcise. „Inwentaryzacja AI” i „inwentaryzacja zasobów AI” opisują to samo:żywy katalog zasobów sztucznej inteligencji i związanych z nimi zagrożeń. AI-BOM to eksportowalny artefakt generowany przez inwentaryzację: maszynowo czytelny wykaz materiałów, który można przekazać audytorowi lub enterprise kupujący.
Najczystszym sposobem zrozumienia AI-BOM jest analogia do SBOM:
W miarę jak sztuczna inteligencja staje się coraz bardziej powszechna, SDLC, AI-BOM staje się tak fundamentalny jak SBOM, a liderzy ds. bezpieczeństwa coraz częściej otrzymują prośby od audytorów i enterprise zespołów ds. zaopatrzenia, które będą odpowiedzialne za dokładnie ten artefakt.
Dlaczego inwentaryzacja AI ma teraz znaczenie
Trzy siły sprawiły, że inwentaryzacja sztucznej inteligencji przestała być czymś przyjemnym, a stała się priorytetem.
- Po pierwsze, sztuczna inteligencja pisze niebezpieczny kod na dużą skalę. Niezależne badania konsekwentnie wskazują, że duża część kodu generowanego przez sztuczną inteligencję zawiera luki w zabezpieczeniach. Oryginalne badanie NYU/Copilot przeprowadzone przez Pearce'a i in. wykazało ok. 40% wygenerowanych programów zawierało luki w zabezpieczeniachi nowsze testy na dużą skalę wskazują na to samo: analiza Veracode z 2025 r. obejmująca ponad 100 modeli wykazała, że tylko 55% kodu generowanego przez sztuczną inteligencję było bezpieczne. Jeśli nie wiesz, którzy asystenci generują kod w Twoim pipelines, nie możesz kontrolować tego ryzyka.
- Po drugie, łańcuch dostaw oprogramowania stał się powierzchnią ataku na sztuczną inteligencję. We wrześniu 2025, Shai Hulud, pierwszy samonapędzający się robak NPM, przekształcił komputery programistów w mechanizm dystrybucji, rozprzestrzeniając się na setki pakietów. W marcu 2026 roku atakujący przejęli kontrolę nad aksjos, pakiet zawierający około 100 miliona pobrań tygodniowopublikując zatrute wersje, które umieścili trojana umożliwiającego zdalny dostęp. Ataki takie jak te trafiają dokładnie na warstwę pomiędzy tradycyjnym AppSec a narzędziami do obsługi punktów końcowych: warstwę, którą sztuczna inteligencja ma na celu oświetlić.
- Po trzecie, za pośrednictwem sztucznej inteligencji dochodzi do wycieku poufnych informacji i danych uwierzytelniających. Raport GitGuardian State of Secrets Sprawl 2026 donosi, że wycieki tajemnic usług AI wzrosły o 81% w porównaniu z rokiem poprzednimi wspomagane przez sztuczną inteligencję commits leak secrets z szybkością około dwukrotnie wyższą niż bazowa. Każdy nieudokumentowany model, agent lub serwer MCP to potencjalna ścieżka do poświadczenia.
Tradycyjny system AppSec zatrzymuje się na repozytorium i nie rozumie, czym jest model. Narzędzia punktów końcowych monitorują system operacyjny, ale nie rozumieją pakietów, serwerów MCP ani asystentów AI. Luka między nimi to miejsce, w którym kumuluje się ryzyko związane z AI, a inwentaryzacja to pierwszy krok do jego likwidacji.
Gdzie ukrywa się sztuczna inteligencja: Cień sztucznej inteligencji w całym SDLC
Sztuczna inteligencja cieni Czy jakikolwiek system AI jest wdrażany bez formalnej zgody lub nadzoru: drugi pilot, którego programista włączył w zeszłym tygodniu, serwer MCP działający na laptopie, model pobrany bezpośrednio z publicznego huba do projektu pobocznego. To nie jest przypadek skrajny. W badaniu przeprowadzonym w 2026 roku wśród ponad 400 liderów ds. bezpieczeństwa, tylko 19% respondentów stwierdziło, że ma pełną widoczność tego, gdzie i jak wykorzystywana jest sztuczna inteligencja w całej swojej organizacji, podczas gdy zdecydowana większość już używała lub testowała asystentów kodujących AI.
Najtrudniejszą do znalezienia sztuczną inteligencją typu shadow jest ta działająca w cyklu życia oprogramowania, ponieważ rzadko pojawia się ona w konsoli chmurowej:
- Modele i biblioteki sztucznej inteligencji wciągane do repozytoriów jako zależności.
- Asystenci kodowania AI konfigurowani dla każdego programisty i środowiska IDE.
- Serwery MCP i pliki reguł działające lokalnie na punktach końcowych deweloperów.
- Przepływy pracy agentów otwierają się cicho pull requests lub instalowania pakietów.
Dlatego samo wyszukiwanie w chmurze nie wystarczy. Prawdziwie kompletny inwentarz sztucznej inteligencji musi obejmować kod i środowiska kompilacji (laptop programisty, repozytorium, pipeline), nie tylko chmura produkcyjna.
Co należy uwzględnić w AI-BOM
Gotowy do audytu AI-BOM zmienia Twój inwentarz w coś, co możesz udowodnić. Powinien on zawierać co najmniej:
- Wszystkie zasoby AI: modele, zestawy danych, agenci, serwery MCP, narzędzia do kodowania AI.
- Rodzaj zasobu, lokalizacja i pewność wykrycia dla każdego z nich.
- Pochodzenie i zależności (skąd pochodzi model lub komponent).
- Poziom ryzyka dla każdego zasobu, oparty na wektorach ataków specyficznych dla sztucznej inteligencji.
- Mapowanie przepisów do ustawy UE o sztucznej inteligencji, wytycznych NIST AI RMF i normy ISO/IEC 42001.
- Eksportowy, maszynowo czytelny format dla audytorów i klientów.
Organizacje, które mogą generować AI-BOM na żądanie, zyskają realną przewagę w zakresie zgodności i zaufania, gdy tylko zaczną obowiązywać obowiązki związane z audytem AI.
Inwentaryzacja i zgodność ze sztuczną inteligencją: ustawa UE o sztucznej inteligencji, wytyczne NIST AI RMF i norma ISO/IEC 42001
Żadna z głównych struktur nie wymienia „inwentaryzacji AI” jako pozycji, ale bez niej praktycznie nie da się jej zrealizować. Nie da się dokumentować, klasyfikować ani zarządzać systemami AI, których nie widać.
Uwaga dotycząca harmonogramu: wdrożenie unijnej ustawy o sztucznej inteligencji (AI) zostało zmienione przez porozumienie „Digital Omnibus” z maja 2026 r., które odroczyło realizację większości zobowiązań wysokiego ryzyka do grudnia 2027 r., jednocześnie utrzymując kilka kluczowych terminów na 2 sierpnia 2026 r. (obowiązki dotyczące przejrzystości, uprawnienia do nakładania kar za naruszenie przepisów dotyczących sztucznej inteligencji (GPAI). Dokładne daty należy traktować jako cel ruchomy i potwierdzać je w oparciu o podstawowe źródła UE. Kierunek zmian jest jednak jasny, a inwentaryzacja jest warunkiem wstępnym dla wszystkich działań.
Jak zbudować i utrzymać inwentarz AI
Tworzenie inwentarza to nie tyle kwestia jednorazowego audytu, co raczej ustanowienia ciągłego procesu, ponieważ zasoby sztucznej inteligencji zmieniają się nieustannie: przyjmowane są nowe modele, wdrażani są nowi agenci, konfigurowane są nowe serwery MCP, często bez zatwierdzenia.
Podejście praktyczne:
- Automatyczne wykrywanie kodu, kompilacji i chmury. Ręczne arkusze kalkulacyjne tracą aktualność w ciągu kilku dni. Discovery musi działać nieprzerwanie i sięgać do SDLC, nie tylko środowisko wykonawcze.
- Klasyfikuj i mapuj relacje. Typ rekordu, lokalizacja, pochodzenie i, co najważniejsze, sposób, w jaki każdy zasób jest powiązany z innymi i z tajemnicami.
- Ocena ryzyka w kontekście. Płaska lista setek ustaleń nikomu nie pomoże; ustal priorytety według tego, co jest faktycznie osiągalne, możliwe do wykorzystania i ma krytyczne znaczenie dla firmy.
- Przypisz własność. Każdy majątek potrzebuje odpowiedzialnego właściciela.
- Utrzymaj je w wersji aktywnej i eksportowej. Utrzymuj go jako ciągły zapas, który może na żądanie wygenerować AI-BOM.
Na co zwrócić uwagę przy wyborze oprogramowania do inwentaryzacji AI
Jeśli oceniasz narzędzia, oto możliwości, które odróżniają prawdziwe oprogramowanie do inwentaryzacji AI od statycznej listy:
- Rozumie typy zasobów specyficzne dla sztucznej inteligencji (modele, agenci, serwery MCP, zestawy danych), a nie tylko pakiety i biblioteki.
- Dociera do SDLC, odkrywanie sztucznej inteligencji w kodzie i na punktach końcowych programistów, nie tylko w chmurze.
- Relacje map, a nie tylko pojedynczych aktywów, dzięki czemu ryzyko jest widoczne w kontekście.
- Ocenia ryzyko związane z wektorami ataków specyficznymi dla sztucznej inteligencji (szybkie wstrzyknięcie, niezabezpieczony MCP, nadmierna ingerencja), a nie tylko powaga CVE.
- Działa w sposób ciągły, wyłapując nową sztuczną inteligencję, gdy tylko się pojawi.
- Tworzy gotowy do audytu AI-BOM który zadowala zarówno audytorów, jak i enterprise nabywanie.
- Łączy inwentarz z egzekwowaniem, dzięki czemu możesz podjąć działania na podstawie tego, co odkryjesz.
Od inwentaryzacji do działania: zabezpieczanie tego, co znajdziesz
Pierwszym krokiem jest odkrycie; drugim jest zrozumienie, które zasoby niosą ze sobą realne ryzyko, ponieważ większość z nich nie będzie. Celem jest przejście od tysięcy surowych ustaleń do garstki, która może faktycznie zagrozić systemom, danym lub operacjom: tych, które są aktywnie używane, akceptują niezaufane dane wejściowe, są realistycznie podatne na eksploatację, posiadają poufny dostęp i wpływają na zasoby produkcyjne lub regulowane.
W tym miejscu pojawia się kwestia zarządzania postawą bezpieczeństwa AI (AI-SPM) rozpoczyna się: inwentaryzacja, ocena ryzyka na ścieżce ataku AI, mapowanie go na regulacje i generowanie AI-BOM. To również miejsce, w którym inwentaryzacja spotyka się z egzekwowaniem: blokowanie złośliwych zależności przed ich instalacją, odrzucanie niezatwierdzonych serwerów i modeli MCP oraz powstrzymywanie zainfekowanych punktów końcowych przed rozprzestrzenieniem się incydentu.
At Xygeni, to jest model, w którym zmierzamy: ciągła inwentaryzacja AI i AI-BOM poprzez AI-SPM, wykrywanie złośliwego oprogramowania, które wychwytuje złośliwe pakiety zanim powstanie ich sygnatura (MEW, wczesne ostrzeganie przed złośliwym oprogramowaniem) oraz egzekwowanie zasad na poziomie punktu końcowego programisty za pośrednictwem Xygeni Shield. Wykrywanie jest zgodne z listami OWASP Top 10 for LLM Applications, OWASP Top 10 for Agentic Apps i OWASP MCP Top 10. Niezależnie od wybranego podejścia, zasada pozostaje taka sama: nie można zabezpieczyć czegoś, czego nie widać, a inwentaryzacja AI jest punktem wyjścia do zapewnienia widoczności.
FAQ
Czym różni się AI-BOM od SBOM?
An SBOM Kataloguje zależności oprogramowania open source i oprogramowania firm trzecich, oceniane według ważności CVE. AI-BOM kataloguje zasoby specyficzne dla AI (modele, agentów, serwery MCP, zestawy danych) wraz z oceną ryzyka i mapowaniem regulacyjnym specyficznym dla AI. W miarę rozprzestrzeniania się AI w SDLC, AI-BOM staje się tak fundamentalny jak SBOM.
Czym jest sztuczna inteligencja typu shadow AI i jak ją odkryć?
Shadow AI to każda sztuczna inteligencja wdrożona bez formalnej zgody lub nadzoru: włączony drugi pilot, lokalny serwer MCP, model pobrany z publicznego huba. Odkryjesz to dzięki ciągłej, zautomatyzowanej inwentaryzacji, która sięga do kodu i kompilacji. pipelinei punktów końcowych dla programistów, a nie tylko w chmurze produkcyjnej, gdzie większość ukrytych rozwiązań AI nigdy się nie pojawia.
Czy ustawa UE o sztucznej inteligencji wymaga sporządzenia inwentarza sztucznej inteligencji?
Ustawa UE o sztucznej inteligencji (AI) nie wymienia wprost terminu „inwentaryzacja AI”, ale bez niej nie da się spełnić obowiązków związanych z dokumentacją, klasyfikacją i rejestracją systemów wysokiego ryzyka. To samo dotyczy NIST AI RMF (funkcja Map, Govern 1.6) i normy ISO/IEC 42001, która wymaga prowadzenia inwentaryzacji systemów AI.
Czym jest AI-SPM?
Zarządzanie postawą bezpieczeństwa AI (AI-SPM) to praktyka ciągłego wykrywania zasobów AI, oceny ich ryzyka w kontekście ścieżki ataku AI, mapowania ich na regulacje i tworzenia listy zasobów AI-BOM. Rozszerza ona myślenie oparte na zarządzaniu postawą (znane z CSPM i DSPM) na zasoby i wektory ataków specyficzne dla AI.
Jak często należy aktualizować inwentarz sztucznej inteligencji?
Ciągły. Zasoby AI zmieniają się codziennie, ponieważ zespoły wdrażają nowe modele, wdrażają nowych agentów i konfigurują nowe serwery MCP, zazwyczaj bez formalnego zatwierdzenia. Skanowanie punktowe jest nieaktualne w ciągu kilku dni, dlatego skuteczne oprogramowanie do inwentaryzacji AI działa w ramach ciągłego procesu, a nie jednorazowego audytu.
Jak mogę zinwentaryzować sztuczną inteligencję użytą w kodzie źródłowym?
Inwentaryzacja AI w kodzie oznacza wykrywanie modeli i bibliotek AI pobranych jako zależności, asystentów kodowania AI skonfigurowanych dla każdego programisty oraz serwerów MCP lub plików reguł działających lokalnie. Wymaga to wykrywania, które działa wewnątrz SDLC (repozytoria, kompilacja pipelinei punktach końcowych dla programistów), a nie tylko w konsolach w chmurze.
