An Інвентарызацыя штучнага інтэлекту гэта пастаянна абнаўляемы каталог усіх рэсурсаў штучнага інтэлекту, якія працуюць у вашай арганізацыі — мадэлі, канчатковыя кропкі на базе штучнага інтэлекту, наборы дадзеных, памочнікі кадавання на базе штучнага інтэлекту, серверы MCP і залежнасці ад штучнага інтэлекту — разам з адносінамі, рызыкамі і ўладальнікамі, якія іх звязваюць. У кантэксце бяспекі гэта не мае нічога агульнага з кіраваннем складам або запасамі; тут, "Інвентарызацыя штучнага інтэлекту" проста азначае дакладна ведаць, які штучны інтэлект вы выкарыстоўваеце, дзе ён знаходзіцца і чаго можа дасягнуць.
Па меры таго, як штучны інтэлект распаўсюджваецца на кожным этапе распрацоўкі праграмнага забеспячэння, ад генерацыі кода ў IDE да дзеяння аўтаномных агентаў унутры... CI/CD pipelines, пытанне ўжо не ў тым, ці прысутнічае штучны інтэлект у вашым асяроддзі. Гэта пытанне таго, ці можаце вы гэта ўбачыць. У гэтым кіраўніцтве тлумачыцца, што такое інвентарызацыя штучнага інтэлекту, як яна звязана з ШІ-BOM і SBOM, чаму ценявы штучны інтэлект стала праблемай бяспекі, і як гэтая практыка адпавядае Закон аб AI ЕС, NIST AI RMF і ISO / IEC 42001.
Ключавыя вынасы
- Інвентарызацыя штучнага інтэлекту каталагізуе кожную мадэль, набор дадзеных, агента, сервер MCP і інструмент кадавання штучнага інтэлекту на працягу ўсяго жыццёвага цыклу праграмнага забеспячэння, а не толькі тыя, што зацверджаны ІТ-аддзелам.
- Цень ІІШтучны інтэлект, укаранёны без кіравання, цяпер з'яўляецца нормай, а не выключэннем: у адным апытанні кіраўнікоў сферы бяспекі, праведзеным у 2026 годзе, толькі 19% арганізацый паведамілі пра поўную бачнасць таго, дзе і як выкарыстоўваецца штучны інтэлект.
- An AI-BOM (спецыфікацыя матэрыялаў на аснове штучнага інтэлекту) гэта гатовы да аўдыту вынік інвентарызацыі штучнага інтэлекту: пераемнік эпохі штучнага інтэлекту SBOM.
- Рэгуляванне ўжо набліжаецца. Закон ЕС аб штучным інтэлекце, стандарты NIST AI RMF і ISO/IEC 42001 фактычна патрабуюць ад вас ведаць, з якім штучным інтэлектам вы працуеце.
- Інвентарызацыя — гэта толькі адпраўная кропка; каштоўнасць вынікае з ацэнкі рызыкі і дзеянняў у дачыненні да невялікай колькасці актываў, якія сапраўды маюць значэнне.
Што такое інвентарызацыя са штучным інтэлектам?
Інвентарызацыя штучнага інтэлекту — гэта практыка выяўлення, каталагізацыі і пастаяннага маніторынгу кожнага актыву штучнага інтэлекту, які працуе на працягу ўсяго жыццёвага цыклу распрацоўкі праграмнага забеспячэння, а таксама рызык, звязаных з кожным з іх. Поўная інвентарызацыя адказвае на тры пытанні для кожнага актыву: што гэта такое, дзе ён працуе і да чаго ён можа атрымаць доступ?
Гэты ахоп шырэйшы, чым чакае большасць каманд. Змястоўны інвентар штучнага інтэлекту павінен ахопліваць:
- мадэлі: кожная буйная моўная мадэль і базавая мадэль, якая выкарыстоўваецца ў распрацоўцы і вытворчасці, з упэўненасцю ў версіі, месцазнаходжанні і выяўленні.
- Datasets: навучальныя дадзеныя, наборы дадзеных для пошуку і вектарныя сховішчы, у тым ліку ўздзеянне атручанага кантэксту і ўцечка дадзеных.
- Агентыаўтаномныя сістэмы, якія выконваюць дзеянні ў вашым асяроддзі, такія як адкрыццё pull requests, усталёўваючы залежнасці або дакранаючыся да інфраструктуры.
- Серверы MCP: Пратакол мадэльнага кантэксту серверы, якія падключаюць памочнікаў штучнага інтэлекту да знешніх інструментаў, API і крыніц дадзеных.
- Інструменты і памочнікі кадавання штучнага інтэлекту: інтэграцыі з Copilots і IDE, якія генеруюць код, прапаноўваць залежнасці і ўзаемадзейнічаць з рэпазіторыямі.
- Фрэймворкі штучнага інтэлектуLangChain, LangGraph, серверы агентаў і іншыя ўзроўні аркестрацыі, якія злучаюць мадэлі з інструментамі і дадзенымі.
- Сувязі паміж актывамі: сувязі паміж мадэлямі, агентамі, серверамі, наборамі дадзеных і звязанымі з імі сакрэтамі. Граф адносін робіць рызыку бачнай у кантэксце, а не ў выглядзе плоскага спісу.
Інвентарызацыя штучнага інтэлекту супраць інвентарызацыі актываў штучнага інтэлекту супраць AI-BOM, і чым яны адрозніваюцца ад SBOM
Гэтыя тэрміны выкарыстоўваюцца ў вольным сэнсе, таму лепш загадзяcise. «Інвентарызацыя штучнага інтэлекту» і «інвентарызацыя актываў штучнага інтэлекту» апісваюць адно і тое ж.: жывы каталог актываў штучнага інтэлекту і іх рызык. AI-BOM — гэта экспартны артэфакт, які вырабляе інвентармашыначытэльная спецыфікацыя матэрыялаў, якую вы можаце перадаць аўдытару або enterprise пакупнік.
Найлепшы спосаб зразумець AI-BOM — гэта па аналогіі з SBOM:
Па меры таго, як штучны інтэлект укараняецца паўсюль SDLC, AI-BOM становіцца такім жа фундаментальным, як і SBOMі кіраўнікі службаў бяспекі ўсё часцей атрымліваюць запыты ад аўдытараў і enterprise каманды па закупках менавіта гэтага артэфакта.
Чаму інвентарызацыя штучнага інтэлекту важная зараз
Тры сілы ператварылі інвентар штучнага інтэлекту з прыемнага ў прыярытэт.
- Па-першае, штучны інтэлект піша небяспечны код у вялікіх маштабах. Незалежныя даследаванні паслядоўна паказваюць, што значная доля кода, створанага штучным інтэлектам, мае ўразлівасці. Арыгінальнае даследаванне NYU/Copilot, праведзенае Пірсам і інш., паказала прыблізна 40% згенераваных праграм утрымлівалі ўразлівасці бяспекі, і больш познія маштабныя выпрабаванні паказваюць тое ж самае: аналіз Veracode за 2025 год па больш чым 100 мадэлях выявіў толькі 55% кода, створанага штучным інтэлектам, быў бяспечнымКалі вы не ведаеце, якія памочнікі генеруюць код у вашым pipelines, вы не можаце кіраваць гэтай рызыкай.
- Па-другое, ланцужок паставак праграмнага забеспячэння стаў пляцоўкай для атакі штучнага інтэлекту. У верасні 2025, Шай-Хулуд, першы самараспаўсюджвальны чарвяк npm, ператварыў машыны распрацоўшчыкаў у механізм распаўсюджвання, распаўсюджваючыся па сотнях пакетаў. У сакавіку 2026 года зламыснікі ўзламалі аксіёс, пакет з прыблізна 100 мільёнаў штотыднёвых загрузак, публікуючы заражаныя версіі, якія ўтрымлівалі траяна аддаленага доступу. Падобныя атакі трапляюць менавіта на ўзровень паміж традыцыйнымі інструментамі AppSec і канчатковымі кропкамі: узровень, для асвятлення якога прызначаны інвентарызацыя штучнага інтэлекту.
- Па-трэцяе, праз штучны інтэлект прасочваюцца сакрэты і ўліковыя дадзеныя. У справаздачы GitGuardian «State of Secrets Sprawl 2026» паведамляецца, што Уцечкі сакрэтаў паслуг штучнага інтэлекту павялічыліся на 81% у параўнанні з мінулым годамі што з дапамогай штучнага інтэлекту commits leak secretпрыкладна ўдвая вышэй за базавую хуткасць. Кожная недакументаваная мадэль, агент або сервер MCP — гэта патэнцыйны шлях да атрымання ўліковых дадзеных.
Традыцыйная AppSec спыняецца на рэпазітарыі і не разумее, што такое мадэль. Інструменты канцавых кропак сочаць за аперацыйнай сістэмай, але не разумеюць пакеты, серверы MCP або памочнікаў штучнага інтэлекту. Рызыка штучнага інтэлекту назапашваецца ў прамежку паміж імі, і інвентарызацыя — першы крок да яго закрыцця.
Дзе хаваецца штучны інтэлект: ценявы штучны інтэлект па ўсім свеце SDLC
Цень ІІ Ці з'яўляецца якая-небудзь сістэма штучнага інтэлекту прынята без афіцыйнага адабрэння або кіравання: другая сістэма, якую распрацоўшчык уключыў на мінулым тыдні, сервер MCP, які працуе на ноўтбуку, мадэль, выцягнутая непасрэдна з публічнага цэнтра ў пабочны праект? Гэта не памежны выпадак. У апытанні 2026 года, праведзеным сярод больш чым 400 кіраўнікоў у галіне бяспекі, толькі 19% паведамілі пра поўную бачнасць таго, дзе і як выкарыстоўваецца штучны інтэлект па ўсёй арганізацыі, у той час як пераважная большасць ужо выкарыстоўвала або пілотна тэставала памочнікаў па кадаванні са штучным інтэлектам.
Найцяжэй знайсці ценявы штучны інтэлект унутры жыццёвага цыклу праграмнага забеспячэння, бо ён рэдка адлюстроўваецца ў воблачнай кансолі:
- Мадэлі і бібліятэкі штучнага інтэлекту, якія загружаюцца ў рэпазіторыі ў якасці залежнасцей.
- Памочнікі па кадаванні штучнага інтэлекту, наладжваныя для кожнага распрацоўшчыка і для кожнага IDE.
- Серверы MCP і файлы правілаў, якія працуюць лакальна на канчатковых кропках распрацоўшчыка.
- Ціхае адкрыццё рабочых працэсаў агентаў pull requests або ўсталёўка пакетаў.
Вось чаму выяўлення толькі ў воблаку недастаткова. Сапраўды поўная інвентарызацыя штучнага інтэлекту павінна ахопліваць код і асяроддзе зборкі (ноўтбук распрацоўшчыка, рэпазітар, pipeline), а не толькі вытворчае воблака.
Што павінна быць у AI-BOM
Гатовая да аўдыту AI-BOM ператварае ваш інвентар у нешта, што вы можаце даказаць. Як мінімум, яна павінна ўключаць:
- Кожны рэсурс штучнага інтэлекту: мадэлі, наборы дадзеных, агенты, серверы MCP, інструменты кадавання штучнага інтэлекту.
- Тып актыву, месцазнаходжанне і дакладнасць выяўлення для кожнага з іх.
- Паходжанне і залежнасці (адкуль узялася мадэль або кампанент).
- Узровень рызыкі для кожнага актыву, заснаваны на вектарах атакі, спецыфічных для штучнага інтэлекту.
- Супастаўленне рэгулявання з Законам ЕС аб штучным інтэлекце, стандартам NIST AI RMF і ISO/IEC 42001.
- Экспартуемы, машыначытэльны фармат для аўдытараў і кліентаў.
Арганізацыі, якія могуць ствараць спісы матэрыялаў па штучным інтэлекце (AI-BOM) па патрабаванні, атрымаюць рэальную перавагу ў адпаведнасці патрабаванням і даверы па меры паспявання абавязацельстваў па аўдыце штучнага інтэлекту.
Інвентарызацыя і адпаведнасць штучнаму інтэлекту: Закон ЕС аб штучным інтэлекце, NIST AI RMF і ISO/IEC 42001
Ні ў адной з асноўных сістэм не вызначаецца «інвентарызацыя штучнага інтэлекту» як асобны пункт, але практычна немагчыма задаволіць любы з іх без яго. Немагчыма дакументаваць, класіфікаваць або кіраваць сістэмамі штучнага інтэлекту, якія вы не бачыце.
Заўвага адносна тэрмінаў: укараненне Закона ЕС аб штучным інтэлекце было перагледжана пагадненнем «Лічбавы омнібус» ад мая 2026 года, якое адклала выкананне найбольш высокарызыкоўных абавязацельстваў да снежня 2027 года, захаваўшы пры гэтым некалькі этапаў ад 2 жніўня 2026 года (абавязкі па празрыстасці, паўнамоцтвы па штрафах GPAI). Разглядайце дакладныя даты як рухомую мэту і пацвярджайце іх па першакрыніцах ЕС. Але кірунак руху зразумелы, і інвентарызацыя з'яўляецца перадумовай для ўсяго гэтага.
Як стварыць і падтрымліваць інвентар штучнага інтэлекту
Стварэнне інвентарызацыі — гэта не столькі аднаразовы аўдыт, колькі ўсталяванне бесперапыннага працэсу, бо актывы штучнага інтэлекту пастаянна мяняюцца: прымаюцца новыя мадэлі, разгортваюцца новыя агенты, наладжваюцца новыя серверы MCP, часта без узгаднення.
Практычны падыход:
- Аўтаматычнае выяўленне ў кодзе, зборцы і воблаку. Ручныя электронныя табліцы састарэюць праз некалькі дзён. Discovery павінен працаваць бесперапынна і ахопліваць SDLC, а не толькі падчас выканання.
- Класіфікаваць і адлюстроўваць сувязі. Запішыце тып, месцазнаходжанне, паходжанне і, што вельмі важна, як кожны актыў звязаны з іншымі і з сакрэтамі.
- Рызыка ацэнкі ў кантэксце. Плоскі спіс з сотняў высноў нікому не дапаможа; расстаўце прыярытэты па тым, што сапраўды даступна, прыдатна для выкарыстання і крытычна важна для бізнесу.
- Прызначыць права ўласнасці. Кожнаму актыву патрэбен адказны ўладальнік.
- Захоўвайце яго ў рэжыме рэальнага часу і прыдатным для экспарту. Захоўвайце яго ў выглядзе бесперапыннага інвентара, які можа ствараць AI-BOM па патрабаванні.
На што звяртаць увагу пры выбары праграмнага забеспячэння для інвентарызацыі са штучным інтэлектам
Калі вы ацэньваеце інструменты, вось магчымасці, якія адрозніваюць сапраўднае праграмнае забеспячэнне для інвентарызацыі штучнага інтэлекту ад статычнага спісу:
- Разумее тыпы актываў, спецыфічныя для штучнага інтэлекту (мадэлі, агенты, MCP-серверы, наборы дадзеных), а не толькі пакеты і бібліятэкі.
- Дасягае ў SDLC, адкрываючы штучны інтэлект у кодзе і на канчатковых кропках распрацоўшчыкаў, а не толькі ў воблаку.
- Сувязі на картах, а не толькі асобныя актывы, таму рызыка бачная ў кантэксце.
- Ацэньвае рызыку па вектарах атак, спецыфічных для штучнага інтэлекту (хуткая ін'екцыя, няўпэўнены MCP, празмерная свабода дзеянняў), а не толькі ступень цяжкасці CVE.
- Працуе бесперапынна, ловячы новы штучны інтэлект па меры яго з'яўлення.
- Стварае AI-BOM, гатовы да аўдыту што задавальняе як аўдытараў, так і enterprise нарыхтоўка.
- Звязвае інвентар з праваахоўнымі органамі, каб вы маглі дзейнічаць у адпаведнасці з тым, што знойдзеце.
Ад інвентарызацыі да дзеяння: захаванне таго, што вы знойдзеце
Першы крок — гэта выяўленне фактараў; другі — разуменне таго, якія актывы нясуць рэальную рызыку, бо большасць з іх не нясе. Мэта складаецца ў тым, каб перайсці ад тысяч неапрацаваных высноў да тых невялікай колькасці тых, якія могуць рэальна паставіць пад пагрозу сістэмы, дадзеныя або аперацыі: тых, якія актыўна выкарыстоўваюцца, прымаюць ненадзейныя ўваходныя дадзеныя, рэальна прыдатныя для выкарыстання, маюць канфідэнцыйны доступ і ўплываюць на вытворчасць або рэгуляваныя актывы.
Вось дзе кіраванне станам бяспекі са штучным інтэлектам (ШІ-SPM) падхоплівае: правядзенне інвентарызацыі, ацэнка рызыкі ўздоўж шляху атакі штучнага інтэлекту, супастаўленне яе з рэгуляваннем і стварэнне AI-BOM. Гэта таксама месца, дзе інвентарызацыя сустракаецца з правапрымяненнем: блакіроўка шкоднасных залежнасцей перад іх усталёўкай, адхіленне неўхваленых сервераў і мадэляў MCP і ўтрыманне ўзламаных канчатковых кропак перад распаўсюджваннем інцыдэнту.
At Ксігені, гэта мадэль, якую мы будуем: бесперапынная інвентарызацыя штучным інтэлектам і AI-BOM праз AI-SPM, выяўленне шкоднасных праграм, якое выяўляе шкоднасныя пакеты да з'яўлення сігнатуры (MEW, Ранняе папярэджанне аб шкоднасных праграмах) і забеспячэнне выканання палітык на канчатковым пункце распрацоўшчыка праз Xygeni Shield. Выяўленне адпавядае OWASP Top 10 для прыкладанняў LLM, OWASP Top 10 для прыкладанняў Agentic і OWASP MCP Top 10. Але які б падыход вы ні абралі, прынцып застаецца ў сіле: Немагчыма абараніць тое, што не бачыш, і менавіта інвентарызацыя штучнага інтэлекту — гэта тое, з чаго пачынаецца бачнасць.
Пытанні і адказы
Чым адрозніваецца AI-BOM ад SBOM?
An SBOM каталагізуе залежнасці ад праграмнага забеспячэння з адкрытым зыходным кодам і старонніх праграм, ацэненыя па ступені сур'ёзнасці CVE. AI-BOM каталагізуе актывы, спецыфічныя для штучнага інтэлекту (мадэлі, агенты, серверы MCP, наборы дадзеных), з ацэнкай рызык, спецыфічных для штучнага інтэлекту, і рэгулятыўным адлюстраваннем. Па меры распаўсюджвання штучнага інтэлекту па SDLC, AI-BOM становіцца такім жа фундаментальным, як і SBOM.
Што такое ценявы штучны інтэлект і як яго выявіць?
Ценявы штучны інтэлект — гэта любы штучны інтэлект, прыняты без афіцыйнага адабрэння або кіравання: уключаны другі пілот, лакальны сервер MCP, мадэль, узятая з публічнага цэнтра. Вы выяўляеце яго з дапамогай пастаяннай аўтаматызаванай інвентарызацыі, якая ахоплівае код, зборку pipelineі канчатковыя кропкі распрацоўшчыкаў, а не толькі вытворчае воблака, дзе большая частка ценявога штучнага інтэлекту ніколі не з'яўляецца.
Ці патрабуе Закон ЕС аб штучным інтэлекце інвентарызацыі штучнага інтэлекту?
У Законе ЕС аб штучным інтэлекце не згадваецца «інвентарызацыя штучнага інтэлекту», але абавязкі па дакументаванні, класіфікацыі і рэгістрацыі сістэм высокай рызыкі немагчыма выканаць без яе. Тое ж самае тычыцца і NIST AI RMF (функцыя Map, Govern 1.6) і ISO/IEC 42001, якія патрабуюць вядзення інвентарызацыі сістэм штучнага інтэлекту.
Што такое AI-SPM?
Кіраванне станам бяспекі штучнага інтэлекту (AI-SPM) — гэта практыка пастаяннага выяўлення актываў штучнага інтэлекту, ацэнкі іх рызыкі на шляху атакі штучнага інтэлекту, супастаўлення іх з рэгуляваннем і стварэння AI-BOM. Гэта пашырае мысленне аб кіраванні станам бяспекі (знаёмае з CSPM і DSPM) на актывы і вектары атак, спецыфічныя для штучнага інтэлекту.
Як часта трэба абнаўляць інвентар штучнага інтэлекту?
Пастаянна. Рэсурсы штучнага інтэлекту мяняюцца штодня, паколькі каманды ўкараняюць новыя мадэлі, разгортваюць новых агентаў і наладжваюць новыя серверы MCP, звычайна без афіцыйнага зацвярджэння. Сканіраванне ў пэўны момант часу састарэе на працягу некалькіх дзён, таму эфектыўнае праграмнае забеспячэнне для інвентарызацыі штучнага інтэлекту працуе як бесперапынны працэс, а не як аднаразовы аўдыт.
Як мне правесці інвентарызацыю штучнага інтэлекту, які выкарыстоўваецца ў зыходным кодзе?
Інвентарызацыя штучнага інтэлекту ў кодзе азначае выяўленне мадэляў і бібліятэк штучнага інтэлекту, якія падключаюцца ў якасці залежнасцей, памочнікаў кадавання штучнага інтэлекту, настроеных для кожнага распрацоўшчыка, і сервераў MCP або файлаў правілаў, якія працуюць лакальна. Гэта патрабуе выяўлення, якое працуе ўнутры SDLC (сховішчы, зборка pipelineі канчатковыя кропкі распрацоўшчыка), а не толькі ў воблачных кансолях.
