Што такое AI BOM?

Тлумачэнне спецыфікацыі матэрыялаў штучнага інтэлекту для каманд DevSecOps #

Дыскусія вакол AI BOM не ўзнікла з акадэмічнай цікаўнасці. Яна ўзнікла таму, што каманды бяспекі пачалі губляць сваю бачнасць. Па меры таго, як мадэлі машыннага навучання, базавыя мадэлі і Генерацыя кода з дапамогай штучнага інтэлекту з'явіліся ў прадукцыйных сістэмах, традыцыйныя інвентары праграмнага забеспячэння перасталі быць дастатковымі. Вы маглі пералічваць пакеты, кантэйнеры і бібліятэкі, але ўсё роўна не мелі ўяўлення пра тое, якія мадэлі былі ўбудаваны, адкуль паступалі навучальныя дадзеныя або якія знешнія API фармавалі паводзіны падчас выканання. Гэта папярэдняяcisпрабел, які павінен запоўніць спіс матэрыялаў для штучнага інтэлекту.

Патрэба стала немагчымай для ігнаравання, калі з'явіліся лічбы. Сёння 40% кода, створанага штучным інтэлектам, утрымлівае ўразлівасці бяспекі, крадзеж уліковых дадзеных, накіраваны на выкарыстанне штучнага інтэлекту, павялічыўся на 376% паміж 4 кварталам 2025 года і 1 кварталам 2026 года, а патрабаванні да тэхнічнай дакументацыі Закона ЕС аб ​​штучным інтэлекце для сістэмы штучнага інтэлекту высокай рызыкі ўступаюць у сілу 2 жніўня 2026 годаАрганізацыі, якія не могуць стварыць структураваны пералік сваіх кампанентаў штучнага інтэлекту (AI-BOM), сутыкаюцца з рызыкай адначасова па трох напрамках: бяспека, адпаведнасць патрабаванням і цэласнасць ланцужка паставак штучнага інтэлекту. Перш чым працягваць, давайце вызначым выразную базавую лінію.

Паглыбленае апусканне ў спецыфікацыю матэрыялаў са штучным інтэлектам #

Што такое спецыфікацыя матэрыялаў штучнага інтэлекту (AI BOM)? Спецыфікацыя матэрыялаў штучнага інтэлекту (скарочана ад AI Bill of Materials — AI Bill of Materials) — гэта структураваны пералік, які дакументуе ўсе кампаненты, звязаныя са штучным інтэлектам, якія выкарыстоўваюцца ў сістэме. Сюды ўваходзяць мадэлі, наборы дадзеных, навучальныя структуры, механізмы вываду, староннія API, залежнасці ад адкрытага зыходнага кода і артэфакты канфігурацыі, якія ўплываюць на паводзіны штучнага інтэлекту падчас зборкі і выканання. Калі Спецыфікацыя матэрыялаў праграмнага забеспячэння (SBOM) адказвае на пытанне «які код знаходзіцца ўнутры гэтага прыкладання», спецыфікацыя матэрыялаў штучнага інтэлекту адказвае на больш складанае пытанне: які інтэлект тут убудаваны, адкуль ён узяўся і якія рызыкі ён уяўляе? Спецыфікацыя матэрыялаў штучнага інтэлекту не замяняе SBOMГэта пашырае яго на вобласці, дзе традыцыйнае адсочванне залежнасцей не працуе, асабліва вакол непразрыстых мадэляў, знешніх сэрвісаў штучнага інтэлекту і пастаянна развіваючыхся артэфактаў.

Чаму AI BOM існуе як асобная канцэпцыя? #

Спачатку службы бяспекі спрабавалі расцягнуць SBOMдля пакрыцця актываў штучнага інтэлекту. Такі падыход хутка дае няўдачу. Мадэлі — гэта не бібліятэкі. Навучальныя наборы дадзеных — гэта не пакеты. Шаблоны запытаў — гэта не статычныя файлы канфігурацыі. Спецыялізацыя штучнага інтэлекту існуе таму, што сістэмы штучнага інтэлекту ўводзяць вымярэнні рызыкі, якія SBOMніколі не былі прызначаны для захопу.

Калі каманды пытаюцца, што такое AI BOM, яны часта рэагуюць на адну з наступных рэалій:

• Мадэль была выцягнута з публічнага рэестра з невядомым паходжаннем
• Дадзеныя навучання ўключалі ліцэнзаваны або канфідэнцыйны матэрыял
• Знешні LLM API змяніў сваю паводзіны без папярэджання
• Абнаўленне мадэлі прывяло да зрушэння, уцечкі або небяспечных выхадных дадзеных.
  

Спецыфікацыя матэрыялаў штучнага інтэлекту забяспечвае адсочванне гэтых сцэнарыяў, таму на яе ўсё часцей спасылаюцца ў дыскусіях аб бяспецы, кіраванні і адпаведнасці штучнаму інтэлекту.

Асноўныя кампаненты, задакументаваныя ў спецыфікацыі штучнага інтэлекту #

Спецыфікацыя матэрыялаў на аснове штучнага інтэлекту карысная толькі ў тым выпадку, калі яна канкрэтная. Нягледзячы на ​​тое, што рэалізацыі адрозніваюцца, развітыя структуры спецыфікацыі матэрыялаў на аснове штучнага інтэлекту паслядоўна дакументуюць наступныя катэгорыі.

Мадэлі і артэфакты мадэляў #

Гэта ўключае назву мадэлі, версію, архітэктуру, зыходны рэпазітар або пастаўшчыка, кантрольную суму або хэш і кантэкст разгортвання. Без гэтага рэагаванне на інцыдэнт ператвараецца ў здагадкі.

Навучанне і ўдасканаленне дадзеных #

Спецыфікацыя штучнага інтэлекту (AI BOM) фіксуе наборы дадзеных, якія выкарыстоўваюцца для навучання або дапрацоўкі, у тым ліку паходжанне, абмежаванні ліцэнзавання і класіфікацыю адчувальнасці. Гэта мае вырашальнае значэнне для рэгулятарнага ўздзеяння і рызыкі інтэлектуальнай уласнасці.

Фрэймворкі і ланцужкі інструментаў #

Сюды ўключаны TensorFlow, PyTorch, асяроддзя выканання вывадаў, бібліятэкі аптымізацыі і канвертары мадэляў. З пункту гледжання бяспекі, гэта выканальныя залежнасці з тымі ж рызыкамі шкоднасных праграм і ўразлівасцяў, што і традыцыйны код.

Знешнія службы і API штучнага інтэлекту #

Любая залежнасць ад старонніх паслуг штучнага інтэлекту павінна быць пералічана ў спецыфікацыі матэрыялаў штучнага інтэлекту, уключаючы пастаўшчыка, аб'ём выкарыстання, патокі дадзеных і частату абнаўленняў.

Канфігурацыя і актывы запыту #

Падказкі, guardrails, а ўзроўні палітыкі істотна ўплываюць на паводзіны штучнага інтэлекту. Спецыфікацыя элементаў штучнага інтэлекту разглядае іх як першакласныя актывы, а не як каментарыі ў рэпазітарыі.

Як AI BOM падтрымлівае бяспечныя практыкі распрацоўкі #

Спецыялісты па бяспецы часта мяркуюць, што існуючыя сродкі кантролю натуральным чынам распаўсюджваюцца на штучны інтэлект. Гэта не так. Гэта памылковае меркаванне адлюстроўвае ранейшыя памылкі, дапушчаныя з ланцужкі паставак з адкрытым зыходным кодам.

Спецыфікацыя элементаў штучнага інтэлекту дазваляе кіраваць працэсамі, якія ў адваротным выпадку руйнуюцца з-за складанасці:

• Ацэнка рызыкі, прывязаная да канкрэтных мадэляў і крыніц дадзеных
• Хутчэйшае стрымліванне пры ўзломе кампанента штучнага інтэлекту
• Прымусовае кіраванне выкарыстаннем ценявога штучнага інтэлекту
• Выразнае валоданне функцыянальнасцю, заснаванай на штучным інтэлекце

Калі каманды пытаюцца, што такое спіс матэрыялаў штучнага інтэлекту (AI BOM), практычны адказ просты: гэта мінімальны артэфакт, неабходны для таго, каб сістэмы штучнага інтэлекту разглядаліся як аўдытныя праграмныя кампаненты, а не як чорныя скрыні.

Тыповыя памылкі #

Памылка № 1: «Мы ўжо адсочваем залежнасці, таму ў нас ёсць спіс кампанентаў са штучным інтэлектам».

Адсочванне пакетаў Python не паказвае, якія вагі мадэлі былі загружаныя, якія выхадныя дадзеныя ў форме набору дадзеных або ці выклікае канцавая кропка вываду знешні пастаўшчык. Спецыфікацыя штучнага інтэлекту не выводзіцца; яна павінна быць відавочна згенеравана і падтрымлівацца.

Памылка № 2: «Спісы матэрыялаў са штучным інтэлектам прызначаны толькі для рэгуляваных галін». #

Рэгуляванне паскарае ўкараненне, але інцыдэнты бяспекі выклікаюць неабходнасць. Атручэнне мадэляў, імгненнае ўкараненне, уцечка дадзеных і шкоднасныя абнаўленні мадэляў уплываюць на кожную арганізацыю, якая ўкараняе штучны інтэлект. Спецыфікацыя матэрыялаў штучнага інтэлекту — гэта абарончы кантроль, а не проста артэфакт адпаведнасці патрабаванням.

Памылка № 3: «Пастаўшчыкі мадэляў бяруць на сябе гэтую рызыку за нас». #

Знешнія пастаўшчыкі змяншаюць аперацыйную нагрузку, а не адказнасць. Калі ваша сістэма спажывае вынікі штучнага інтэлекту, рызыка ляжыць на вас. Спецыфікацыя штучнага інтэлекту дакументуе гэтую залежнасць, каб ёю можна было кіраваць, а не ігнараваць.

AI BOM супраць SBOMЧаму патрэбныя абодва? #

Гэтае параўнанне важна для каманд DevSecOps, якія імкнуцца пазбегнуць распаўсюджвання інструментаў, і варта быць загадзя падрыхтаваным.cisпра тое, дзе заканчваецца кожны артэфакт і пачынаецца іншы.

An SBOM інвентарызуе праграмныя кампаненты, пакеты, бібліятэкі, кантэйнеры, а таксама іх версіі і ліцэнзіі. Ён адказвае на пытанне: які код выконваецца ў гэтым дадатку? Спецыялізацыя штучнага інтэлекту (AI BOM) інвентарызуе кампаненты інтэлекту, мадэлі, наборы дадзеных, навучальныя структуры, знешнія API і канфігурацыі падказак. Ён адказвае на іншае пытанне: які штучны інтэлект фарміруе паводзіны гэтай сістэмы, адкуль ён узяўся і якую рызыку ён нясе?

Сляпая пляма становіцца зразумелай на канкрэтным прыкладзе. Дапусцім, што старонні пастаўшчык мадэлі падмурка ціха абнаўляе вагі за канчатковай кропкай API. Версія пакета не змяняецца. Запіс графа залежнасцей не абнаўляецца. Ваш SBOM нічога не паказвае. Але мадэль, якую выклікае ваша праграма, цяпер паводзіць сябе інакш, з іншымі выхадамі, рознымі рэжымамі збояў і патэнцыйна рознымі ўласцівасцямі бяспекі. AI BOM адсочвае версію мадэлі, пастаўшчыка, частату абнаўленняў і патокі дадзеных. Ён дакладна фіксуе тое, што SBOM не бачу.

Другі прыклад: шаблон запыту, які захоўваецца ў файле канфігурацыі, змяняецца для выдалення ахоўнай панэлі. Гэта не змена кода, не абнаўленне залежнасцей і не перабудова кантэйнера. Ён нідзе не з'яўляецца ў SBOMАле гэта істотна змяняе паводзіны сістэмы штучнага інтэлекту падчас выканання. Спецыфікацыя запытаў са штучным інтэлектам разглядае рэсурсы запытаў як першакласныя кампаненты, якія маюць версіі, адсочваюцца і паддаюцца аўдыту.

Паміж двума артэфактамі існуе перакрыццё. Фрэймворкі штучнага інтэлекту, такія як PyTorch, TensorFlow і LangChain, сапраўды з'яўляюцца ў абодвух SBOM і AI BOM, таму што гэта выканальныя залежнасці з рэальнай уразлівасцю і рызыкай шкоднаснага праграмнага забеспячэння. Але гэта перакрыццё вузкае. Узровень мадэлі, узровень дадзеных, узровень падказак і ўзровень знешняга API знаходзяцца цалкам па-за межамі SBOM ахоп.

Разам, а SBOM і спецыфікацыя матэрыялаў са штучным інтэлектам даюць поўную карціну рызык ланцужка паставак праграмнага забеспячэння. Асобна кожная з іх пакідае без увагі сляпыя зоны іншай. Вось чаму галіновыя рэкамендацыі ўсё часцей пазіцыянуюць спецыфікацыю матэрыялаў са штучным інтэлектам як дадатак да SBOM, не з'яўляецца дадатковым і не замяняе.

Укараненне AI BOM у DevSecOps #

Спецыфікацыя штучнага інтэлекту не павінна існаваць як статычная дакументацыя. Яна павінна інтэгравацца ў SDLCЭфектыўныя рэалізацыі генеруюць і падтрымліваюць яго ў трох кропках жыццёвага цыклу распрацоўкі:

• Адаптацыя мадэлі. Калі ў асяроддзе ўводзіцца новая мадэль, набор дадзеных або знешні API штучнага інтэлекту, у гэты момант ствараецца запіс у спісе інгрэдыентаў штучнага інтэлекту, які фіксуе паходжанне, версію, ліцэнзаванне, патокі дадзеных і класіфікацыю рызыкі, перш чым кампанент дасягне якой-небудзь pipeline або вытворчая сістэма. Гэта той момант, калі невядомы штучны інтэлект перастае быць ценявым штучным інтэлектам.
• CI/CD выкананне. Кожны pipeline Выкананне дае магчымасць праверыць, ці адпавядаюць выкарыстоўваныя кампаненты штучнага інтэлекту запісам у спецыфікацыі штучнага інтэлекту. Аўтаматызаваныя праверкі падчас CI/CD перахоп зруху, версіі мадэлі, якая змянілася ў асноўнай частцы працэсу, файла запыту, які быў зменены, канцавой кропкі API, якая цяпер перадаецца іншаму пастаўшчыку. Перахоп гэтых звестак падчас зборкі каштуе значна менш, чым іх выяўленне падчас інцыдэнту.
• Змены ў разгортванні і асяроддзі выканання. Калі кампаненты штучнага інтэлекту абнаўляюцца, замяняюцца або выводзяцца з эксплуатацыі ў працэсе вытворчасці, спецыфікацыя штучнага інтэлекту абнаўляецца, каб адлюстраваць змены, а папярэдні стан захоўваецца ў журнале змяненняў. Гэта стварае журнал аўдыту, ад якога залежыць рэагаванне на інцыдэнты, праверка рэгулятарамі і справаздачнасць па кіраванні, — запіс з часовай адзнакай таго, што, калі і ў якой канфігурацыі працаваў штучны інтэлект.

Гэтая мадэль пастаяннага абнаўлення адрознівае аперацыйную спецыфікацыю са штучным інтэлектам ад дакумента аб адпаведнасці. Дакумент аб адпаведнасці адказвае на пытанні падчас аўдыту. Аператыўная спецыфікацыя са штучным інтэлектам адказвае на пытанні ў момант інцыдэнту, калі адказы сапраўды маюць значэнне.

Чаму AI BOM мае значэнне для рэагавання на інцыдэнты? #

Калі ў мадэлі або фрэймворку штучнага інтэлекту выяўляецца ўразлівасць або шкоднасная паводзіна, час мае значэнне. Без спісу патрабаванняў да штучнага інтэлекту каманды не могуць надзейна адказаць на:

• Якія праграмы закранаюцца
• Якія асяроддзі падвяргаюцца ўздзеянню
• Ці былі ўключаны канфідэнцыйныя дадзеныя

Кошт гэтай нявызначанасці можна вымераць. Падчас атакі на ланцужок паставак PromptMink (дзе паўночнакарэйская дзяржаўная група распрацавала шкоднасныя npm-пакеты спецыяльна для падману агентаў па распрацоўцы кода са штучным інтэлектам) каманды без інвентарызацыі штучнага інтэлекту не мелі хуткага спосабу вызначыць, якія агенты выцягнулі ўзламаную залежнасць, якія асяроддзі былі ўзламаныя, ці былі ўліковыя дадзеныя кашалька і... CI/CD Токены ўжо былі выкрадзеныя. Расследаванне пачалося з нуля, а не з вядомай базавай лініі.

Спецыфікацыя матэрыялаў на базе штучнага інтэлекту сціскае час рэагавання, ператвараючы невядомыя дадзеныя ў факты, якія можна шукаць. Калі інвентар існуе і актуальны, на першае пытанне ў інцыдэнце (на што паўплывала) адказ можна атрымаць за лічаныя хвіліны, а не за дні.

Роля AI BOM у AI-First AppSec #

Па меры ўбудавання штучнага інтэлекту ў распрацоўку, інструменты бяспекі павінны развівацца. Платформы, якія ўжо забяспечваюць SBOMs, выяўленне шкоднасных праграм, і інтэлект залежнасцей цяпер пашыраюць бачнасць кампанентаў штучнага інтэлекту. Менавіта тут такія платформы, як Ксігені натуральна адпавядаюць канцэпцыі спісу матэрыялаў штучнага інтэлекту. Суадносяць артэфакты, звязаныя са штучным інтэлектам, з кодам, залежнасцямі, pipelineі паводзіны падчас выканання, спісы спецыфікацый штучнага інтэлекту перастаюць быць тэарэтычнымі дыяграмамі і становяцца дзейснымі элементамі кантролю бяспекі.

Штучны інтэлект BOM у спалучэнні з выяўленне шкоднасных праграм у рэжыме рэальнага часу, SCA, CI/CD бяспеку, і ASPM дазваляе камандам кіраваць рызыкамі, звязанымі са штучным інтэлектам, не запавольваючы рэалізацыю праектаў. Гэта практычная мэта: бачнасць без перашкод.

Заключныя думкі: чаму пытанне «Што такое AI BOM» — правільнае #

Пытанне аб тым, што такое спецыфікацыя матэрыялаў штучнага інтэлекту, не тычыцца вызначэнняў. Гаворка ідзе пра прызнанне таго, што сістэмы штучнага інтэлекту цяпер з'яўляюцца часткай ланцужка паставак праграмнага забеспячэння і што некіраваныя ланцужкі паставак церпяць няўдачу. Спецыфікацыя матэрыялаў штучнага інтэлекту дае камандам DevSecOps тыя ж рычагі ўплыву на штучны інтэлект, што і SBOMперададзеныя ў адкрыты зыходны код, не ідэальны кантроль, але дастатковая бачнасць для прыняцця абгрунтаваных рашэнняўcisіёны, хутка рэагаваць і зніжаць рызыку, якой можна пазбегнуць.

Для каманд, якія кіруюць адпаведнасць інвентарызацыі штучным інтэлектам у сістэме, якая выкарыстоўвае штучны інтэлект SDLCAI-BOM не з'яўляецца патрабаваннем будучыні. Гэта мінімальны жыццяздольны кантроль для разгляду штучнага інтэлекту як часткі ланцужка паставак праграмнага забеспячэння сёння. Вось чаму гэта не тэндэнцыя. Гэта карэкцыя.

Часта задаваныя пытанні #