ML-BOM (mašininio mokymosi medžiagų sąrašas) yra mašininio skaitymo būdu skaitomas dirbtinio intelekto sistemą sudarančių modelių, duomenų rinkinių, sistemų ir priklausomybių sąrašas, nurodant kiekvieno iš jų kilmę.
- Kodėl jis egzistuoja: tradicinis SBOM išvardija kodo bibliotekas. Jame neaprašomas modelis, jo mokymo duomenys ar kilmė.
- Formatai: „CycloneDX ML-BOM“ (standard(pavadintas kaip ECMA-424) ir SPDX 3.0 dirbtinio intelekto bei duomenų rinkinio profilius.
- Gairės: G7 SBOM dirbtiniam intelektui: minimalūs elementai, paskelbtame 2026 m. gegužės mėn., apibrėžia septynis duomenų klasterius. Tai savanoriška.
- Sunkiausia dalis: ne formatas. Svarbiausia – surasti kiekvieną dirbtinio intelekto išteklių.
Apibrėžimas: kas yra ML-BOM? #
Paklauskite daugumos inžinierių komandų, kokias atvirojo kodo bibliotekas naudoja jų programos, ir jie gali atsakyti per kelias minutes, nes jų SBOM pasako jiems. Paklauskite, nuo kokių modelių, duomenų rinkinių ir dirbtinio intelekto sistemų priklauso ta pati programa, ir atsakymas paprastai prasideda „leiskite man patikrinti“.
ML-BOM užpildo šią spragą. Tai dirbtinio intelekto atitikmuo programinės įrangos medžiagų sąrašui: struktūrizuotas, mašininio skaitymo būdu pateikiamas kiekvieno sistemos mašininio mokymosi komponento įrašas. Kiekvienam modeliui jis fiksuoja tapatybę, versiją, tiekėją ir licenciją, taip pat išsamią informaciją apie... SBOM niekada nereikėjo, pavyzdžiui, duomenų rinkiniai, su kuriais jis buvo apmokytas, numatytas jo naudojimas ir žinomi apribojimai.
Terminas kilęs iš CycloneDX, kuri pridėjo ML-BOM palaikymą 1.5 versijoje. Taip pat pamatysite AI-BOM bei SBOM už AI naudojamas tai pačiai idėjai, paprastai platesniu mastu, apimančiu agentus, raginimus ir dirbtinio intelekto paslaugas, o ne tik apmokytus modelius.
Kas yra ML-BOM sudėtyje? #
Tikslūs laukai priklauso nuo formato, tačiau naudingas ML-BOM atsako į penkis klausimus apie kiekvieną dirbtinio intelekto komponentą:
- Kas tai? Modelio pavadinimas, versija, tipas ir architektūra.
- Iš kur jis atsirado? Tiekėjas, šaltinių saugykla arba modelių centras ir licencija.
- Ant ko buvo treniruojamasi? Naudoti duomenų rinkiniai, jų kilmė ir bet koks žinomas jautrumas.
- nuo ko tai priklauso? Sistemos, bibliotekos ir infrastruktūra, reikalingos jos veikimui.
- Kokios jo ribos? Paskirtis, žinomi pavojai ir eksploatacinės charakteristikos.
G7 gairėse tos pačios idėjos suskirstytos į septynias grupes: metaduomenis, sistemos lygio ypatybes, modelius, duomenų rinkinių ypatybes, infrastruktūrą, saugumo ypatybes ir pagrindinius veiklos rodiklius.
Kodėl ML-BOM yra svarbūs dabar #
Dirbtinis intelektas įveda kodų bazes be peržiūros. Kūrėjai iš viešųjų centrų ištraukia modelius, prideda dirbtinio intelekto sistemas ir prijungia MCP serverius taip pat lengvai, kaip prideda biblioteką. Kiekvienas iš jų pateikia kodą, svorius ir duomenis, kurių organizacija nerašė ir galbūt nepatikrino.
Dirbtinio intelekto tiekimo grandinė yra atakos paviršius. Geriausios OWASP 10 geriausių LLM programų tiekimo grandinę įvardija kaip riziką LLM03: pažeisti modeliai, užkrėsti duomenys ir kenkėjiški paketai dirbtinio intelekto rinkinyje. Negalite įvertinti komponento, kurio buvimo nežinote.
Pirkėjai ir auditoriai pradeda klausinėti. Joks reglamentas konkrečiai neįpareigoja turėti ML-BOM. Tačiau ES Dirbtinio intelekto įstatymas reikalauja techninės dokumentacijos didelės rizikos dirbtinio intelekto sistemoms, o Kibernetinio atsparumo įstatymas reikalauja... SBOM, o tokios sistemos kaip Ispanijos ENS reikalauja turto inventorizacijos. ML-BOM yra praktinis įrodymas, kuriuo grindžiamos visos trys, ir pirkimų komandos jį įtraukia į savo klausimynus.
Kaip sukurti ML-BOM #
Ranka rašyti tinka vienam modeliui. Organizacijai tai netinka. Tvarus požiūris susideda iš trijų dalių:
- Prijunkite tai prie rizikos. Inventorius, kuriuo niekas nesiremia, yra tik popierizmas. Kiekvienas komponentas turėtų būti susietas su savo pažeidžiamumais, licencija ir kilme.
- Atraskite automatiškai. Nuskaitykite kodą, deklaruotas priklausomybes ir konfigūracijos failus, užuot pasikliavę kūrėjų pranešimais apie tai, ką jie naudoja.
- Generuoti nuolat. Iš naujo generuokite ML-BOM kaskart, kai pasikeičia modelis, duomenų rinkinys ar priklausomybė, taip pat, kaip generuoja brandžios komandos. SBOMs CI.
Žinokite, kokį dirbtinį intelektą naudojate, kol kas nors nepaklaus #
„Xygeni“ dirbtinio intelekto saugumas atranda dirbtinio intelekto išteklius jūsų saugyklose (modelius, dirbtinio intelekto sistemas, duomenų rinkinius, išvadų galinius taškus, agentus, MCP serverius, įgūdžius, raginimus, guardrails ir naudojamus DI kodavimo įrankius) iš programos kodo, deklaruotų priklausomybių ir konfigūracijos failų, kuriuos palieka DI įrankiai. Niekas nepriklauso nuo kūrėjų deklaruojamo to, ką jie naudoja.
Iš šio inventoriaus „Xygeni“ sugeneruoja kompiuterio skaitomą dirbtinio intelekto (DI) medžiagų sąrašą (DI-BOM), kurį galite pateikti auditoriams ir klientams. Dirbtinio intelekto paketo priklausomybės apdorojamos taip pat, kaip ir likusi jūsų kodo dalis: CVE aptinkami atliekant programinės įrangos sudėties analizę, o kenkėjiški paketai aptinkami dar prieš atsirandant parašui.
Suplanuokite demonstracinę versiją pamatyti savo kodo bazės AI-BOM.
DUK #
ML-BOM yra dirbtinio intelekto sudedamųjų dalių sąrašas. Jame įrašomi, kokius modelius, duomenų rinkinius ir sistemas naudoja sistema ir iš kur kiekvienas jų yra, kad saugumo, teisinės ir atitikties komandos galėtų įvertinti riziką.
Dažniausiai. LLM „red teaming“ daugiausia dėmesio skiria kalbos modeliams ir jais pagrįstoms programoms. Dirbtinio intelekto „red teaming“ terminai sutampa. ML-BOM yra „CycloneDX“ pavadinimas ir daugiausia dėmesio skiria mašininio mokymosi modeliams ir duomenų rinkiniams. AI-BOM yra platesnė sąvoka ir dažnai apima agentus, raginimus, MCP serverius ir dirbtinio intelekto paslaugas.
Ne pavadinimu. Tai praktiniai įrodymai, patvirtinantys iš tiesų galiojančius įsipareigojimus, pavyzdžiui, ES Dirbtinio intelekto įstatymo techniniai dokumentai, skirti didelės rizikos sistemoms, ir SBOM reikalaujama pagal Kibernetinio atsparumo įstatymą. Minimalūs G7 elementai, skirti SBOM dirbtiniam intelektui yra savanoriški.
Du nustatyti formatai yra „CycloneDX ML-BOM“, standardidentifikuotas kaip ECMA-424 ir SPDX 3.0 Dirbtinio intelekto ir duomenų rinkinių profiliai. Pasirinkite tą, kurį turite. SBOM įrankiai jau palaiko, todėl programinė įranga ir dirbtinio intelekto atsargos egzistuoja kartu.
