„Xygeni“ saugumo žodynėlis
Programinės įrangos kūrimo ir teikimo saugumo žodynėlis

Kas yra ML-BOM?

ML-BOM (mašininio mokymosi medžiagų sąrašas) yra mašininio skaitymo būdu skaitomas dirbtinio intelekto sistemą sudarančių modelių, duomenų rinkinių, sistemų ir priklausomybių sąrašas, nurodant kiekvieno iš jų kilmę.

  • Kodėl jis egzistuoja: tradicinis SBOM išvardija kodo bibliotekas. Jame neaprašomas modelis, jo mokymo duomenys ar kilmė.
  • Formatai: „CycloneDX ML-BOM“ (standard(pavadintas kaip ECMA-424) ir SPDX 3.0 dirbtinio intelekto bei duomenų rinkinio profilius.
  • Gairės: G7 SBOM dirbtiniam intelektui: minimalūs elementai, paskelbtame 2026 m. gegužės mėn., apibrėžia septynis duomenų klasterius. Tai savanoriška.
  • Sunkiausia dalis: ne formatas. Svarbiausia – surasti kiekvieną dirbtinio intelekto išteklių.

Apibrėžimas: kas yra ML-BOM? #

Paklauskite daugumos inžinierių komandų, kokias atvirojo kodo bibliotekas naudoja jų programos, ir jie gali atsakyti per kelias minutes, nes jų SBOM pasako jiems. Paklauskite, nuo kokių modelių, duomenų rinkinių ir dirbtinio intelekto sistemų priklauso ta pati programa, ir atsakymas paprastai prasideda „leiskite man patikrinti“.

ML-BOM užpildo šią spragą. Tai dirbtinio intelekto atitikmuo programinės įrangos medžiagų sąrašui: struktūrizuotas, mašininio skaitymo būdu pateikiamas kiekvieno sistemos mašininio mokymosi komponento įrašas. Kiekvienam modeliui jis fiksuoja tapatybę, versiją, tiekėją ir licenciją, taip pat išsamią informaciją apie... SBOM niekada nereikėjo, pavyzdžiui, duomenų rinkiniai, su kuriais jis buvo apmokytas, numatytas jo naudojimas ir žinomi apribojimai.

Terminas kilęs iš CycloneDX, kuri pridėjo ML-BOM palaikymą 1.5 versijoje. Taip pat pamatysite AI-BOM bei SBOM už AI naudojamas tai pačiai idėjai, paprastai platesniu mastu, apimančiu agentus, raginimus ir dirbtinio intelekto paslaugas, o ne tik apmokytus modelius.

Kas yra ML-BOM sudėtyje? #

Tikslūs laukai priklauso nuo formato, tačiau naudingas ML-BOM atsako į penkis klausimus apie kiekvieną dirbtinio intelekto komponentą:

  1. Kas tai? Modelio pavadinimas, versija, tipas ir architektūra.
  2. Iš kur jis atsirado? Tiekėjas, šaltinių saugykla arba modelių centras ir licencija.
  3. Ant ko buvo treniruojamasi? Naudoti duomenų rinkiniai, jų kilmė ir bet koks žinomas jautrumas.
  4. nuo ko tai priklauso? Sistemos, bibliotekos ir infrastruktūra, reikalingos jos veikimui.
  5. Kokios jo ribos? Paskirtis, žinomi pavojai ir eksploatacinės charakteristikos.

G7 gairėse tos pačios idėjos suskirstytos į septynias grupes: metaduomenis, sistemos lygio ypatybes, modelius, duomenų rinkinių ypatybes, infrastruktūrą, saugumo ypatybes ir pagrindinius veiklos rodiklius.

ML-BOM ir SBOM #

ML-BOM nepakeičia SBOMDirbtinio intelekto sistemos vis dar yra programinė įranga, todėl joms vis tiek reikia jos. ML-BOM prideda sluoksnį ir SBOM negali matyti.

dimensijaSBOMML-BOM
ApibūdinaPrograminės įrangos komponentai ir bibliotekosModeliai, duomenų rinkiniai ir mašininio mokymosi komponentai
Pagrindiniai laukaiPavadinimas, versija, tiekėjas, licencija, maišaPlius mokymo duomenys, kilmė, numatytas naudojimas, apribojimai
Pagrindinė rizika, kurią ji stebiPažeidžiamos arba kenkėjiškos priklausomybėsNepatikimi modeliai, užteršti arba neskelbtini duomenys, nežinoma kilmė
Pasikeičia, kaiPriklausomybė atnaujinamaModelis yra perkvalifikuojamas, pakeičiamas arba tiksliai sureguliuojamas
FormataiCycloneDX, SPDX„CycloneDX ML-BOM“, „SPDX 3.0“ dirbtinio intelekto ir duomenų rinkinių profiliai

Kodėl ML-BOM yra svarbūs dabar #

Dirbtinis intelektas įveda kodų bazes be peržiūros. Kūrėjai iš viešųjų centrų ištraukia modelius, prideda dirbtinio intelekto sistemas ir prijungia MCP serverius taip pat lengvai, kaip prideda biblioteką. Kiekvienas iš jų pateikia kodą, svorius ir duomenis, kurių organizacija nerašė ir galbūt nepatikrino.

Dirbtinio intelekto tiekimo grandinė yra atakos paviršius. Geriausios OWASP 10 geriausių LLM programų tiekimo grandinę įvardija kaip riziką LLM03: pažeisti modeliai, užkrėsti duomenys ir kenkėjiški paketai dirbtinio intelekto rinkinyje. Negalite įvertinti komponento, kurio buvimo nežinote.

Pirkėjai ir auditoriai pradeda klausinėti. Joks reglamentas konkrečiai neįpareigoja turėti ML-BOM. Tačiau ES Dirbtinio intelekto įstatymas reikalauja techninės dokumentacijos didelės rizikos dirbtinio intelekto sistemoms, o Kibernetinio atsparumo įstatymas reikalauja... SBOM, o tokios sistemos kaip Ispanijos ENS reikalauja turto inventorizacijos. ML-BOM yra praktinis įrodymas, kuriuo grindžiamos visos trys, ir pirkimų komandos jį įtraukia į savo klausimynus.

Kaip sukurti ML-BOM #

Ranka rašyti tinka vienam modeliui. Organizacijai tai netinka. Tvarus požiūris susideda iš trijų dalių:

  • Prijunkite tai prie rizikos. Inventorius, kuriuo niekas nesiremia, yra tik popierizmas. Kiekvienas komponentas turėtų būti susietas su savo pažeidžiamumais, licencija ir kilme.
  • Atraskite automatiškai. Nuskaitykite kodą, deklaruotas priklausomybes ir konfigūracijos failus, užuot pasikliavę kūrėjų pranešimais apie tai, ką jie naudoja.
  • Generuoti nuolat. Iš naujo generuokite ML-BOM kaskart, kai pasikeičia modelis, duomenų rinkinys ar priklausomybė, taip pat, kaip generuoja brandžios komandos. SBOMs CI.

Žinokite, kokį dirbtinį intelektą naudojate, kol kas nors nepaklaus #

„Xygeni“ dirbtinio intelekto saugumas atranda dirbtinio intelekto išteklius jūsų saugyklose (modelius, dirbtinio intelekto sistemas, duomenų rinkinius, išvadų galinius taškus, agentus, MCP serverius, įgūdžius, raginimus, guardrails ir naudojamus DI kodavimo įrankius) iš programos kodo, deklaruotų priklausomybių ir konfigūracijos failų, kuriuos palieka DI įrankiai. Niekas nepriklauso nuo kūrėjų deklaruojamo to, ką jie naudoja.

Iš šio inventoriaus „Xygeni“ sugeneruoja kompiuterio skaitomą dirbtinio intelekto (DI) medžiagų sąrašą (DI-BOM), kurį galite pateikti auditoriams ir klientams. Dirbtinio intelekto paketo priklausomybės apdorojamos taip pat, kaip ir likusi jūsų kodo dalis: CVE aptinkami atliekant programinės įrangos sudėties analizę, o kenkėjiški paketai aptinkami dar prieš atsirandant parašui.

Suplanuokite demonstracinę versiją pamatyti savo kodo bazės AI-BOM.

DUK #

Kas yra ML-BOM paprastais žodžiais??

ML-BOM yra dirbtinio intelekto sudedamųjų dalių sąrašas. Jame įrašomi, kokius modelius, duomenų rinkinius ir sistemas naudoja sistema ir iš kur kiekvienas jų yra, kad saugumo, teisinės ir atitikties komandos galėtų įvertinti riziką.

Kuo skiriasi ML-BOM ir AI-BOM?

Dažniausiai. LLM „red teaming“ daugiausia dėmesio skiria kalbos modeliams ir jais pagrįstoms programoms. Dirbtinio intelekto „red teaming“ terminai sutampa. ML-BOM yra „CycloneDX“ pavadinimas ir daugiausia dėmesio skiria mašininio mokymosi modeliams ir duomenų rinkiniams. AI-BOM yra platesnė sąvoka ir dažnai apima agentus, raginimus, MCP serverius ir dirbtinio intelekto paslaugas.

Ar ML-BOM yra privalomas pagal įstatymą??

Ne pavadinimu. Tai praktiniai įrodymai, patvirtinantys iš tiesų galiojančius įsipareigojimus, pavyzdžiui, ES Dirbtinio intelekto įstatymo techniniai dokumentai, skirti didelės rizikos sistemoms, ir SBOM reikalaujama pagal Kibernetinio atsparumo įstatymą. Minimalūs G7 elementai, skirti SBOM dirbtiniam intelektui yra savanoriški.

Kokį formatą turėtų naudoti ML-BOM?

Du nustatyti formatai yra „CycloneDX ML-BOM“, standardidentifikuotas kaip ECMA-424 ir SPDX 3.0 Dirbtinio intelekto ir duomenų rinkinių profiliai. Pasirinkite tą, kurį turite. SBOM įrankiai jau palaiko, todėl programinė įranga ir dirbtinio intelekto atsargos egzistuoja kartu.

Pradėti nemokamai

Pradėkite nemokamai.
Nebūtina kreditinės kortelės.

Pradėkite vienu paspaudimu:

Ši informacija bus saugiai saugoma pagal Paslaugų teikimo sąlygos bei Privatumo politika

Programos ekrano kopija