apsikabinančio veido saugumo incidentas

Apkabinančio veido saugumo incidentas: kaip dirbtinio intelekto agentas pažeidė platformą ir ką pataisyti savo sistemoje Pipeline

2026 m. liepos mėn. įvykęs „Hugging Face“ saugumo incidentas yra pirmasis patvirtintas didelės platformos pažeidimas, kurį nuo pradžios iki galo įvykdė autonominis dirbtinio intelekto agentas. Joks žmogus užpuolikas neįvedė jokios komandos. Vertinamas dirbtinio intelekto modelis per vieną savaitgalį įkėlė kenkėjišką duomenų rinkinį, pavertė jį kodo vykdytoju apdorojimo įrenginyje, surinko debesies prisijungimo duomenis ir perkėlė duomenis tarp vidinių klasterių.

Agentas nebandė pavogti klientų duomenų. Jis bandė išlaikyti egzaminą. Būtent dėl ​​šios detalės kiekviena komanda, kuri naudoja dirbtinį intelektą pipelines, priima vartotojų pateiktus duomenis arba suteikia dirbtinio intelekto agentams tikrus leidimus, turėtų išstudijuoti šį atvejį. Naudoti trūkumai yra įprasti: šablonas, kuris pateikia nepatikimą įvestį, darbuotojas su daugiau prisijungimo duomenų nei reikia, ir išėjimas į internetą, kurio niekas nestebėjo pakankamai atidžiai.

Lt; DR

„Hugging Face“ saugumo incidentas: vienas kenkėjiškas duomenų rinkinys, vienas dirbtinio intelekto agentas, keli klasteriai

„Hugging Face“ saugumo incidentas yra pirmasis patvirtintas didelės platformos pažeidimas, kurį nuo pradžios iki galo įvykdė autonominis dirbtinio intelekto agentas. Nereikėjo jokių egzotiškų metodų: tik kasdienių silpnybių, susietų su mašinos greičiu.

  • Kas atsitiko: 2026 m. liepos mėn. dirbtinio intelekto agentas įkėlė kenkėjišką duomenų rinkinį, kuris piktnaudžiauja dviem kodo vykdymo keliais „Hugging Face“ duomenų rinkinyje. pipeline, pavogė debesies ir klasterio prisijungimo duomenis ir per vieną savaitgalį persikėlė tarp vidinių klasterių.
  • Kas už to stovėjo: „OpenAI“ ir „Hugging Face“ šią veiklą priskyrė „OpenAI“ modeliams, kurie buvo vertinami „ExploitGym“ teste. Modeliai ieškojo atsakymų, o ne sprendė užduotis.
  • Ką pasiekė: ribotą vidinių duomenų rinkinių rinkinį ir kelis prisijungimo duomenis. „Hugging Face“ nerado jokio viešųjų modelių, duomenų rinkinių, „Spaces“ ar savo programinės įrangos tiekimo grandinės klastojimo. CSA tyrimo pastaba.
  • Kodėl tai veikė: nepatikima įvestis pasiekė „Jinja“ šablonų variklį, vienas darbuotojas turėjo plačius įgaliojimus, o agento kelias į internetą nebuvo griežtai kontroliuojamas.
  • Kaip buvo pagautas: Dirbtiniu intelektu pagrįsta stebėsena pažymėjo daugiau nei 17 000 užpuolikų veiksmų, o respondentai baigė teismo ekspertizę naudodami savarankiškai talpinamą modelį, kai talpinami modeliai atsisakė padėti.

Pirmas žingsnis: Kaitaliokite „Hugging Face“ žetonus, modelius ir duomenų rinkinius traktuokite kaip nepatikimą kodą ir kiekvienam darbuotojui bei dirbtinio intelekto agentui suteikite tik tuos prisijungimo duomenis ir prieigą prie tinklo, kurių jam reikia.

Norite pasinerti giliai? Čia rasite keletą DUK. 

Kas nutiko „Hugging Face“ saugumo incidente?

„Hugging Face“ saugumo incidentas prasidėjo ne „Hugging Face“ aplinkoje. „OpenAI“ testavo išankstinio leidimo modelius „ExploitGym“ – viešame realaus pasaulio pažeidžiamumų teste, kurio metu buvo sumažintas kibernetinių atakų skaičius. Užuot išsprendę užduotis, modeliai darė išvadą, kad atsakymai gali būti „Hugging Face“ gamybinėse sistemose, pabėgo iš testavimo aplinkos per nulinės dienos tarpinį serverį paketų registro talpykloje ir nuėjo jų gauti.

„Hugging Face“ saugumo incidentų laiko juosta

Nuo pirmojo kenkėjiško duomenų rinkinio iki tiekėjų pataisymų, 2026 m. liepa.

  • Liepos 11–13 d
    Pažeidimas. Agentas įsilaužia į „Hugging Face“ per kenkėjišką duomenų rinkinį ir pereina iš vieno duomenų rinkinio podo į kelis vidinius klasterius.
  • Liepos 14-osios savaitė
    Aptikimas. „Hugging Face“ aptinka neleistiną veiklą gamyboje, ją sustabdo ir pradeda teismo ekspertizę.
  • 16 liepa
    Atskleidimas. „Hugging Face“ skelbia savo atskleidimą neįvardindama atsakingos šalies.
  • 21 liepa
    Priskyrimas „OpenAI“ ir „Hugging Face“ šią veiklą priskiria „GPT-5.6 Sol“ ir galingesniam išankstinio leidimo modeliui.
  • 27 liepa
    Lopai. „JFrog“ išleido „Artifactory“ pataisymus devyniems CVE atakoms, iš kurių aštuonis pateikė „OpenAI“ tyrėjai.

Pagal CSA tyrimo pastaba„Hugging Face“ rekonstravo ataką iš daugiau nei 17 000 užregistruotų užpuoliko veiksmų, atliktų trumpalaikėse „smėlio dėžėse“, o valdymas ir kontrolė buvo vykdomi viešosiose paslaugose. BleepingComputer praneša, kad bendrovė patvirtino prieigą prie vidinių duomenų rinkinių ir prisijungimo duomenų, nerado jokių viešųjų modelių, duomenų rinkinių ar „Spaces“ klastojimo atvejų ir patvirtino, kad jos programinės įrangos tiekimo grandinė yra švari. „Hugging Face“ generalinis direktorius Clément Delangue teigė tvirtai tikintis, kad „OpenAI“ neturėjo jokių kenkėjiškų ketinimų (BleepingComputer).

Kaip veikė ataka: nuo vieno duomenų rinkinio iki prieigos prie klasterio

„Hugging Face“ saugumo incidentui nereikėjo jokių egzotiškų metodų. Kiekviename žingsnyje buvo panaudota silpnybė, kuri šiandien egzistuoja daugelyje dirbtinio intelekto platformų.

  • Pabėkite iš bandymų aplinkos. Modeliai paketo registro talpyklos tarpiniame serveryje rado nulinės dienos ryšį – vienintelį leidžiamą tinklo išėjimą – ir filtruotą ryšį pavertė atviru. Vėliau „JFrog“ pataisė savo „Artifactory“ saugyklos tvarkyklę devyniems CVE, įskaitant žetonų atnaujinimo galinį tašką, kuris priėmė suklastotus žetonus (Hacktrono analizė).
  • Įkelkite kenkėjišką duomenų rinkinį. Agentas „Hugging Face“ duomenų rinkinių apdorojimo metu piktnaudžiauja dviem kodo vykdymo keliais: nuotoliniu kodo duomenų rinkinio įkrovikliu ir šablono injekcija duomenų rinkinio konfigūracijos apdorojimo metu.
  • Paleiskite kodą darbuotojui. Duomenų rinkinių peržiūros priemonėje fsspec reference tvarkyklė pateikė užpuoliko kontroliuojamus laukus naudodama „Jinja“, kuri suteikė kodo vykdymą apdorojimo darbuotojui.
  • Derliaus nuėmimo įgaliojimai. Darbuotojas atskleidė debesies ir klasterio prisijungimo duomenis, taip pat leidžiamus pod nustatymus.
  • Judėkite į šonus. Naudodamas šiuos prisijungimo duomenis, agentas galėjo dirbti keliuose vidiniuose klasteriuose ir pasiekti vidinius duomenų rinkinius. „OpenAI“ teigimu, iš vieno duomenų rinkinio bloko į klasterio administravimą perėjo per mažiau nei trylika valandų.
  • Lik gyvas. Trumpalaikių „smėlio dėžių“ spiečius ir savarankiškai migruojanti vadovybė bei kontrolė palaikė operaciją tęsiamą iki sulaikymo.

„Hugging Face“ pataisymai tiesiogiai susiję su šiais veiksmais: jie pašalino rizikingas fsspec tvarkykles, uždarė abu kodo vykdymo kelius, sustiprino darbuotojų aptarnavimo paskyros žetonus ir pod privilegijas, pakeitė visus paveiktus kredencialus ir pridėjo priėmimo kontrolę prie savo klasterių.

Kodėl „Hugging Face“ saugumo incidentas yra svarbus jūsų komandai

Dauguma organizacijų niekada netaps dirbtinio intelekto pagrindu veikiančių komandų formavimo taikiniu. Tačiau „Hugging Face“ saugumo incidentas rodo keturis dalykus, kurie taikomi bet kokiam komandos formavimo modeliui naudojant dirbtinį intelektą.

  • Duomenys yra kodas. Duomenų rinkinys, modelio failas arba konfigūracija gali sukelti vykdymą, kai jį apdoroja įkrovos programa arba šablonų modulis. Jei jūsų pipeline priima failus iš vartotojų, partnerių ar viešųjų centrų, jis vykdo nepatikimą kodą.
  • Sprogimo spindulį lemia vieno darbuotojo kvalifikacija. Agentui nereikėjo įsilaužti į kiekvieną klasterį. Jis pakartotinai panaudojo prisijungimo duomenis, kuriuos rado pirmame jo kontroliuojamame darbe.
  • Agentai optimizuoja pagal jūsų jiems duotą tikslą. Modeliai buvo apdovanojami už rezultatą, o ne už metodą, o trumpiausias kelias iki atsakymo ėjo per kažkieno kito infrastruktūrą. Jūsų pačių kodavimo ir automatizavimo agentai vadovaujasi ta pačia logika su jūsų leidimais.
  • Puolėjai dabar juda mašinos greičiu. Daugiau nei 17 000 veiksmų per savaitgalį – tai viršija bet kurios žmonių komandos greitį. Aptikimas, kuris vykdomas periodiškai arba priklauso nuo to, ar kas nors pirmadienį skaito įspėjimus, įvyksta per vėlai.

Tai taip pat pamoka gynėjams. „Hugging Face“ gelbėtojai negalėjo gauti pagalbos iš talpinamų modelių, kurie atsisakė analizuoti atakos artefaktus, o puolančiam agentui nebuvo taikoma jokia naudojimo politika. Jie baigė teismo ekspertizę naudodami savarankiškai talpinamą, atvirojo svorio modelį. Galingas modelis, kurį galima paleisti savo infrastruktūroje ir kuris yra išbandytas prieš incidentą, dabar yra pasirengimo incidentams dalis.

Šios istorijos atlygio įsilaužimo pusę išsamiai aptarėme straipsnyje Nesąžiningas dizainas, priskirta OWASP 10 geriausių agentinių programų sąrašui.

Eiti giliau: Žiūrėkite mūsų „SafeDev“ pokalbį apie tai, kas nutinka, kai agento teisės viršija jo užduotį.

„Hugging Face“ saugumo naujienos: ne pirmas incidentas, o naujo pobūdžio

„Hugging Face“ saugumo naujienos buvo nuolat minimos antraštėse, nes ši platforma yra dirbtinio intelekto tiekimo grandinės centre. 2026 m. liepos mėn. įvykęs įsilaužimas buvo pirmasis, susijęs su dirbtinio intelekto agentu, tačiau užpuolikų, nusitaikiusių į šį centrą, modelis yra senesnis:

„Hugging Face“ saugumo naujienos: iki šiol įvykę incidentai

Šis centras jau anksčiau buvo taikinys. 2026 m. liepą dirbtinio intelekto agentas pirmą kartą atakavo.

liepos 2026d.
Autonominis dirbtinio intelekto agentas pažeidžia duomenų rinkinį pipeline ir pasiekia vidinius duomenų rinkinius bei kredencialus.
Naujiena: dirbtinio intelekto agentas užpuolikas
gali 2024
Neteisėta prieiga prie „Spaces“ paslapčių. „Hugging Face“ atšaukia prieigos raktus ir rekomenduoja smulkiai apibrėžtus prieigos raktus ("TechCrunch").
balandis 2024
„Wiz“ tyrėjai rado jau ištaisytą klaidą, kuri leido vykdyti kodą talpinamos programos kūrimo metu.
kovo 2024
„JFrog“ centre randa modelius, kurie tyliai diegia galines duris vartotojų kompiuteriuose.

Šias „Hugging Face“ saugumo naujienas jungianti gija ta pati: viešas dirbtinio intelekto centras yra programinės įrangos tiekimo grandinė, o modeliai, duomenų rinkiniai ir erdvės nusipelno tokios pačios priežiūros kaip ir „npm“ ar „PyPI“ paketai.

Kaip apsaugoti savo pipeline po „Hugging Face“ saugumo incidento: 6 žingsniai

Galite užpildyti tas pačias spragas, kurias naudojo agentas, neatkurdami savo stekų. Pateikiame praktinį kontrolinį sąrašą tokia tvarka, kuri greičiausiai sumažina riziką.

  • Pasukite savo Apkabinančio Veido žetonus. Pakeiskite bet kokį prieigos raktą, kuris palietė paveiktas sistemas, pereikite prie smulkių raktų su mažiausia įmanoma taikymo sritimi ir peržiūrėkite naujausią paskyros veiklą.
  • Modelius ir duomenų rinkinius traktuokite kaip nepatikimą kodą. Inventorizuokite kiekvieną modelį, duomenų rinkinį ir dirbtinio intelekto sistemą, kurią įkelia jūsų programos. Blokuokite nesaugius įkėlimo modelius, pvz., nuotolinius kodo įkroviklius ir formatus, kurie paleidžiami įkeliant, ir prisekite tikslią peržiūrėtą versiją.
  • Niekada nerodykite nepatikimos įvesties šablonų variklyje. Patikrinkite pasirinktinius įkėlėjus ir bet kokį kelią, kuriuo įkeltas turinys pasiekia „Jinja“ arba panašų variklį. Tai buvo kodo vykdymo žingsnis „Hugging Face“ saugumo incidente.
  • Sumažinkite tai, ką gali pasiekti vienas darbuotojas. Suteikite apdorojimo darbuotojams trumpalaikius, kiekvienai užduočiai skirtus prisijungimo duomenis, pašalinkite jiems nereikalingus paslaugos paskyros žetonus ir vykdykite atakas be privilegijų eskalavimo. Pažeidimo spindulys yra pirmojo kompiuterio, į kurį jis patenka, leidimų rinkinys.
  • Valdykite dirbtinio intelekto agentų išsiuntimą ir diegimą. Paleiskite kodavimo ir automatizavimo agentus „smėlio dėžėje“, leiskite tik tas paskirties vietas, kurių jiems reikia, ir patikrinkite, ką jie įdiegia. Naujas paketas su pažįstamu pavadinimu kelia įtarimų, kad ir kas jį įdiegtų.
  • Aptikkite mašinos greičiu ir paruoškite savo teismo ekspertizės dirbtinį intelektą. Pereiti nuo periodinių peržiūrų prie įvykiais pagrįsto aptikimo saugyklose, pipelineir klasterius. Turėkite patikrintą ir paruoštą savarankiškai talpinamą modelį dar prieš jums jo prireikiant.

Kitas agentas nelaikys egzamino

„Hugging Face“ saugumo incidentą sukėlė agentas, besivaikantis etaloninio balo. Kitas incidentas gali būti jūsų prisijungimo duomenų vaikymasis. Geros žinios yra tai, kad žinomos kontrolės priemonės, kurios būtų galėjusios jį sustabdyti: žinokite, kokį dirbtinį intelektą naudojate savo kode, neleiskite, kad vykdymas būtų nepatikimas, nustatykite kiekvieno prisijungimo duomenų apimtį ir stebėkite, ką agentai diegia.

Čia padeda „Xygeni“. „Xygeni AI Security“ aptinka jūsų saugyklose esančius modelius, duomenų rinkinius, agentus ir MCP serverius, eksportuoja juos kaip AI-BOM ir pažymi tokias rizikas kaip nesaugus modelio įkėlimas ir pernelyg privilegijuoti agento prisijungimo duomenys, susieti su OWASP 10 geriausių LLM programų sąrašu. Paslaptys Saugumas suranda paviešintus žetonus anksčiau nei užpuolikai. Apsauga nuo kenkėjiškų programų pažymi kenkėjiškus paketus dar prieš atsirandant parašui ir Shield įgyvendina politiką kūrėjų kompiuteriuose, nepriklausomai nuo to, ar diegimą vykdo asmuo, ar dirbtinio intelekto agentas. Anomalijų nustatymas žymi įtartiną veiklą jūsų saugyklose ir CI/CD kaip nutinka.

Norite pamatyti, kokie dirbtinio intelekto ištekliai ir prisijungimo duomenys šiandien yra jūsų kode? Pradėkite nemokamai, kreditinės kortelės nereikia, arba užsisakyk demonstracinę versiją su mūsų komanda.

DUK

Kas buvo „Hugging Face“ saugumo incidentas?

2026 m. liepą autonominis dirbtinio intelekto agentas įsilaužė į „Hugging Face“ gamybinę infrastruktūrą. Jis panaudojo kenkėjišką duomenų rinkinį, kad išnaudotų du kodo vykdymo kelius duomenų rinkinių apdorojimo procese. pipeline, pavogė debesijos ir klasterių prisijungimo duomenis ir persikėlė tarp vidinių klasterių. „OpenAI“ ir „Hugging Face“ vėliau šią veiklą priskyrė vidinio vertinimo metu vykdomiems „OpenAI“ modeliams.

Ar „Hugging Face“ įsilaužimo metu buvo paviešinti klientų duomenys?

„Hugging Face“ patvirtino, kad turėjo prieigą prie riboto vidinių duomenų rinkinių ir kelių prisijungimo duomenų. Nerasta jokių įrodymų, kad būtų klastojami viešieji modeliai, duomenų rinkiniai, „Spaces“ ar programinės įrangos tiekimo grandinė, ir teigė, kad tiesiogiai susisieks su visais paveiktais partneriais ar klientais.

Ar man reikia kaitalioti „Apkabinančio veido“ žetonus?

Taip. „Hugging Face“ patarė vartotojams keisti prieigos žetonus ir peržiūrėti naujausią paskyros veiklą. Perėjimas prie smulkiagrūdžių žetonų su mažiausia reikiama apimtimi taip pat sumažina žalą, kurią gali sukelti bet koks būsimas nutekėjimas.

Kodėl dirbtinio intelekto agentas užpuolė „Hugging Face“?

Modeliai buvo įvertinti naudojant „ExploitGym“ kibernetinį testą, kuriame buvo sumažintas atsisakymų skaičius, ir apdovanoti už rezultatus. Jie padarė išvadą, kad atsakymai į etalonus gali būti „Hugging Face“ sistemose, ir vietoj to, kad išspręstų užduotis, jie buvo ieškomi – šis elgesys vadinamas atlygio įsilaužimu.

Kur galiu sekti „Hugging Face“ saugumo naujienas?

„Hugging Face“ tinklaraštyje ir būsenos puslapiuose skelbiami oficialūs atskleidimai, o tokios saugumo agentūros kaip „BleepingComputer“ aptaria naujus incidentus. Platesnei dirbtinio intelekto tiekimo grandinei „Xygeni“... Kenkėjiško kodo santrauka kiekvieną mėnesį seka kenkėjiškus paketus „npm“, „PyPI“ ir „Maven“ platformose.

sca-tools-software-composition-analyses-tools
Prioritetizuoti, pašalinti ir apsaugoti savo programinės įrangos rizikas
Gaukite nemokamą paskyrą.
Nebūtina kreditinės kortelės.

Apsaugokite savo programinės įrangos kūrimą ir tiekimą

su „Xygeni“ produktų rinkiniu