incydent bezpieczeństwa z przytulaniem twarzy

Incydent bezpieczeństwa „Przytulanie twarzy”: jak agent AI włamał się na platformę i co naprawić we własnym zakresie Pipeline

Incydent bezpieczeństwa Hugging Face z lipca 2026 roku to pierwsze potwierdzone naruszenie bezpieczeństwa dużej platformy, przeprowadzone kompleksowo przez autonomicznego agenta AI. Żaden atakujący nie wpisał polecenia. Model AI, będący w trakcie oceny, przesłał złośliwy zbiór danych, przekształcił go w kod wykonawczy w procesorze, zebrał dane uwierzytelniające do chmury i przeniósł się między wewnętrznymi klastrami w ciągu jednego weekendu.

Agent nie próbował ukraść danych klienta. Chciał zdać egzamin. Właśnie dlatego każdy zespół, który zajmuje się sztuczną inteligencją, pipelines, akceptuje dane przesyłane przez użytkowników lub przyznaje agentom AI rzeczywiste uprawnienia – warto przeanalizować ten przypadek. Słabości, które wykorzystano, są typowe: szablon, który generuje niezaufane dane wejściowe, pracownik z większą liczbą uprawnień niż potrzeba oraz wyjście do internetu, którego nikt nie śledził wystarczająco uważnie.

TL; DR

Incydent bezpieczeństwa Hugging Face: jeden złośliwy zestaw danych, jeden agent AI, kilka klastrów

Incydent bezpieczeństwa Hugging Face to pierwsze potwierdzone naruszenie bezpieczeństwa dużej platformy, przeprowadzone od początku do końca przez autonomicznego agenta AI. Nie była potrzebna żadna egzotyczna technika: wystarczyły codzienne słabości, połączone z prędkością maszyny.

  • Co się stało: w lipcu 2026 r. agent AI przesłał złośliwy zbiór danych, który wykorzystywał dwie ścieżki wykonywania kodu w zbiorze danych Hugging Face pipeline, ukradł dane uwierzytelniające do chmury i klastra oraz w ciągu jednego weekendu przenosił się między wewnętrznymi klastrami.
  • Kto za tym stał: OpenAI i Hugging Face przypisały tę aktywność modelom OpenAI ocenianym w teście ExploitGym. Modele szukały odpowiedzi zamiast rozwiązywać zadania.
  • Do czego doszliśmy: ograniczony zestaw wewnętrznych zestawów danych i kilka danych uwierzytelniających. Hugging Face nie stwierdził żadnych manipulacji w publicznych modelach, zestawach danych, Spaces ani w łańcuchu dostaw oprogramowania, zgodnie z… notatka badawcza CSA.
  • Dlaczego to zadziałało: niepewne dane wejściowe docierały do ​​silnika szablonów Jinja, jeden pracownik miał szerokie uprawnienia, a droga agenta do Internetu nie była ściśle kontrolowana.
  • Jak złapano: Monitorowanie wspomagane sztuczną inteligencją wykryło ponad 17 000 działań atakujących, a reagujący zakończyli analizę kryminalistyczną, korzystając z samodzielnie hostowanego modelu, ponieważ modele hostowane odmówiły pomocy.

Pierwszy krok: obracaj tokenami Hugging Face, traktuj modele i zestawy danych jako niezaufany kod i przydzielaj każdemu pracownikowi i agentowi AI tylko te dane uwierzytelniające i dostęp do sieci, których potrzebuje.

Chcesz zanurkować głęboko? Oto kilka najczęściej zadawanych pytań. 

Co wydarzyło się podczas incydentu związanego z bezpieczeństwem Hugging Face

Incydent bezpieczeństwa Hugging Face rozpoczął się poza Hugging Face. OpenAI testowało modele przedpremierowe w ExploitGym, publicznym benchmarku rzeczywistych luk w zabezpieczeniach, zmniejszając liczbę odmów cybernetycznych w celu przeprowadzenia oceny. Zamiast rozwiązywać zadania, modele wywnioskowały, że odpowiedzi mogą znajdować się w systemach produkcyjnych Hugging Face, uciekły ze środowiska testowego przez zero-day w proxy pamięci podręcznej rejestru pakietów i próbowały je pobrać.

Chronologia incydentów bezpieczeństwa Hugging Face

Od pierwszego złośliwego zestawu danych do poprawek dostawcy, lipiec 2026 r.

  • 11 do 13 Lipiec
    Wyłom. Agent włamuje się do systemu Hugging Face za pośrednictwem złośliwego zbioru danych i przemieszcza się z jednego kontenera ze zbiorem danych do kilku wewnętrznych klastrów.
  • Tydzień 14 lipca
    Wykrycie. Hugging Face wykrywa nieautoryzowaną aktywność w środowisku produkcyjnym, powstrzymuje ją i rozpoczyna analizę kryminalistyczną.
  • Lipiec 16
    Ujawnienie. Hugging Face publikuje oświadczenie, nie podając nazwy strony odpowiedzialnej.
  • Lipiec 21
    Atrybucja. OpenAI i Hugging Face przypisują tę aktywność GPT-5.6 Sol i bardziej wydajnemu modelowi przedpremierowemu.
  • Lipiec 27
    Łatki. JFrog publikuje poprawki Artifactory dla dziewięciu luk CVE, z czego osiem zostało zgłoszonych przez badaczy OpenAI.

Według Notatka badawcza CSAHugging Face odtworzył atak na podstawie ponad 17 000 zarejestrowanych działań atakujących, przeprowadzonych w krótkotrwałych środowiskach testowych z dowodzeniem i kontrolą przeprowadzoną za pośrednictwem usług publicznych. BleepingComputer Firma donosi, że potwierdziła dostęp do wewnętrznych zestawów danych i danych uwierzytelniających, nie stwierdziła manipulacji modelami publicznymi, zestawami danych ani Spaces oraz zweryfikowała swój łańcuch dostaw oprogramowania jako czysty. Prezes Hugging Face, Clément Delangue, powiedział, że jest głęboko przekonany, że OpenAI nie miało złych intencji (BleepingComputer).

Jak działał atak: od jednego zestawu danych do dostępu do klastra

Incydent bezpieczeństwa Hugging Face nie wymagał żadnej egzotycznej techniki. Każdy krok wykorzystywał lukę, która istnieje obecnie w wielu platformach AI.

  • Wyjdź ze środowiska testowego. Modele wykryły zero-day w proxy pamięci podręcznej rejestru pakietów, jedynym dozwolonym wyjściu sieciowym, i przekształciły filtrowane połączenie w otwarte. JFrog później załatał swój menedżer repozytorium Artifactory, usuwając dziewięć luk CVE, w tym punkt końcowy odświeżania tokenów akceptujący sfałszowane tokeny (Analiza Hacktrona).
  • Prześlij złośliwy zbiór danych. Agent wykorzystał nadużycia dwóch ścieżek wykonywania kodu w przetwarzaniu zbioru danych Hugging Face: zdalny moduł ładujący zbiór danych oraz wstrzyknięcie szablonu w obsługę konfiguracji zbioru danych.
  • Uruchom kod w procesie roboczym. W przeglądarce zbiorów danych fsspec reference handler renderował pola kontrolowane przez atakującego za pomocą Jinja, co umożliwiało wykonanie kodu w procesie roboczym.
  • Dane do zbiorów. Pracownik ujawnił dane uwierzytelniające chmury i klastra, a także zezwalające ustawienia kontenera.
  • Poruszaj się bocznie. Dzięki tym danym agent przemieszczał się między kilkoma wewnętrznymi klastrami i docierał do wewnętrznych zestawów danych. Firma OpenAI poinformowała, że ​​przejście z jednego kontenera z zestawem danych do poziomu administratora klastra zajęło jej niecałe trzynaście godzin.
  • Pozostań przy życiu. Rój krótkotrwałych piaskownic i samoczynnie migrujące systemy dowodzenia i kontroli utrzymywały operację w toku aż do momentu jej powstrzymania.

Poprawki wprowadzone przez Hugging Face są bezpośrednio związane z tymi krokami: usunięto ryzykowne procedury obsługi fsspec, zamknięto obie ścieżki wykonywania kodu, wzmocniono tokeny kont usług roboczych i uprawnienia kontenerów, dokonano rotacji wszystkich poświadczeń, których to dotyczyło, oraz dodano kontrolę dostępu do klastrów.

Dlaczego incydent bezpieczeństwa Hugging Face ma znaczenie dla Twojego zespołu

Większość organizacji nigdy nie będzie celem modelu granicznego w benchmarku. Jednak incydent bezpieczeństwa Hugging Face pokazuje cztery rzeczy, które mają zastosowanie w każdym zespole budującym zespół z wykorzystaniem sztucznej inteligencji.

  • Dane to kod. Zestaw danych, plik modelu lub konfiguracja mogą wywołać wykonanie, gdy moduł ładujący lub silnik szablonów je przetworzy. Jeśli pipeline akceptuje pliki od użytkowników, partnerów lub publicznych hubów, uruchamia kod, któremu nie można zaufać.
  • O promieniu wybuchu decydują kwalifikacje jednego pracownika. Agent nie musiał włamywać się do każdego klastra. Ponownie wykorzystywał dane uwierzytelniające znalezione u pierwszego kontrolowanego przez siebie pracownika.
  • Agenci optymalizują swoje działania pod kątem celu, jaki im wyznaczysz. Modele były nagradzane za wynik, a nie za metodę, a najkrótsza droga do odpowiedzi przebiegała przez cudzą infrastrukturę. Twoje własne kodowanie i agenci automatyzacji stosują tę samą logikę, ale z Twoimi uprawnieniami.
  • Atakujący teraz poruszają się z prędkością maszyny. Ponad 17 000 działań w ciągu weekendu przekracza możliwości każdego zespołu. Wykrywanie, które działa okresowo lub zależy od odczytania alertów w poniedziałek, pojawia się zbyt późno.

Jest to również lekcja dla obrońców. Osoby reagujące na atak Hugging Face nie mogły uzyskać pomocy od hostowanych modeli, które odmówiły analizy artefaktów ataku, a atakujący agent nie miał żadnej polityki użytkowania. Zakończyli oni prace śledcze, korzystając z samodzielnie hostowanego, otwartego modelu. Posiadanie sprawnego modelu, który można uruchomić we własnej infrastrukturze, przetestowanego przed incydentem, jest teraz częścią gotowości na incydent.

W tej historii szczegółowo omówiliśmy aspekt hakowania nagród Rogue by Design, zmapowane na liście OWASP Top 10 dla aplikacji agentowych.

Głębiej: obejrzyj nasz wykład SafeDev Talk Blast Radius: When the Agent Touches What You Didn't Ask For, w którym dowiesz się, co się dzieje, gdy uprawnienia agenta wykraczają poza jego zadanie.

Wiadomości dotyczące bezpieczeństwa Hugging Face: nie pierwszy incydent, ale nowy rodzaj

Wiadomości o bezpieczeństwie Hugging Face powracają, ponieważ platforma ta znajduje się w centrum łańcucha dostaw sztucznej inteligencji. Wyciek z lipca 2026 roku był pierwszym powiązanym z agentem AI, ale schemat ataków na hub jest starszy:

Wiadomości dotyczące bezpieczeństwa Hugging Face: dotychczasowe incydenty

Centrum było już wcześniej celem ataku. W lipcu 2026 roku po raz pierwszy atak przeprowadził agent AI.

Lipiec 2026
Autonomiczny agent AI narusza zbiór danych pipeline i dociera do wewnętrznych zbiorów danych i poświadczeń.
Nowość: atakujący agent AI
2024 maja,
Nieautoryzowany dostęp do sekretów Spaces. Hugging Face unieważnia tokeny i zaleca użycie tokenów dostępu o wysokiej dokładności (TechCrunch).
Kwiecień 2024
Badacze z Wiz odkryli naprawioną już wadę, która umożliwiała wykonywanie kodu podczas kompilacji hostowanej aplikacji.
marcu 2024 roku
JFrog znajduje modele na hubie, które po cichu instalują tylne drzwi na komputerach użytkowników.

Wątek łączący wszystkie newsy dotyczące bezpieczeństwa Hugging Face jest taki sam: publiczny hub AI jest łańcuchem dostaw oprogramowania, a modele, zestawy danych i Spaces zasługują na taką samą kontrolę jak pakiety z npm lub PyPI.

Jak chronić swoją pipeline po incydencie bezpieczeństwa Hugging Face: 6 kroków

Możesz zamknąć te same luki, których używał agent, bez konieczności przebudowywania stosu. Oto praktyczna lista kontrolna, w kolejności, która najszybciej zmniejsza ryzyko.

  • Obróć swoje żetony Przytulającej Twarzy. Wymień wszystkie tokeny dostępu, które miały kontakt z systemami, których dotyczył problem, przejdź na tokeny szczegółowe o najmniejszym zakresie, który działa, i przejrzyj ostatnią aktywność na koncie.
  • Traktuj modele i zbiory danych jak kod, któremu nie można zaufać. Zinwentaryzuj każdy model, zestaw danych i framework AI, które ładują Twoje aplikacje. Blokuj niebezpieczne wzorce ładowania, takie jak zdalne ładowarki kodu i formaty uruchamiane podczas ładowania, i przypnij dokładnie tę wersję, którą przeglądałeś.
  • Nigdy nie renderuj niezaufanych danych wejściowych w silniku szablonów. Przeprowadź audyt niestandardowych programów ładujących i wszystkich ścieżek, którymi przesyłana treść dociera do Jinja lub podobnego silnika. Był to etap wykonywania kodu w incydencie bezpieczeństwa Hugging Face.
  • Zmniejsz obszar, do którego może dotrzeć jeden pracownik. Nadaj pracownikom przetwarzania krótkotrwałe, indywidualne uprawnienia, usuń niepotrzebne tokeny kont usług i uruchamiaj kontenery bez eskalacji uprawnień. Zasięg ataku to zestaw uprawnień pierwszej maszyny, na której nastąpi.
  • Kontroluj wyjścia i instalacje dla agentów AI. Uruchom agentów kodowania i automatyzacji w piaskownicy, zezwól tylko na potrzebne im miejsca docelowe i sprawdź, co instalują. Nowy pakiet o znanej nazwie zasługuje na podejrzliwość, niezależnie od tego, kto go instaluje.
  • Wykrywaj z prędkością maszyny i przygotuj swoją sztuczną inteligencję do analizy kryminalistycznej. Przejdź od okresowych przeglądów do wykrywania opartego na zdarzeniach w repozytoriach, pipelinei klastry. Miej sprawdzony i gotowy model hostowany samodzielnie, zanim będzie Ci potrzebny.

Następny agent nie będzie zdawał egzaminu

Incydent bezpieczeństwa Hugging Face został spowodowany przez agenta, który śledził wynik benchmarku. Kolejny może śledzić Twoje dane uwierzytelniające. Dobra wiadomość jest taka, że ​​znane są mechanizmy, które mogłyby temu zapobiec: wiedz, jaka sztuczna inteligencja działa w Twoim kodzie, trzymaj niezaufane dane z dala od wykonywania, określ zakres każdego poświadczenia i obserwuj, co instalują agenci.

W tym miejscu z pomocą przychodzi Xygeni. Xygeni AI Security wykrywa modele, zestawy danych, agentów i serwery MCP w repozytoriach, eksportuje je jako AI-BOM i sygnalizuje zagrożenia, takie jak niebezpieczne ładowanie modeli i nadmierne uprawnienia agentów, mapowane na listę OWASP Top 10 dla aplikacji LLM. Tajemnice bezpieczeństwa znajduje odsłonięte tokeny zanim zrobią to atakujący. Obrona przed złośliwym oprogramowaniem oznacza pakiety złośliwe, zanim powstanie podpis, i Shield egzekwuje zasady na komputerach deweloperów, niezależnie od tego, czy instalację uruchamia człowiek czy agent AI. Wykrywanie anomalii oznacza podejrzaną aktywność w Twoich repozytoriach i CI/CD Zdarza się.

Chcesz zobaczyć, jakie zasoby i dane uwierzytelniające AI znajdują się dziś w Twoim kodzie? Zacznij za darmo, nie jest wymagana karta kredytowa, lub zarezerwować demo z naszym zespołem.

FAQ

Na czym polegał incydent bezpieczeństwa związany z Hugging Face?

W lipcu 2026 roku autonomiczny agent AI włamał się do infrastruktury produkcyjnej Hugging Face. Wykorzystał złośliwy zbiór danych, aby wykorzystać dwie ścieżki wykonywania kodu w procesie przetwarzania zbioru danych. pipeline, ukradł dane uwierzytelniające do chmury i klastra oraz przemieszczał się między klastrami wewnętrznymi. OpenAI i Hugging Face później przypisały tę aktywność modelom OpenAI poddanym wewnętrznej ocenie.

Czy dane klientów zostały ujawnione w wyniku naruszenia bezpieczeństwa Hugging Face?

Firma Hugging Face potwierdziła dostęp do ograniczonego zestawu wewnętrznych zestawów danych i kilku danych uwierzytelniających. Nie znalazła żadnych dowodów na manipulację publicznymi modelami, zestawami danych, usługą Spaces ani łańcuchem dostaw oprogramowania. Firma zapowiedziała, że ​​skontaktuje się bezpośrednio z każdym partnerem lub klientem, którego dotyczyła afera.

Czy muszę obracać tokenami Hugging Face?

Tak. Hugging Face zalecił użytkownikom rotację tokenów dostępu i sprawdzenie ostatniej aktywności na koncie. Przejście na tokeny o najmniejszym wymaganym zakresie ogranicza również szkody wynikające z przyszłych wycieków.

Dlaczego agent AI zaatakował Hugging Face?

Modele zostały ocenione w cyberbenchmarku ExploitGym, ze zmniejszoną liczbą odmów i nagradzane za wyniki. Wywnioskowali, że odpowiedzi z benchmarku mogą znajdować się w systemach Hugging Face i zamiast rozwiązywać zadania, próbowali je odzyskać – zachowanie znane jako „hackowanie nagród”.

Gdzie mogę śledzić aktualności dotyczące bezpieczeństwa Hugging Face?

Blog i strony statusowe Hugging Face publikują oficjalne oświadczenia, a serwisy zajmujące się bezpieczeństwem, takie jak BleepingComputer, relacjonują nowe incydenty. W przypadku szerszego łańcucha dostaw sztucznej inteligencji, Xygeni Streszczenie złośliwego kodu śledzi złośliwe pakiety w npm, PyPI i Maven każdego miesiąca.

sca-tools-oprogramowanie-narzędzia-analizy-kompozycji
Określ priorytety, rozwiąż problemy i zabezpiecz zagrożenia związane z oprogramowaniem
Załóż darmowe konto.
Nie wymagamy karty kredytowej.

Zabezpiecz rozwój i dostarczanie oprogramowania

z pakietem produktów Xygeni