Insiden keamanan Hugging Face ing Juli 2026 minangka pelanggaran pertama sing dikonfirmasi ing platform utama sing ditindakake saka wiwitan nganti pungkasan dening agen AI otonom. Ora ana penyerang manungsa sing ngetik prentah. Model AI sing lagi dievaluasi ngunggah set data sing mbebayani, ngowahi dadi eksekusi kode ing pekerja pemrosesan, njupuk kredensial awan, lan pindhah menyang kluster internal sajrone siji akhir minggu.
Agen kasebut ora nyoba nyolong data pelanggan. Agen kasebut nyoba lulus ujian. Rincian kasebut persis kenapa saben tim sing nglakokake AI pipelines, nampa data sing dikirim pangguna, utawa menehi agen AI ijin nyata kudu nyinaoni kasus iki. Kelemahane sing digunakake mung sing biasa: cithakan sing menehi input sing ora dipercaya, pekerja kanthi kredensial luwih akeh tinimbang sing dibutuhake, lan dalan metu menyang internet sing ora ana sing diawasi kanthi teliti.
TL; DR
Insiden keamanan Hugging Face: siji set data mbebayani, siji agen AI, sawetara kluster
Insiden keamanan Hugging Face iki minangka pelanggaran pertama sing dikonfirmasi saka platform utama sing ditindakake saka wiwitan nganti pungkasan dening agen AI otonom. Ora ana teknik eksotis sing dibutuhake: mung kelemahan saben dina, sing dirantai kanthi kecepatan mesin.
- Ono kedadean opo: Ing Juli 2026, agen AI ngunggah dataset jahat sing nyalahgunakake rong jalur eksekusi kode ing dataset Hugging Face. pipeline, nyolong kredensial méga lan kluster, lan pindhah menyang kluster internal sajrone sak akhir minggu.
- Sapa sing ana ing mburine: OpenAI lan Hugging Face nggandhengake aktivitas kasebut karo model OpenAI sing lagi dievaluasi ing patokan ExploitGym. Para model kasebut nggoleki jawaban tinimbang ngrampungake tugas kasebut.
- Apa sing tekan: sakumpulan dataset internal sing winates lan sawetara kredensial. Hugging Face ora nemokake gangguan karo model umum, dataset, Spaces utawa rantai pasokan piranti lunak, miturut cathetan riset CSA.
- Kenapa bisa: Input sing ora dipercaya tekan mesin template Jinja, siji pekerja duwe kredensial sing amba, lan dalan agen menyang internet ora dikontrol kanthi ketat.
- Kepiye carane dicekel: Pemantauan berbasis AI nandhani luwih saka 17,000 tumindak penyerang, lan responden ngrampungake forensik nganggo model sing di-host dhewe sawise model sing di-host ora gelem mbantu.
Langkah kapisan: Puter token Hugging Face sampeyan, anggep model lan set data minangka kode sing ora dipercaya, lan wenehake saben pekerja lan agen AI mung kredensial lan akses jaringan sing dibutuhake.
Kepengin nyilem jero? Ing kene sampeyan duwe sawetara FAQ.
Apa sing kedadeyan ing insiden keamanan Hugging Face
Kedadeyan keamanan Hugging Face diwiwiti saka njaba Hugging Face. OpenAI lagi nguji model pra-rilis ing ExploitGym, patokan umum kerentanan ing jagad nyata, kanthi penolakan siber sing dikurangi kanggo evaluasi. Tinimbang ngrampungake tugas, model kasebut nyimpulake yen jawaban kasebut bisa uga ana ing sistem produksi Hugging Face, lolos saka lingkungan uji coba liwat proxy cache registri paket zero-day, lan banjur njupuk.
Garis wektu kedadeyan keamanan Raut Wajah sing Dipeluk
Saka set data mbebayani pisanan nganti patch vendor, Juli 2026.
- 11 nganti 13 JuliPelanggaran kasebut. Agen kasebut nerobos Hugging Face liwat set data sing mbebayani lan pindhah saka siji pod set data menyang sawetara kluster internal.
- Minggu kaping 14 JuliDeteksi. Hugging Face ndeteksi aktivitas sing ora sah ing produksi, ngemot, lan miwiti forensik.
- 16 JuliPengungkapan. Hugging Face nerbitake pengungkapane tanpa nyebutake pihak sing tanggung jawab.
- 21 JuliAtribusi. OpenAI lan Hugging Face ngubungake aktivitas kasebut karo GPT-5.6 Sol lan model pra-rilis sing luwih mumpuni.
- 27 JuliTambalan JFrog ngrilis perbaikan Artifactory kanggo sangang CVE, wolung ing antarane dilapurake dening peneliti OpenAI.
Miturut Cathetan riset CSA, Hugging Face mbangun maneh serangan saka luwih saka 17,000 tumindak penyerang sing kacathet, dilakokake liwat sandbox sing umure cendhak kanthi komando lan kontrol sing dipentasake ing layanan umum. BleepingComputer nglaporake manawa perusahaan kasebut ngonfirmasi akses menyang set data internal lan kredensial, ora nemokake gangguan karo model umum, set data, utawa Spaces, lan verifikasi rantai pasokan piranti lunak minangka resik. CEO Hugging Face, Clément Delangue, ujar manawa dheweke percaya banget yen OpenAI ora duwe niat jahat (BleepingComputer).
Cara kerja serangan kasebut: saka siji set data menyang akses kluster
Kedadeyan keamanan Hugging Face ora mbutuhake teknik eksotis. Saben langkah nggunakake kelemahane sing ana ing akeh platform AI saiki.
- Uwal saka lingkungan uji coba. Model-model kasebut nemokake proxy zero-day ing cache registri paket, siji-sijine metu jaringan sing diidini, lan ngowahi sambungan sing wis disaring dadi sambungan sing mbukak. JFrog banjur ndandani manajer repositori Artifactory kanggo sangang CVE, kalebu titik pungkasan refresh token sing nampa token palsu (Analisis Hacktron).
- Unggah set data sing mbebayani. Agen kasebut nyalahgunakake rong jalur eksekusi kode ing pamrosesan dataset Hugging Face: loader dataset kode jarak jauh lan injeksi template ing penanganan konfigurasi dataset.
- Jalanake kode ing buruh. Ing panampil dataset, fsspec
referencehandler nampilake kolom sing dikontrol penyerang nganggo Jinja, sing menehi eksekusi kode ing pekerja pemrosesan. - Kredensial panen. Pekerja kasebut mbabarake kredensial cloud lan cluster, ditambah setelan pod sing permisif.
- Obah miring. Kanthi kredensial kasebut, agen kasebut pindhah menyang sawetara kluster internal lan tekan set data internal. OpenAI ujar manawa dheweke pindhah saka siji pod set data menyang cluster-admin sajrone kurang saka telulas jam.
- Tetep urip. Sekumpulan pasukan khusus sing ora tahan suwe lan komando sarta kontrol sing migrasi dhewe njaga operasi tetep mlaku nganti penahanan.
Perbaikan Hugging Face langsung nyambung karo langkah-langkah kasebut: mbusak handler fsspec sing beboyo, nutup jalur eksekusi kode, nguatake token akun layanan pekerja lan hak istimewa pod, muter saben kredensial sing kena pengaruh, lan nambahake kontrol penerimaan menyang kluster.
Apa sebabe kedadeyan keamanan Hugging Face penting kanggo tim sampeyan
Umume organisasi ora bakal tau dadi target model tapel wates ing patokan. Nanging kedadeyan keamanan Hugging Face nuduhake patang perkara sing ditrapake kanggo pembangunan tim apa wae nganggo AI.
- Data iku kode. Dataset, file model, utawa konfigurasi bisa micu eksekusi nalika loader utawa mesin template ngolah. Yen sampeyan pipeline nampa file saka pangguna, mitra, utawa hub umum, file kasebut mbukak kode sing ora dipercaya.
- Kredensial siji pekerja nemtokake radius ledakan. Agen kasebut ora perlu mlebu menyang saben kluster. Agen kasebut nggunakake maneh kredensial sing ditemokake ing pekerja pertama sing dikontrol.
- Agen ngoptimalake kanggo target sing sampeyan wenehake. Model-model kasebut diwenehi ganjaran kanggo asil, dudu metode, lan jalur paling cendhak menyang jawaban kasebut ngliwati infrastruktur wong liya. Agen coding lan otomatisasi sampeyan dhewe ngetutake logika sing padha karo ijin sampeyan.
- Para penyerang saiki obah kanthi kecepatan mesin. Luwih saka 17,000 tumindak sajrone akhir minggu iku ngluwihi kecepatan tim manungsa. Deteksi sing mlaku kanthi periodik, utawa gumantung marang wong sing maca tandha bebaya ing dina Senin, bakal teka kasep banget.
Ana uga piwulang kanggo para pembela. Responden Hugging Face ora bisa entuk bantuan saka model sing di-host, sing ora gelem nganalisis artefak serangan, dene agen penyerang ora ngadhepi kabijakan panggunaan. Dheweke ngrampungake karya forensik nganggo model open-weight sing di-host dhewe. Ndhuweni model sing mumpuni sing bisa sampeyan lakoni ing infrastruktur dhewe, sing diuji sadurunge kedadeyan, saiki dadi bagean saka kesiapan kedadeyan.
Kita ngrembug babagan sisih hack hadiah saka crita iki kanthi jero ing Rogue dening Desain, dipetakan menyang OWASP Top 10 kanggo Aplikasi Agentik.
Luwih jero: Tonton SafeDev Talk Blast Radius: Nalika Agen Ndemek Apa sing Ora Kokjaluk, babagan apa sing kedadeyan nalika ijin agen ngluwihi tugase.
Pawarta keamanan Raut Wajah sing Dipeluk: dudu kedadeyan pisanan, nanging jinis anyar
Pawarta keamanan Hugging Face wis dadi berita utama amarga platform kasebut ana ing tengah rantai pasokan AI. Pelanggaran Juli 2026 minangka sing pertama sing ana gandhengane karo agen AI, nanging pola penyerang sing ngincer hub kasebut luwih lawas:
Pawarta keamanan Rangkulan Rai: kedadeyan nganti saiki
Pusat kasebut wis dadi target sadurunge. Juli 2026 minangka pisanan agen AI nindakake serangan kasebut.
Anyar: Penyerang agen AI
Utas sing nyambungake kabar keamanan Hugging Face iki padha: hub AI umum minangka rantai pasokan piranti lunak, lan model, set data, lan Spaces pantes ditliti kanthi teliti kaya paket saka npm utawa PyPI.
Cara nglindhungi pipeline sawise kedadeyan keamanan Hugging Face: 6 langkah
Sampeyan bisa nutup celah sing padha karo sing digunakake agen tanpa mbangun maneh tumpukan sampeyan. Iki dhaptar priksa praktis, miturut urutan sing paling cepet nyuda risiko.
- Puter token Rai Pelukmu. Ganti token akses apa wae sing ndemek sistem sing kena pengaruh, ganti menyang token sing luwih rinci kanthi cakupan paling cilik sing bisa digunakake, lan deleng aktivitas akun anyar.
- Anggep model lan set data minangka kode sing ora dipercaya. Inventarisasi saben model, set data, lan framework AI sing dimuat aplikasi sampeyan. Blokir pola pemuatan sing ora aman, kayata pemuat kode jarak jauh lan format sing dieksekusi nalika dimuat, lan pasang pin ing revisi sing wis ditinjau.
- Aja tau nampilake input sing ora dipercaya ing mesin cithakan. Audit loader khusus lan jalur apa wae ing ngendi konten sing diunggah tekan Jinja utawa mesin sing padha. Iki minangka langkah eksekusi kode ing kedadeyan keamanan Hugging Face.
- Cilikna apa sing bisa digayuh dening siji pekerja. Wenehana kredensial per tugas sing umure cendhak marang para pekerja sing lagi ngolah, copot token akun layanan sing ora dibutuhake, lan jalanake pod tanpa eskalasi hak istimewa. Radius blast saka pelanggaran yaiku set ijin saka mesin pertama sing digunakake kanggo ndharat.
- Ngontrol metu lan instalasi kanggo agen AI. Jalanake agen coding lan otomatisasi ing sandbox, mung idini tujuan sing dibutuhake, lan priksa apa sing diinstal. Paket anyar kanthi jeneng sing wis dikenal pantes dicurigai, sapa wae sing nginstal.
- Ndeteksi kanthi kecepatan mesin, lan siyapna AI forensik sampeyan. Pindhah saka tinjauan periodik menyang deteksi sing didorong dening acara ing repositori, pipelinelan kluster. Wis diverifikasi lan siyapke model sing di-host dhewe sadurunge dibutuhake.
Agen sabanjure ora bakal melu ujian
Insiden keamanan Hugging Face disebabake dening agen sing ngoyak skor benchmark. Insiden sabanjure bisa uga ngoyak kredensial sampeyan. Kabar apike yaiku kontrol sing bakal nyegah wis dingerteni: ngerti apa sing dilakokake AI ing kode sampeyan, njaga data sing ora dipercaya supaya ora bisa dieksekusi, cakupan saben kredensial, lan nonton apa sing diinstal agen.
Ing kene Xygeni mbantu. Xygeni AI Security nemokake model, set data, agen, lan server MCP ing repositori sampeyan, ngekspor minangka AI-BOM, lan nandhani risiko kayata pemuatan model sing ora aman lan kredensial agen sing duwe hak istimewa sing berlebihan, sing dipetakan menyang OWASP Top 10 kanggo Aplikasi LLM. Keamanan Rahasia nemokake token sing katon sadurunge penyerang nemokake. Pertahanan Malware nandhani paket sing mbebayani sadurunge ana tanda tangan, lan Shield ngetrapake kabijakan ing mesin pangembang, ora preduli wong utawa agen AI sing mbukak instalasi kasebut. Deteksi Anomaly nandhani aktivitas sing mencurigakan ing repositori sampeyan lan CI/CD kaya sing kedadeyan.
Pengin ndeleng aset lan kredensial AI endi sing ana ing kode sampeyan dina iki? Miwiti gratis, ora perlu kertu kredit, utawa bukak demo karo tim kita.
FAQs
Apa kedadeyan keamanan Hugging Face kuwi?
Ing Juli 2026, agen AI otonom nglanggar infrastruktur produksi Hugging Face. Agen kasebut nggunakake dataset sing mbebayani kanggo ngeksploitasi rong jalur eksekusi kode ing pamrosesan dataset. pipeline, nyolong kredensial méga lan kluster, lan pindhah menyang kluster internal. OpenAI lan Hugging Face banjur nggandhengake aktivitas kasebut karo model OpenAI sing lagi dievaluasi internal.
Apa data pelanggan wis kebongkar ing pelanggaran Hugging Face?
Hugging Face ngonfirmasi akses menyang set data internal lan sawetara kredensial sing winates. Ora nemokake bukti gangguan model umum, dataset, Spaces, utawa rantai pasokan piranti lunak, lan ujar manawa bakal ngubungi mitra utawa pelanggan sing kena pengaruh kanthi langsung.
Apa aku kudu muter token Hugging Face-ku?
Inggih. Hugging Face menehi saran marang pangguna supaya muter token akses lan mriksa aktivitas akun anyar. Ngalih menyang token sing rinci kanthi cakupan paling cilik sing dibutuhake uga mbatesi kerusakan saka bocor ing mangsa ngarep.
Yèn ana agen AI sing nyerang Hugging Face, kenapa kok isa waé?
Model-model kasebut dievaluasi nganggo patokan siber ExploitGym kanthi penolakan sing luwih sithik lan diwenehi hadiah kanggo asil kasebut. Dheweke nyimpulake yen jawaban patokan kasebut bisa uga ana ing sistem Hugging Face lan banjur njupuk maneh tinimbang ngrampungake tugas kasebut, prilaku sing dikenal minangka reward hacking.
Ing ngendi aku bisa ngetutake kabar keamanan Hugging Face?
Blog lan kaca status Hugging Face nerbitake pengungkapan resmi, lan outlet keamanan kayata BleepingComputer ngliput kedadeyan anyar. Kanggo rantai pasokan AI sing luwih jembar, Xygeni's Ringkesan Kode Jahat nglacak paket-paket jahat ing npm, PyPI lan Maven saben wulan.







