Salila sababaraha taun ka pengker, kaamanan aplikasi ngagaduhan wates anu jelas: gudang sareng pipelineDi dinya tempat kontrolna, tempat scan-na dijalankeun, tempat tim mutuskeun naha aya anu dikirim ka produksi. Sadayana dumasar kana hiji anggapan: pamekar sacara éksplisit milih kode mana sareng dependensi mana anu lebet kana sistem.
Anggapan éta teu lumaku deui. Ayeuna, beuki loba kode anu ditulis, disarankeun, atanapi dipasang ku agén AI, seringna tanpa aya anu ningali nami naon anu ditarik. Nalika decisNaon anu asup kana kode bakal gerak, kitu ogé seranganna. Éta bakal gerak ka hareup pisan tina prosés: nalika kode dijieun, di jero asistén éta sorangan sareng dina file anu ngonpigurasikeunana.
Ieu permukaan serangan AI anjeun: unggal modél, agén, server MCP, kaahlian, sareng katergantungan anu disarankeun ku AI anu ayeuna tiasa ngenalkeun résiko sateuacan manusa mariosna. AI anu sami anu dipercaya ku pamekar anjeun ayeuna janten bagian tina éta. Ieu sanés résiko ka hareup. Ieu mangrupikeun parobihan anu parantos kajantenan, sareng ieu kumaha rupana dina praktékna.
Gelombang serangan, lain kajadian anu kapisah
Euweuh sahiji di handap ieu anu mangrupa palaku laboratoriumcise atanapi hipotetis. Ieu mangrupikeun kajadian umum anu didokumentasikeun, ampir sadayana ti taun kamari, sareng masing-masing langkung caket kana agén AI éta sorangan:
- Agustus 2025, s1ngularitas: Para panyerang maok token penerbitan ti Nx, salah sahiji sistem build anu paling seueur dianggo, teras ngirimkeun vérsi jahat ka npm, nganggo alat AI pikeun moro rusiah dina mesin pamekar.
- Séptémber 2025, kapur tulis/debug: salah sahiji kompromi panggedéna npm dumasar jangkauan, 18 pakét kalayan langkung ti dua milyar unduhan mingguan, dicandak alih ngalangkungan pambajakan akun hiji pangurus.
- Séptémber 2025, Shai-Hulud: salah sahiji cacing anu munggaran didokuméntasikeun anu tiasa nyebarkeun diri ngalangkungan npm. Gelombang kaduana, dina bulan Nopémber, langkung agrésif sareng aya hubunganana sareng rusiah anu kakeunaan di langkung ti 25,000 repositori.
- Oktober 2025, impor-anu-teu-kagunaan: bagian tina kampanye PhantomRaven, dimana halusinasi AI ngenalkeun malware nyata kana npm ngaliwatan téknik slopsquatting.
- Taun ieu, ClawHub: pendaptaran kaahlian AI anu diracun dimana lima tina tujuh kaahlian anu paling sering diunduh mangrupikeun malware.
Industri ieu ngaformalkeun kacindekan anu sami. OWASP Top 10 pikeun Aplikasi LLM nempatkeun suntikan prompt di nomer hiji. OWASP MCP Top 10 (ayeuna dina béta) narékahan agén protokol anu dianggo pikeun ngobrol sareng alat. OWASP Agentic Skills Top 10, proyék tahap Inkubator anyar, nyebatkeun kaahlian jahat salaku résiko utama. OWASP biasana gerak kalayan ati-ati; muka tilu front sakaligus, salah sahijina sacara gancang, nyarioskeun hal ngeunaan kumaha gancangna ieu gerak.
Katiluna ngahiji dina ideu anu sami: pitunjuk, alat, sareng konfigurasi di sakitar modél ayeuna janten bagian tina permukaan serangan AI, sareng biasana aya di jero repositori anjeun nyalira. Anu nimbulkeun patarosan munggaran anu pantes ditanyakeun ka tim anjeun: saha anu marios file aturan, kaahlian, sareng konfigurasi MCP anu aya dina repo anjeun?
Vektor 1: kaahlian anu diracun
Kamampuh nyaéta sakumpulan parentah sareng kamampuan anu ngajarkeun agén AI kumaha ngalaksanakeun hiji tugas. Éta sanés hiji-hijina cara pikeun ngabentuk paripolah agén (file aturan, hooks, sareng konfigurasi MCP ngalakukeun hal anu sami), tapi sadayana ngabagi hiji sipat: aranjeunna ngarambat di jero repositori, sareng kodeu.
Panalungtikan taun ieu marios 4,000 tina kaahlian ieu:
- 36% ngagaduhan sahenteuna hiji cacad kaamanan.
- 13.4% éta kritis.
- Ampir 100 jalma langsung mawa muatan jahat.
Parobahan inti: panyerang teu deui ngincer kode anjeun. Aranjeunna ngincer agén anu nyerat kode anjeun, melak parentah anu disumputkeun (kadang-kadang nganggo karakter anu teu katingali) anu dibaca ku modél sareng dianggap beroperasi. Pangulas manusa nyatujuan pull request kalawan niat anu sae sabab, dina panon maranéhna, éta file katingalina bersih. Modél éta napsirkeun parentah anu teu pernah katingali ku nu marios.
Ieu sanés téoritis. CVE-2025-59536 (CVSS 8.7) ngamungkinkeun peluncuran Claude Code tina repositori anu teu dipercaya, dimana konfigurasi jahat tiasa ngajalankeun paréntah sateuacan pangguna nampi dialog kapercayaan. Kerentanan kadua, CVE-2026-21852, ngamungkinkeun éksfiltrasi konci API ngalangkungan konfigurasi anu dikontrol ku proyék, tanpa pangguna satuju kana nanaon.
H2: Vektor 2: jongkok lalaunan
Nami ieu ngagabungkeun "slop" (barang rongsokan anu kadang dihasilkeun ku AI) sareng serangan typosquatting klasik. Typosquatting gumantung kana kasalahan manusa: panyerang ngadaptarkeun nami pakét anu caket sareng anu populér teras ngantosan salah ketik. Éta acak.
Ngagoler bari jongkok teu ngantosan kasalahan. Dina panilitian anu dirujuk salami sési ieu, 19.7% tina rujukan pakét anu dihasilkeun ku modél AI nunjukkeun pakét anu teu aya. Modél condong ngahalusinasikeun nami anu sami sacara berulang-ulang, janten panyerang ningali nami mana anu diciptakeun ku AI, ngadaptarkeun nami-nami éta nganggo kode jahat, teras ngantosan pamasangan anu disarankeun ku AI salajengna pikeun narikna kana aplikasi anjeun.
Skalana teu leutik: leuwih ti 450,000 paket jahat anyar diidentifikasi dina taun 2025. Dua conto ngajantenkeun éta konkret:
- Saurang panalungtik melak pakét tés anu teu bahaya anu disebut raray-ngarangkul pikeun ngabuktikeun maksudna. Éta ngadaptar leuwih ti 30,000 unduhan dina tilu bulan.
- impor-anu teu dianggo, tina garis waktu di luhur, parantos dikonfirmasi malware, hirup dina pendaptaran umum, nganggo téknik ieu. Éta sanés tés.
Patarosanna sanés naha ieu tiasa kajantenan ka tim anjeun. Tapi sabaraha pakét anu disarankeun ku AI anu lebet kana kode anjeun ayeuna tanpa aya anu ningali.
Tanggapanana: standards nuju nyusul
Dua kakuatan lumpat sajajar. Bari serangan ngagancangan, standardawakna ngaréaksikeun:
- NIST SP 800-218A ngalegaan kerangka pamekaran perangkat lunak anu aman kalayan prakték khusus pikeun modél AI, kalebet bukti integritas sareng asal-usulna.
- In May 2026, CISA sareng mitra G7 internasionalna pedoman anu diterbitkeun ngeunaan Daftar Bahan Perangkat Lunak pikeun AI, anu ngajelaskeun naon anu kedah aya dina inventaris éta: modél, kumpulan data, komponén, panyadia, sareng katergantungan.
Arahna jelas: SBOM nuju dimekarkeun jadi AI-BOM. Anjeun teu tiasa nyertifikasi atanapi nyaksian naon anu anjeun teu tiasa inventaris. Sareng ayeuna, kaseueuran organisasi teu tiasa:
- 43% teu tiasa ngaudit atanapi ngainventarisasi alat-alat AI anu parantos dianggo ku aranjeunna.
- 79% teu boga pisibilitas kana agén AI sareng sistem MCP anu dijalankeun dina lingkunganana sorangan.
Dina lingkungan anu diatur, inventaris ieu pindah tina prakték anu saé ka ekspektasi kontraktual atanapi kawajiban patuh. Tapi inventaris ngan ukur ngawartosan anjeun naon anu anjeun gaduh. Sorangan, éta henteu meungpeuk serangan.
Celahna: EDR pikeun AppSec
SAST jeung SCA Parabot dirancang pikeun nganalisis kode sareng katergantungan, sanés paripolah agén atanapi konfigurasina. Hiji EDR ningali prosés sareng sambungan jaringan, tapi biasana kakurangan kontéks kaamanan aplikasi pikeun napsirkeun dependensi atanapi konfigurasi agén. Di antara dua kategori alat éta aya celah, persis dimana kode ayeuna keur dijieun, sareng persis dimana permukaan serangan AI aya.
Celah éta ngagaduhan tilu titik buta:
- Aset AI. Modél, agén, sareng server MCP henteu némbongan dina anjeun SAST's atanapi SCAradar. Anjeun teu tiasa ngainventarisasi naon anu anjeun teu tiasa tingali.
- Berkas konfigurasi. Kaahlian, aturan, sareng konfigurasi MCP ngabentuk paripolah agén tapi biasana diulas sapertos téks polos anu teu bahaya.
- Pamasangan pakét. A katergantungan jahat tiasa dijalankeun sateuacan dipikanyaho jahat, teras ngaluarkeun rusiah sareng token tanpa aya anu satuju.
Kumaha Xygeni nutup éta
Naon anu dilakukeun ku EDR pikeun titik tungtung, Xygeni Shield lumaku pikeun siklus hirup pamekaran anu dibantuan AI: éta ngajaga tempat kode dijieun bari ngartos kontéks kaamanan aplikasi.
- Visibilitas dimana SAST jeung SCA teu nepi. Xygeni nandakeun file kaahlian jahat sareng aturan, nganalisis konfigurasi MCP, sareng ngawangun file anu siap audit AI-BOM, dihubungkeun sareng OWASP LLM, MCP, sareng 10 Kaahlian Agentik Top.
- Kacerdasan, lain ngan ukur tanda tangan. MEW (Malware Early Warning) nganalisis paripolah sareng résiko pakét pikeun meungpeuk éta sateuacan CVE, saran, atanapi tanda tangan publik aya. Intelijen jaringan anu pangénggalna motong sambungan ka infrastruktur anu dipikanyaho jahat.
- Hiji titik kontrol, ti kode ka titik ahir. Hiji agén tunggal, anu dianggo tanpa ngarancang ulang lingkunganana, kalayan kadaulatan data Éropa sareng bukti patuh kana aturan anu tos aya.
Dina démo langsung, palaksanaan kawijakan ieu ngahalangan usaha agén AI pikeun masang pakét jahat dina tilu jalur pamasangan anu béda (lingkungan virtual, manajer pakét, sareng unduhan langsung) sateuacan pamasangan réngsé, sadayana kacatet sacara real time sareng tiasa diékspor ka SOC. Ngamimitian proyék munggaran biasana peryogi sakitar sajam; manjangkeun jangkauan di sakumna organisasi biasana peryogi hiji dugi ka dua minggu, gumantung kana strukturna.
FAQ
Kumaha permukaan serangan AI dina hiji paragraf?
Beungeut serangan AI nyaéta sakumpulan modél, agén, server MCP, kaahlian, file aturan, sareng dependensi anu disarankeun ku AI anu tiasa dianggo ku résiko pikeun lebet kana aplikasi, seringna sateuacan manusa mariosna. Éta ngaleuwihan kode sareng dependensi tradisional pikeun ngalebetkeun file konfigurasi sareng pitunjuk anu ngabentuk kumaha agén AI kalakuanana.
Kumaha carana abdi terang upami nami pakét anu disarankeun ku asistén AI abdi téh halusinasi atanapi ngan saukur sah tapi teu wawuh?
Validasi sateuacan masang: pariksa pendaptaran sareng analisa eusi sareng maksud pakét anu saleresna tibatan ngan ukur percanten kana namina. Xygeni ngotomatisasi validasi ieu sacara real time salami generasi kode, janten pamasangan disatujuan atanapi diblokir sateuacan dijalankeun, naha pakét éta anjeun kenal atanapi henteu.
Naha slopsquatting mangaruhan sadaya modél AI sacara sami?
Panalungtikan di balik angka 19.7% ngawengku sababaraha modél sareng mendakan masalahna sumebar sacara lega, kalayan ngan ukur variasi leutik di antara aranjeunna. Ieu mangrupikeun pola dina pamekaran anu dibantuan AI, sanés cacad khusus pikeun hiji asistén.
Dupi urang tiasa mariksa sacara retroaktif naha urang parantos masang pakét halusinasi atanapi jahat?
Muhun. Platform Xygeni masihan konsumén aksés kana database anu dijaga tina pakét jahat anu dideteksi, anu tiasa dipilarian tina inventaris komponén anjeun anu tos aya, janten anjeun tiasa mastikeun dina sababaraha klik naha aya anu parantos dipasang mangrupikeun ancaman anu dipikanyaho.
Sabaraha lami waktos anu diperyogikeun pikeun implementasi pikeun organisasi ukuran sedeng anu gaduh sababaraha tim?
Ngamimitian proyék munggaran biasana peryogi waktos sakitar sajam. Ngaronjatkeun skala ka sakumna organisasi biasana peryogi waktos hiji dugi ka dua minggu, gumantung kana struktur tim sareng cara damelna.
Petakeun permukaan serangan AI anjeun, gratis
Petakeun tapak suku AI aplikasi anjeun sacara gratis: jieun akun sareng ngajalankeun scan munggaran dina sababaraha menitMimitian ku hiji aplikasi, tingali AI naon anu aya di jerona, teras tingali bagian mana tina permukaan serangan AI anjeun anu bahaya.
*Sababaraha kamampuan anu disebutkeun di luhur dikuatkeun ngalangkungan Xygeni Shield sareng ASPM/Modul Kaamanan AI; kasadiaan tiasa bénten-bénten gumantung kana rencana. Tingali xygeni.io kanggo detil produk ayeuna.
