Соңғы бірнеше жылда қолданба қауіпсіздігінің айқын шекарасы болды: репозиторий және pipelineБасқару элементтері, сканерлеу жұмыстары, командалар бір нәрсенің өндіріске жіберілетінін немесе жіберілмейтінін шешетін жер осы еді. Мұның бәрі бір болжамға негізделген: әзірлеуші жүйеге қай кодты және қандай тәуелділіктерді енгізетінін нақты таңдады.
Бұл болжам енді күшін жойды. Бүгінгі таңда кодтың өсіп келе жатқан үлесі жасанды интеллект агентімен жазылады, ұсынылады немесе орнатылады, көбінесе ешкім енгізіліп жатқан нәрсенің атауына қарамайды.cisКодқа енгізілген ақпарат қозғалады, шабуыл да қозғалады. Ол процестің ең алдыңғы жағына өтеді: код жасалған сәтте, көмекшінің ішінде және оны конфигурациялайтын файлдарда.
Бұл сіздің жасанды интеллектіңіздің шабуыл беті: әрбір модель, агент, MCP сервері, дағды және жасанды интеллект ұсынған тәуелділік, енді адам оны қарап шыққанға дейін тәуекел тудыруы мүмкін. Әзірлеушілеріңіз сенетін сол жасанды интеллект енді оның бір бөлігі. Бұл болашақ тәуекел емес. Бұл бұрыннан болған өзгеріс, және іс жүзінде ол қалай көрінеді.
Шабуылдар толқыны, оқшауланған оқиға емес
Төмендегілердің ешқайсысы зертханалық тәжірибеші емесcisнемесе гипотетикалық. Бұлар өткен жылғы қоғамдық, құжатталған оқиғалар, және әрқайсысы жасанды интеллект агентінің өзіне сәл жақынырақ:
- 2025 жылдың тамыз айы, s1ngularity: Шабуылдаушылар ең көп қолданылатын құрастыру жүйелерінің бірі Nx-тен жариялау токенін ұрлап, зиянды нұсқаларын npm-ге көшірді, әзірлеушілердің машиналарындағы құпияларды іздеу үшін жасанды интеллект құралдарын пайдаланды.
- 2025 жылдың қыркүйегі, бор/түзету: npm-нің қамтуы бойынша ең үлкен кемшіліктерінің бірі, аптасына екі миллиардтан астам жүктеу саны бар 18 пакет, бір ғана қызмет көрсетушінің тіркелгісін бұзу арқылы басып алынды.
- 2025 жылдың қыркүйегі, Шай-Хулуд: npm арқылы өздігінен тарала алатын алғашқы құжатталған құрттардың бірі. Оның қараша айындағы екінші толқыны агрессивтірек болды және 25 000-нан астам қоймада ашылған құпиялармен байланысты болды.
- 2025 жылдың қазан айы, пайдаланылмаған импорт: PhantomRaven науқанының бөлігі, онда жасанды интеллект галлюцинациясы NPM-ге slopsquatting әдісі арқылы нақты зиянды бағдарламаны енгізді.
- Биыл ClawHub: ең көп жүктелген жеті дағдының бесеуі зиянды бағдарлама болған уланған жасанды интеллект дағдыларының тізілімі.
Сала да дәл осындай қорытындыны ресми түрде жасауда. LLM қолданбаларына арналған OWASP Top 10 жедел енгізуді бірінші орынға қояды. OWASP MCP Top 10 (қазіргі уақытта бета-нұсқасында) агенттер құралдармен сөйлесу үшін пайдаланатын хаттама агенттеріне бағытталған. Инкубатор сатысындағы жаңа жоба OWASP Agentic Skills Top 10 зиянды дағдыларды ең үлкен қауіп ретінде атайды. OWASP әдетте мұқият әрекет етеді; бірден үш фронтты, олардың бірін шұғыл түрде ашу, бұл қаншалықты жылдам жүріп жатқанын көрсетеді.
Үшеуі де бір идеяға тоғысады: модельге қатысты нұсқаулар, құралдар және конфигурациялар енді жасанды интеллект шабуыл бетінің бөлігі болып табылады және олар әдетте сіздің жеке репозиторийіңізде орналасқан. Бұл сіздің командаларыңызға қоюға тұрарлық бірінші сұрақты тудырады: сіздің репозиторийіңізде орналасқан ережелер файлдарын, дағдыларды және MCP конфигурацияларын кім қарайды?
1-вектор: уланған дағды
Дағды - бұл жасанды интеллект агентіне тапсырманы қалай орындау керектігін үйрететін нұсқаулар мен мүмкіндіктер файлы. Бұл агенттің мінез-құлқын қалыптастырудың жалғыз жолы емес (ережелер файлдары, hooks, және MCP конфигурациялары да солай істейді), бірақ олардың барлығы бір қасиетті бөліседі: олар репозиторий ішінде кодпен бірге жүреді.
Биылғы зерттеу осы дағдылардың 4,000-ын қарастырды:
- 36%-ында кем дегенде бір қауіпсіздік кемшілігі болған.
- 13.4%-ы өте ауыр халде болды.
- Жүзге жуық құрылғыда зиянды бағдарламалар болған.
Негізгі өзгеріс: шабуылдаушы енді сіздің кодыңызды нысанаға алмайды. Олар сіздің кодыңызды жазатын агентті нысанаға алады, модель оқитын және жұмыс істейтін деп санайтын жасырын нұсқауларды (кейде көрінбейтін таңбаларды пайдаланады) орналастырады. Адам шолушы мақұлдайды pull request адал ниетпен, себебі олардың көзіне файл таза көрінеді. Модель шолушы ешқашан көрмеген нұсқауларды түсіндіреді.
Бұл теориялық емес. CVE-2025-59536 (CVSS 8.7) зиянды конфигурация пайдаланушы сенім диалогын қабылдағанға дейін командаларды орындай алатын сенімсіз репозиторийден Claude Code бағдарламасын іске қосуға мүмкіндік берді. Екінші осалдық, CVE-2026-21852, пайдаланушы ештеңені мақұлдамай, API кілтін жоба басқаратын конфигурация арқылы шығаруға мүмкіндік берді.
H2: 2-вектор: тайғақ секіру
Бұл атау «slop» (кейде жасанды интеллект жасайтын қоқыс) классикалық typosquatting шабуылымен үйлеседі. Typosquatting адам қателігіне байланысты: шабуылдаушы танымал атауға жақын пакет атауын тіркейді және қатені күтеді. Бұл кездейсоқ.
Еңкейіп секіру қатені күтпейді. Осы сессия барысында сілтеме жасалған зерттеуде, Жасанды интеллект модельдері жасаған пакет сілтемелерінің 19.7%-ы жоқ пакеттерге сілтеме жасаған. Модельдер бір атауларды қайта-қайта елестетуге бейім, сондықтан шабуылдаушы жасанды интеллекттің қайсысы ойлап тапқанын бақылайды, сол атауларды зиянды кодпен тіркейді және жасанды интеллект ұсынған келесі орнату оны қолданбаңызға енгізуін күтеді.
Масштаб кішкентай емес: 2025 жылы 450 000-нан астам жаңа зиянды пакеттер анықталды. Екі мысал нақтылай түседі:
- Зерттеуші зиянсыз сынақ пакетін отырғызды құшақтасу бет-клиі ойды дәлелдеу үшін. Ол тіркелген үш ай ішінде 30 000-нан астам жүктеу.
- пайдаланылмаған импорттарЖоғарыдағы уақыт шкаласынан, дәл осы әдісті қолданып, жалпыға қолжетімді тізілімде тірі зиянды бағдарлама расталды. Бұл сынақ емес еді.
Мәселе бұл сіздің командаңызға бола ма, жоқ па, сонда емес. Мәселе бүгін ешкім қарамай, қанша жасанды интеллект ұсынған пакеттер сіздің кодыңызға кіріп жатқанында.
Жауап: standardолар қуып жетіп жатыр
Екі күш параллель жүріп жатыр. Шабуылдар үдей түскен кезде, standardденелер реакция жасайды:
- NIST SP 800-218A қауіпсіз бағдарламалық жасақтаманы әзірлеу шеңберін жасанды интеллект модельдеріне тән тәжірибелермен, соның ішінде тұтастық пен шығу тегінің дәлелдерімен кеңейтеді.
- In Мамыр 2026, CISА және оның халықаралық G7 серіктестері жасанды интеллектке арналған бағдарламалық жасақтама материалдарының тізімі бойынша нұсқаулық жарияланды, онда сол тізімге не жататынын анықтады: модельдер, деректер жиынтығы, компоненттер, провайдерлер және тәуелділіктер.
Бағыт айқын: SBOM жасанды интеллект-бомға кеңейіп келеді. Сіз түгендей алмайтын нәрсені куәландыра немесе растай алмайсыз. Ал бүгінде көптеген ұйымдар мыналарды жасай алмайды:
- 43% олар қазірдің өзінде пайдаланып жатқан жасанды интеллект құралдарын аудиттей немесе түгендей алмайды.
- 79% өз ортасында жұмыс істейтін жасанды интеллект агенттері мен MCP жүйелеріне көрінбейді.
Реттелетін ортада бұл қор жақсы тәжірибеден келісімшарттық күтуге немесе сәйкестік міндеттемесіне ауысады. Бірақ қор тек сізде не бар екенін көрсетеді. Өздігінен ол шабуылды блоктамайды.
The gap: AppSec үшін EDR
SAST және SCA құралдар агенттің әрекетін немесе оның конфигурациясын емес, код пен тәуелділіктерді талдауға арналған. EDR процестер мен желілік қосылымдарды көреді, бірақ әдетте тәуелділікті немесе агент конфигурациясын түсіндіру үшін қолданба қауіпсіздігі контексті жетіспейді. Құралдардың осы екі санатының арасында код қазір жасалып жатқан және жасанды интеллект шабуылының беті орналасқан жер арасында алшақтық бар.
Бұл алшақтықтың үш соқыр нүктесі бар:
- Жасанды интеллект активтері. Модельдер, агенттер және MCP серверлері сіздің құрылғыңызда көрсетілмейді SASTнемесе SCAрадар. Көре алмайтын нәрсені түгендей алмайсыз.
- Конфигурация файлдары. Дағдылар, ережелер және MCP конфигурациялары агенттің мінез-құлқын қалыптастырады, бірақ әдетте олар зиянсыз қарапайым мәтін сияқты қарастырылады.
- Пакеттерді орнату. A зиянды тәуелділік зиянды екені белгілі болғанға дейін іске қосылуы мүмкін, содан кейін ешкімнің мақұлдауынсыз құпиялар мен белгілерді эксфильтрациялаңыз.
Xygeni оны қалай жабады
EDR соңғы нүктелер үшін не істейді, Ксигени Shield жасанды интеллект көмегімен жасалған әзірлеу өмірлік циклі үшін жұмыс істейді: ол қолданба қауіпсіздігі контекстін түсіне отырып, код жасалған жерді қорғайды.
- Көріну орны SAST және SCA қол тигізбеңіз. Xygeni зиянды дағдылар мен ережелер файлдарын белгілейді, MCP конфигурацияларын талдайды және аудитке дайын құрылым жасайды AI-BOM, OWASP LLM, MCP және агенттік дағдылардың үздік 10 тізіміне енгізілген.
- Тек қолтаңбалар ғана емес, ақыл-ой да маңызды. MEW (зиянды бағдарламалар туралы ерте ескерту) пакеттің мінез-құлқы мен тәуекелін талдап, оны CVE, ескерту немесе қоғамдық қолтаңба пайда болғанға дейін бұғаттайды. Жаңартылған желілік барлау белгілі зиянды инфрақұрылымға қосылымдарды үзеді.
- Кодтан соңғы нүктеге дейін бір басқару нүктесі. Еуропалық деректердің егемендігі мен сәйкестік дәлелдері енгізілген, қоршаған ортаны қайта құрылымдамай орналастырылған бірыңғай агент.
Тікелей көрсетілім кезінде бұл саясатты қолдану жасанды интеллект агентінің зиянды пакетті орнату аяқталғанға дейін үш түрлі орнату жолы (виртуалды орта, пакет менеджері және тікелей жүктеу) арқылы орнату әрекетін бұғаттады, олардың барлығы нақты уақыт режимінде тіркеледі және SOC-қа экспортталады. Бірінші жобаны тіркеу әдетте шамамен бір сағатты алады; бүкіл ұйымды қамтуды кеңейту әдетте құрылымға байланысты бір-екі аптаға созылады.
FAQ
Бір абзацта жасанды интеллект шабуылының беті қандай?
Жасанды интеллект шабуылының беті - бұл модельдер, агенттер, MCP серверлері, дағдылар, ережелер файлдары және жасанды интеллект ұсынған тәуелділіктер жиынтығы, олар арқылы тәуекел қолданбаға енуі мүмкін, көбінесе адам оны қарап шыққанға дейін. Ол дәстүрлі код пен тәуелділіктерден тыс, жасанды интеллект агентінің қалай әрекет ететінін қалыптастыратын конфигурация файлдары мен нұсқауларды қамтиды.
Жасанды интеллект көмекшісі ұсынған пакет атауының галлюцинация екенін немесе жай ғана заңды, бірақ таныс емес екенін қалай білуге болады?
Орнатпас бұрын тексеруден өтіңіз: тек атауға сенудің орнына тізілімді тексеріп, пакеттің нақты мазмұны мен ниетін талдаңыз. Xygeni бұл тексеруді кодты жасау кезінде нақты уақыт режимінде автоматтандырады, сондықтан орнату пакет сіз танитын пакет пе, жоқ па, іске қосылмас бұрын бекітіледі немесе бұғатталады.
Слопсквоттинг барлық жасанды интеллект модельдеріне бірдей әсер ете ме?
19.7% көрсеткішінің артындағы зерттеу бірнеше модельді қамтыды және мәселенің кең таралғанын, олардың арасында тек аз ғана айырмашылық бар екенін анықтады. Бұл бір көмекшіге тән кемшілік емес, жасанды интеллект көмегімен жасалған әзірлемелерге тән заңдылық.
Біз галлюцинацияланған немесе зиянды пакетті орнатқанымызды ретроактивті түрде тексере аламыз ба?
Иә. Xygeni платформасы тұтынушыларға анықталған зиянды пакеттердің сақталған дерекқорына қол жеткізуге мүмкіндік береді, оны сіздің бар компоненттеріңіздің қорынан іздеуге болады, сондықтан сіз бірнеше рет басу арқылы бұрыннан орнатылған кез келген нәрсенің белгілі қауіп екенін растай аласыз.
Бірнеше командасы бар орта ұйым үшін енгізу қанша уақытты алады?
Бірінші жобаны қабылдау әдетте шамамен бір сағатты алады. Толық ұйымды қамту әдетте команда құрылымы мен жұмыс істеу тәсілдеріне байланысты бір-екі аптаға созылады.
Жасанды интеллект шабуылының бетін тегін картаға түсіріңіз
Қолданбаңыздың жасанды интеллект ізін тегін картаға түсіріңіз: тіркелгі жасаңыз және бірнеше минут ішінде алғашқы сканерлеуді іске қосыңызБір ғана қолданбадан бастаңыз, оның ішінде қандай жасанды интеллект бар екенін және жасанды интеллект шабуыл бетінің қай бөлігі қауіпті екенін көріңіз.
*Жоғарыда аталған кейбір мүмкіндіктер Xygeni Shield арқылы жүзеге асырылады және ASPM/AI қауіпсіздік модульдері; қолжетімділігі жоспарға байланысты өзгеруі мүмкін. Қараңыз xygeni.io ағымдағы өнім туралы толық ақпарат алу үшін.
