Дағды файлы. Ережелер файлы. MCP сервер конфигурациясы. Үш жол қарапайым мәтін, commitқұжаттама сияқты тексерілген, құжаттама сияқты қаралған және олардың ешқайсысы кодқа ұқсамайды. Соған қарамастан, әрқайсысы сіздің жасанды интеллект көмекшіңізге не істеуге нұсқау берілгенін және оған не жетуге рұқсат етілгенін тыныш қайта жаза алады. Бұл жасанды интеллект қауіпсіздігінің артындағы ыңғайсыз шындық. 2026 жылыСала екі жыл бойы жасанды интеллект жасаған кодта не бар екендігі туралы алаңдады. Ең қиын мәселе жасанды интеллект жеткізу тізбегінің өзі болып шықты: модельдер, агенттер, MCP серверлері және конфигурация файлдары қазір бастапқы код пен ашық бастапқы кодқа тәуелділіктермен қатар орналасқан, көбінесе түгенделмеген және қаралмаған. Міне, сондықтан жасанды интеллект жеткізу тізбегінің қауіпсіздігі өз алдына бір салаға айналды және дұрыс жасанды интеллект қауіпсіздік компаниясын таңдау дұрыс сканерді таңдау сияқты маңызды.
Шабуыл алаңы ешкімнің бюджетіне кірмеді
Бұрын бағдарламалық жасақтамада шабуылдаушының енуі мүмкін бірнеше орын болған: код, тәуелділіктер, pipelineЖасанды интеллект тағы екеуін қосты, және екеуі де тікелей жасанды интеллект жеткізу тізбегіне қосылды.
Модель және агент. Құралмен улану, жедел инъекция, кез келген адам ойлағаннан да асып түсетін агенттің автономиясы. MCP серверінің сипаттамасындағы жасырын нұсқаулық екінші ұшқыштың не істейтінін тыныш бағыттай алады, ал әзірлеуші оның ешқашан болғанын көрмейді.
Әзірлеушінің өзіндік ортасы. IDE, жасанды интеллекттің қосалқы ұшқыштары, MCP серверлері, агент CLI-лері. Модельдің не екенін білмейтін ескі AppSec сканерлеріне көрінбейді және операциялық жүйені бақылайтын және тәуелділіктің немесе MCP шақыруының не екенін білмейтін EDR-ге көрінбейді.
Мұның ешқайсысы теориялық емес. Соңғы он сегіз айда:
- Жасырын Юникодты «ережелер файлының артқы есігі» шабуылдаушыларға Copilot және Cursor конфигурация файлдарына көрінбейтін нұсқауларды енгізуге мүмкіндік берді, бұл көмекші жасаған кодты үнсіз артқы есігіне енгізді. GitHub 2025 жылы бұл туралы ескерту қосты.
- Танымал MCP көпіріндегі (CVSS 9.6) командалық инъекция қатесі түзетілгенге дейін 400 000-нан астам жүктеуге ұшырады, бұл сенімсіз MCP серверіне қосылу арқылы іске қосылған толық қашықтан кодты орындаудың алғашқы құжатталған жағдайы.
- Өздігінен таралатын npm құрты әзірлеушілердің өздерін жеткізу механизміне айналдырды, және бұл үлгі келесі айларда басқа экожүйелерде кеңінен қайталанды, бұл жасанды интеллект жеткізу тізбегінің қауіпсіздігіндегі сәтсіздік болды.
- Зерттеушілер LLM ұсынатын пакеттердің айтарлықтай бөлігі мүлдем жоқ екенін анықтады, шабуылдаушы нақты әзірлеуші модельден оларды импорттауды сұрамас бұрын «slopsquatted» атауларын тіркейді.
Google компаниясының жасанды интеллект бағдарламалық жасақтамасының жеткізу тізбегін қорғау бойынша жүргізген зерттеуі басқаша көзқараспен ұқсас қорытындыға келеді: 2023 және 2024 жылдары айналымда табылған модельдер деректерді сүзіп шығаратын немесе жүктелгеннен кейін артқы есікті орнататын кодты алып жүргенде заңды болып көрінді, және бұл түзету құралдың жаңа санаты емес, бұрын ешкім бақыламаған артефактілерге шығу тегі мен қол қою сияқты жеткізу тізбегі тәртібін қолдану болды. Бұл бір сөйлеммен айтқанда, жасанды интеллект жеткізу тізбегінің қауіпсіздік мәселесі: артефактілер жаңа, бірақ оларға қажетті тәртіп жаңа емес.
Неліктен сіздің қолданыстағы құралдарыңыз жұмыс істемей қалады
SAST кодты оқиды. SCA тәуелділіктер манифестін оқиды. Екеуі де модельдің не екенін, MCP сервері нені көрсететінін немесе дағды файлы агентке не істеу керектігін нұсқайтынын білмейді. Бұл алшақтық - «біз сканерлейтін код» мен «біз тыныш қабылдаған жасанды интеллект» арасындағы кеңістікте, жасанды интеллект дәуірінің шабуылдары пайда болатын дәл сол жер.
Нәтижесінде көлеңкелі жасанды интеллект санаты № пайда болады CISҚазіргі уақытта O келесі сұрақтарға жауап бере алады: біз қандай модельдерді іске қосып жатырмыз, қай агенттер неге қол жеткізе алады және өткен сейсенбіде ешкімге айтпай қай MCP серверін байланыстырды. Бұл сұраққа дұрыс жауап беру - жасанды интеллект жеткізу тізбегінің қауіпсіздігінің міндеті, және бұл жалпы AppSec құралдарының жетіспеушілігінің себебі.
Шын мәнінде, жасанды интеллект қауіпсіздігі нені білдіреді
Ксигени мұны үш өзара байланысты қозғалыс ретінде қарастыратын жасанды интеллект қауіпсіздік компаниясы SDLC: анықтау, анықтау және орындау.
Ашыңыз: сізде қандай жасанды интеллект бар екенін біліңіз
Репозиторийлеріңіздегі үздіксіз, автоматты түрде анықтау әрбір жасанды интеллект активін: модельдерді, фреймворктарды, деректер жиынтықтарын, қорытынды нүктелерін, агенттерді, MCP серверлерін, дағдыларды, сұрауларды, guardrailsжәне әзірлеушілеріңіз қолданатын жасанды интеллект кодтау құралдары. Сауалнамалар жоқ. Өзін-өзі есеп беру жоқ. Егер ол қоймада із қалдырса, ол инвентаризацияда көрсетіледі, бұл нақты жасанды интеллект жеткізу тізбегінің қауіпсіздігінің бірінші және ең негізгі талабы.
Содан кейін жасанды интеллект графигі сол активтердің қалай байланысатынын көрсетеді: деректер жиынтығы қай модельге беріледі, қай агент қай құралды шақырады, қай MCP сервері қай көмекшінің артында орналасқан. Оқшауланған актив сізге аз нәрсе айтады. График тәуекелдің қай жерде шоғырланғанын көрсетеді.
Сол жаңалықтан Xygeni мынаны тудырады AI-BOM: бағдарламалық жасақтамаңыздағы жасанды интеллектке қатысты барлық нәрсенің аудитке дайын, машина оқи алатын тізімі. Реттеуші, аудитор немесе тұтынушы сізден қандай жасанды интеллект пайдаланып жатқаныңызды сұрағанда, жауап үш апталық қиындықтың орнына жүктеуге айналады.
Анықтау: дәстүрлі сканерлер көре алмайтын қауіптер
Арнайы жасанды интеллект сканері жасанды интеллект жүйелеріне тән ақаулық режимдерін іздейді: жедел енгізу, құралды енгізу және сенімсіз құралды шақыру, деректерді алу арқылы деректердің ағып кетуі, жүйенің жедел енгізуін айналып өту, шамадан тыс агенттік. Әрбір табылған нәрсе ...-ке байланысты. LLM бағдарламалары бойынша OWASP үздік 10 және «жасанды интеллектіңізді пайдалануды қарап шығу» туралы анық емес ескертуді емес, экспозицияны жасайтын нақты файл мен жолды көрсетеді.
Сол анықтау қабаты дағды файлдарын, ережелер файлдарын және MCP конфигурацияларын зиянсыз құжаттама ретінде емес, қауіпсіздік артефактілері ретінде қарастырады. Ол зиянды немесе уланған дағдыларды белгілейді, MCP сервер конфигурацияларын құралдардың улануына тексереді және жасанды интеллект жұмыс жүктемелерін басқаратын нұсқауларды анықтайды.
Басымдық беріңіз: бұрыштарды емес, шуды азайтатын воронка
Әрбір жаңалық біртіндеп сүзіледі: қолданба кодында қолжетімді нәрсеге дейін, содан кейін шынымен пайдалануға болатын нәрсеге дейін, содан кейін сіздің командаңыз белсенді түрде әзірлеп жатқан кодта не бар екеніне дейін. Әзірлеуші кезегіне жететін нәрсе - өндіріске шынымен қауіп төндіретін қысқа тізім, оған құрылымдық сілтеме, экспозиция терезесі және азайту бойынша нұсқаулық қоса беріледі.
Күшіне енгізу: іске қосылмай тұрып тоқтату
Shield саясатты орындауды әзірлеушінің өз нүктесіне жеткізеді: ол рұқсатсыз және зиянды орнатуларды, бекітілмеген модельдерді және рұқсат етілмеген MCP серверлерін бірдеңе орындалмас бұрын блоктайды. Оның астында Xygeni орналасқан Зиянды бағдарламалар туралы ерте ескерту (MEW)зиянды пакеттерді қолтаңба пайда болғанға дейін ұстайтын, беделге негізделген құралдар әлі де сенеді, себебі әлі ешкім пакет туралы хабарламаған. Бұл жасанды интеллект жеткізу тізбегі қауіпсіздігінің орындалуының жартысы: анықтау және анықтау сізге не дұрыс емес екенін айтады, Shield шын мәнінде оны тоқтататын нәрсе.
Сіздің жасанды интеллектіңіз тек жасанды интеллект кодыңызда ғана емес
Жасанды интеллект жеткізу тізбегінің қауіпсіздігі туралы толық ақпарат үлгі қорынан көбірек нәрсені қажет етеді және сирек жағдайда тек көзге түсетін нәрселер ғана болады:
- Жасанды интеллект провайдерінің тіркелгі деректері сұрау файлдарында, агент конфигурацияларында немесе pipeline журналдар кез келген басқа құпиялар сияқты құпия болып табылады, және Xygeni құпияларды анықтау оларды қоғамдық тізілімге жеткенге дейін анықтайды.
- Осал жасанды интеллект және машиналық оқыту тәуелділіктері кәдімгі CVE-лерді алып жүріңіз, олар сіздің стекіңіздің қалған бөлігін қамтитын бағдарламалық жасақтама құрамын талдау арқылы анықталды. Жасанды интеллектті енгізу бойынша үшінші тарап зерттеулері қазіргі заманғы жасанды интеллект стегінің қанша бөлігі сыртқы көздерден алынған пакеттер мен жасырын компоненттерден тұратынын көрсетті, бұл беткі бағдарламалық жасақтама құрамын талдауды қамту үшін жасалған.
- Зиянды пакеттер кез келген кеңеске қарағанда тезірек жарияланды pipeline оларды каталогтауға болады, қол қою алдында ұсталады, сол MEW мүмкіндігі жеткізу тізбегіңіздің қалған бөлігін қорғайды.
Агенттік қабат: DevAI және CoreAI
Анықтау және анықтау сіздің репозиторийлеріңізде бар нәрсені қамтиды. DevAI тәуекел туындаған жерде жұмыс істейді: IDE ішінде, адам және жасанды интеллект жасаған кодты жазылған кезде сканерлейтін үздіксіз, проактивті қабат ретінде, ешқандай сұраулар қажет емес. Ол табылған нәрсенің артындағы толық эксплуатация жолын түсіндіреді және әзірлеуші құрастыруды бұзбай сенімді түрде қолдана алатын MCP арқылы тексерілген түзетулерді ұсынады.
CoreAI интеллект қабаты ретінде жеке сканерлердің үстінде орналасқан: ол кодты, тәуелділікті, pipelineжәне деректерді бір тәуекел моделіне орналастырады, сұрақтарға табиғи тілде жауап береді және қауіпсіздік жетекшісіне басқарудың тек мәлімделген емес, іс жүзінде болып жатқанын көрсету үшін қажетті басшылыққа дайын есепті жасайды.
AI Security бағдарламасындағы мүмкіндіктеріңізді кеңейтіңіз. Ештеңені ұрлап алмаңыз
Жаңа қауіпсіздік санатына ең көп таралған қарсылық - «бізде жеткілікті құралдар бар». Жасанды интеллект қауіпсіздік компаниясы ретінде Xygeni сізден ештеңені ауыстыруды сұрамайды: өз тұжырымдарына қолданылатын бірдей сұрыптау, түсіндіру және басымдық беру сіздің бар тұжырымдарыңыздан бірдей нәтиже береді. SAST, SCAжәне үшінші тарап сканерлері. Сіздің ағымдағы стегіңіз кездейсоқ емес, кіріске айналады, ал сіздің жасанды интеллект жеткізу тізбегіндегі қауіпсіздік жағдайыңыз оған бекітілген «алып тастау және ауыстыру» жобасынсыз жақсарады.
Неліктен бұл кейін емес, қазір маңызды
Реттеушілер әртүрлі бағыттар бойынша бірдей күтуге келісуде: ЕО-ның жасанды интеллект туралы заңы, NIS2 және Испанияның ENS барлығы жасанды интеллект жүйелерін түгендеу мен бақылауға бағытталған, жасанды интеллект-BOM жасау үшін жасалған дәлелмен бірдей. Қозғалыс бағыты тіпті нақты сәйкестік механикасы әлі де орнығып жатқан жерде де айқын: сіз ешқашан түгендемеген жасанды интеллектіңізді растай алмайсыз және егер жеткізу тізбегінің өзі сізге көрінбесе, жасанды интеллект жеткізу тізбегінің қауіпсіздігін талап ете алмайсыз.
Жасанды интеллект қауіпсіздік компаниясын таңдау
Әрбір жасанды интеллект қауіпсіздік компаниясы өз шекарасын бір жерде белгілей бермейді. Кейбіреулері өзіңіздің жасанды интеллектіңіз жасаған кодты сканерлеумен тоқтайды. Басқалары соңғы нүктеде тоқтайды. Жасанды интеллект жеткізу тізбегінің қауіпсіздік мәселесі екі тілімнің өз алдына үлкен: ол модельді, агентті, MCP серверін, дағды файлын және олардың барлығының астында орналасқан қарапайым тәуелділікті қамтиды. AppSec-тің қалған нәтижелерімен бір консольде, анықтаудан бастап орындауға дейінгі толық өмірлік цикл көрінісі - бір нүктелік құралдың орнына жасанды интеллект қауіпсіздік компаниясын бағалаған кезде іздеу керек нәрсе.
Ешкім қарамаған файлдар еніп кетті. Жасанды интеллект қауіпсіздігі - оларды қарау тәртібі, ал жасанды интеллект жеткізу тізбегінің қауіпсіздігі - бұл тәртіптің бәрін қарап шығатын платформада басынан аяғына дейін сақталуын қамтамасыз етеді.
Сіздің жасанды интеллектіңіздің не істей алатынын қараңыз. Тегін бастаңыз or демонстрацияны жоспарлау.
FAQ
Xygeni коды менің инфрақұрылымымнан ешқашан шыға ма?
Жоқ. Сканерлер сіздің жеке ортаңызда жұмыс істейді, ал бастапқы код ешқашан Xygeni серверлеріне жүктелмейді. AI инвентаризациясы және AI-BOM сканердің жергілікті түрде көретінінен жасалған, сыртқа жіберілген көшірмеден емес.
AI қауіпсіздігі, DevAI және CoreAI арасындағы айырмашылық неде?
AI Security анықтайды және анықтайды: ол AI қорын, AI-BOM құрастырады және жедел енгізу немесе уланған дағдылар файлдары сияқты тәуекелдерді табады. DevAI әзірлеушілер код жазып жатқанда IDE ішінде жұмыс істейді, олар жол бойында түзетулер ұсынады. CoreAI екеуінің де үстінде тұрады, бүкіл платформа бойынша нәтижелерді салыстырады және қауіпсіздік жағдайыңыз туралы сұрақтарға табиғи тілде жауап береді.
Xygeni қандай жасанды интеллект қауіпсіздік жүйелерімен үйлеседі?
Зерттеу нәтижелері NIST SP 800-218A және OWASP-тың LLM бағдарламалары бойынша үздік 10 тізіміне, MCP бойынша OWASP-тың үздік 10 тізіміне және агенттік дағдылар бойынша OWASP-тың үздік 10 тізіміне енгізілген. CISЖасанды интеллект материалдарының шоттары бойынша A/G7 нұсқаулығы. Дәл осы картаға түсіру жасанды интеллект-BOM-ды тек түгендеу емес, сәйкестік дәлелі ретінде пайдалануға мүмкіндік береді.
Бұл әрбір жасанды интеллект кітапханасын немесе моделін қауіп ретінде белгілей ме?
Жоқ. Басымдықтарды анықтау воронкасы қолданба кодында қолжетімді, шынымен пайдалануға болатын және белсенді әзірлеу кезіндегі нәтижелерді тарылтады, сондықтан әзірлеуші көретін тізім қысқа, анықталған әрбір жасанды интеллект активінің тізімі емес.
