Акыркы бир нече жылда тиркемелердин коопсуздугунун так чеги болгон: репозиторий жана pipelineБул жерде башкаруу элементтери жайгашкан, сканерлөө иштери жүргүзүлгөн, командалар бир нерсенин өндүрүшкө жөнөтүлөрүн чечишкен. Мунун баары бир божомолго негизделген: иштеп чыгуучу кайсы кодду жана кайсы көз карандылыктар системага кирерин так тандап алган.
Бул божомол мындан ары күчүндө эмес. Бүгүнкү күндө коддун өсүп жаткан үлүшү жасалма интеллект агенти тарабынан жазылат, сунушталат же орнотулат, көп учурда эч ким эмне киргизилип жатканын карабайт.cisКодго кирген нерсе кыймылдаса, чабуул да кыймылдайт. Ал процесстин эң башына өтөт: код түзүлгөн учурдан тартып, жардамчынын өзүнүн ичинде жана аны конфигурациялаган файлдарда.
Бул сиздин жасалма интеллектке кол салуу бетиңиз: ар бир модель, агент, MCP сервери, көндүм жана жасалма интеллект сунуштаган көз карандылык, алар эми адам аны карап чыга электе эле тобокелчиликке алып келиши мүмкүн. Иштеп чыгуучуларыңыз ишенген ошол эле жасалма интеллект эми анын бир бөлүгү. Бул келечектеги тобокелдик эмес. Бул мурунтан эле болуп өткөн өзгөрүү жана ал иш жүзүндө кандай көрүнөт.
Кол салуулардын толкуну, бир гана окуя эмес
Төмөнкүлөрдүн бири да лабораториялык эксперт эмесcisже гипотетикалык. Булар коомдук, документтештирилген окуялар, дээрлик баары өткөн жылдагы окуялар жана ар бири жасалма интеллект агентинин өзүнө бир аз жакыныраак:
- 2025-жылдын август айы, s1ngularity: Чабуулчулар эң кеңири колдонулган куруу системаларынын бири болгон Nxтен жарыялоо токенин уурдап, зыяндуу версияларын npmге жөнөтүп, иштеп чыгуучулардын машиналарындагы сырларды издөө үчүн AI куралдарын колдонушкан.
- 2025-жылдын сентябрь айы, бор/мүчүлүштүктөрдү оңдоо: npmдин эң чоң компромисстеринин бири, жумасына эки миллиарддан ашык жүктөлүп алынган 18 пакет, бир тейлөөчүнүн аккаунтун басып алуу аркылуу басып алынган.
- 2025-жылдын сентябрь айы, Шай-Хулуд: npm аркылуу өзүн-өзү көбөйө алган алгачкы документтештирилген курттардын бири. Анын ноябрдагы экинчи толкуну агрессивдүү болуп, 25 000ден ашык сактоочу жайларда ачыкка чыккан сырлар менен байланыштуу болгон.
- 2025-жылдын октябрь айы, колдонулбаган импорттор: PhantomRaven кампаниясынын бир бөлүгү, анда жасалма интеллект галлюцинациясы NPMге slopsquatting ыкмасы аркылуу чыныгы зыяндуу программаны киргизген.
- Бул жылы, ClawHub: эң көп жүктөлүп алынган жети көндүмдүн бешөө зыяндуу программа болгон ууланган AI көндүмдөрүнүн реестри.
Тармак дагы ушул эле тыянакты расмий түрдө иштеп чыгууда. LLM колдонмолору үчүн OWASP Top 10 тез инъекцияны биринчи орунга коёт. OWASP MCP Top 10 (учурда бета версиясында) агенттер куралдар менен сүйлөшүү үчүн колдонгон протокол агенттерине багытталган. Инкубатор баскычындагы жаңы долбоор болгон OWASP Agentic Skills Top 10 зыяндуу көндүмдөрдү эң жогорку тобокелдик катары атайт. OWASP адатта этияттык менен кыймылдайт; бир эле учурда үч фронтту ачуу, алардын бирин шашылыш түрдө ачуу, бул канчалык тездик менен жүрүп жатканы жөнүндө бир нерсе айтып турат.
Үчөө тең бир идеяда биригет: моделдин айланасындагы көрсөтмөлөр, куралдар жана конфигурациялар эми жасалма интеллекттин чабуулунун бетинин бир бөлүгү болуп саналат жана алар көбүнчө сиздин өзүңүздүн репозиторийиңизде жайгашкан. Бул сиздин командаларыңызга суроо берүүгө арзырлык биринчи суроону жаратат: сиздин репозиторийиңизде жайгашкан эрежелердин файлдарын, көндүмдөрүн жана MCP конфигурацияларын ким карап чыгат?
1-вектор: ууланган чеберчилик
Көндүм – бул жасалма интеллект агентине тапшырманы кантип аткарууну үйрөтүүчү көрсөтмөлөрдүн жана мүмкүнчүлүктөрдүн файлы. Бул агенттин жүрүм-турумун калыптандыруунун жалгыз жолу эмес (эрежелер файлдары, hooks, жана MCP конфигурациялары да ушундай кылат), бирок алардын баары бир касиетти бөлүшөт: алар репозиторийдин ичинде код менен саякатташат.
Бул жылкы изилдөөдө ушул көндүмдөрдүн 4,000и каралып чыккан:
- 36%ында жок дегенде бир коопсуздук кемчилиги болгон.
- Алардын 13.4%ы өтө оор абалда болгон.
- Жүзгө жакынынын зыяндуу программалары болгон.
Негизги өзгөрүү: чабуулчу мындан ары сиздин кодуңузду бутага албайт. Алар кодуңузду жазган агентти бутага алышат, модель окуп, иштеп жаткан катары кабыл алган жашыруун көрсөтмөлөрдү (кээде көрүнбөгөн символдорду колдонушат) орнотушат. Адам-рецензент бекитет pull request ак ниеттүүлүк менен, анткени алардын көзүнө файл таза көрүнөт. Модель серепчи эч качан көрбөгөн көрсөтмөлөрдү чечмелейт.
Бул теориялык эмес. CVE-2025-59536 (CVSS 8.7) Claude Code программасын ишенимсиз репозиторийден ишке киргизүүгө мүмкүндүк берген, мында зыяндуу конфигурация колдонуучу ишеним диалогун кабыл алганга чейин буйруктарды иштете алган. Экинчи алсыздык, CVE-2026-21852, колдонуучу эч нерсени бекитпестен, API ачкычын долбоор тарабынан башкарылуучу конфигурация аркылуу эксфильтрациялоого мүмкүндүк берген.
H2: 2-вектор: тайгаланып секирүү
Бул аталыш "slop" (жасалма интеллект кээде жараткан керексиз нерселер) менен классикалык typosquatting чабуулун айкалыштырат. Typosquatting адамдын катасынан көз каранды: чабуулчу пакеттин аталышын популярдуу аталышка жакын каттап, катаны күтөт. Бул кокустук.
Слайдскваттинг ката күтпөйт. Бул сессияда шилтеме берилген изилдөөдө, Жасалма интеллект моделдери тарабынан түзүлгөн пакет шилтемелеринин 19.7% жок пакеттерге багытталган. Моделдер бир эле аталыштарды кайра-кайра галлюцинациялоого жакын, ошондуктан чабуулчу жасалма интеллекттин кайсы атын ойлоп тапканын байкап, ал аттарды зыяндуу код менен каттап, аны сиздин тиркемеңизге киргизүү үчүн жасалма интеллект сунуштаган кийинки орнотууну күтөт.
Масштаб кичинекей эмес: 2025-жылы 450 000ден ашык жаңы зыяндуу пакеттер аныкталган. Муну эки мисал менен тактоого болот:
- Изилдөөчү зыянсыз тест пакетин отургузду кучактап бет-кли ойду далилдөө үчүн. Ал катталды үч айдын ичинде 30 000ден ашык жүктөлүп алынган.
- колдонулбаган импортторЖогорудагы убакыт тилкесинде көрсөтүлгөндөй, дал ушул ыкманы колдонуп, коомдук реестрде зыяндуу программалык камсыздоонун бар экендиги тастыкталган. Ал тест эмес болчу.
Маселе бул сиздин командаңызга да болушу мүмкүнбү же жокпу деген маселеде эмес. Маселе бүгүнкү күндө канча жасалма интеллект сунуштаган пакеттер эч ким карабай туруп эле сиздин кодуңузду киргизип жатканында.
Жооп: standardс кууп жетип жатышат
Эки күч параллель жүрөт. Чабуулдар тездеп жатканда, standardденелер реакцияга кирет:
- NIST SP 800-218A коопсуз программалык камсыздоону иштеп чыгуу алкагын жасалма интеллект моделдерине мүнөздүү практикалар, анын ичинде бүтүндүк жана келип чыгыш далилдери менен кеңейтет.
- In 2026 берсин, CISА жана анын эл аралык G7 өнөктөштөрү жасалма инвентаризацияга эмнелер кирерин аныктаган жасалма интеллект үчүн программалык камсыздоонун материалдарынын тизмеси боюнча көрсөтмө жарыяланган: моделдер, маалымат топтомдору, компоненттер, провайдерлер жана көз карандылыктар.
Багыт айкын: SBOM AI-BOMго кеңейип баратат. Сиз инвентаризациялай албаган нерсени күбөлөндүрө же ырастай албайсыз. Ал эми бүгүнкү күндө көпчүлүк уюмдар төмөнкүлөрдү жасай алышпайт:
- 43% алар мурунтан эле колдонуп жаткан жасалма интеллект куралдарын текшере же инвентаризациялай алышпайт.
- 79% өз чөйрөсүндө иштеп жаткан AI агенттерине жана MCP системаларына эч кандай көрүнүү мүмкүнчүлүгү жок.
Жөнгө салынган чөйрөлөрдө бул инвентаризация жакшы тажрыйбадан келишимдик күтүүлөргө же шайкештик милдеттенмелерине өтүп жатат. Бирок инвентаризация сизге эмне бар экенин гана айтып берет. Ал өз алдынча чабуулду токтотпойт.
The boff: AppSec үчүн EDR
SAST жана SCA куралдар агенттин жүрүм-турумун же анын конфигурациясын эмес, кодду жана көз карандылыктарды талдоо үчүн иштелип чыккан. EDR процесстерди жана тармактык туташууларды көрөт, бирок адатта көз карандылыкты же агенттин конфигурациясын чечмелөө үчүн тиркеменин коопсуздугу контексти жетишсиз. Куралдардын бул эки категориясынын ортосунда боштук бар, так код азыр түзүлүп жаткан жерде жана так AI чабуулунун бети жайгашкан жерде.
Бул боштуктун үч сокур чекити бар:
- Жасалма интеллекттин активдери. Моделдер, агенттер жана MCP серверлери сиздин баракчаңызда көрсөтүлбөйт SASTже SCAрадар. Көрүнбөгөн нерсени инвентаризациялай албайсыз.
- Конфигурация файлдары. Көндүмдөр, эрежелер жана MCP конфигурациялары агенттин жүрүм-турумун калыптандырат, бирок адатта алар зыянсыз жөнөкөй текст сыяктуу каралып чыгат.
- Пакеттик орнотуулар. A зыяндуу көз карандылык зыяндуу экени белгилүү боло электе эле иштей башташы мүмкүн, андан кийин эч кимдин макулдугусуз сырларды жана токендерди эксфильтрациялаңыз.
Xygeni аны кантип жабат
EDR акыркы чекиттер үчүн эмне кылат, Ксигени Shield жасалма интеллекттин жардамы менен иштелип чыккан жашоо цикли үчүн иштейт: ал тиркеменин коопсуздугу контекстин түшүнүү менен код түзүлгөн жерди коргойт.
- Көрүнүүчүлүк кайда SAST жана SCA жетпе. Xygeni зыяндуу көндүмдөрдү жана эрежелер файлдарын белгилейт, MCP конфигурацияларын талдайт жана аудитке даяр түзөт AI-BOM, OWASP LLM, MCP жана Агенттик көндүмдөрүнүн алдыңкы 10уна киргизилген.
- Кол тамгалар гана эмес, чалгындоо да керек. MEW (зыяндуу программа жөнүндө эрте эскертүү) пакеттин жүрүм-турумун жана тобокелдигин талдап, аны CVE, эскертүү же коомдук кол тамга пайда болгонго чейин бөгөттөйт. Заманбап тармактык чалгындоо белгилүү зыяндуу инфраструктурага туташууларды үзөт.
- Коддон акыркы чекитке чейин бир башкаруу чекити. Айлана-чөйрөнү кайра архитектуралаштырбастан жайгаштырылган, Европанын маалыматтарынын эгемендүүлүгү жана шайкештик далилдери камтылган бирдиктүү агент.
Түз эфирдеги демонстрацияда бул саясатты аткаруу ИИ агентинин зыяндуу пакетти орнотуу аяктаганга чейин үч башка орнотуу жолу (виртуалдык чөйрө, пакет менеджери жана түз жүктөө) аркылуу орнотуу аракетин бөгөттөп, баары реалдуу убакытта катталып, SOCко экспорттоого мүмкүн болду. Биринчи долбоорду ишке киргизүү, адатта, бир сааттай убакытты алат; уюмду толук камтууну кеңейтүү, адатта, түзүмгө жараша бир-эки жуманы талап кылат.
FAQ
Бир абзацта жасалма интеллекттин чабуулунун бети эмнеде?
Жасалма интеллекттин чабуул бети – бул тобокелдик тиркемеге кире турган моделдердин, агенттердин, MCP серверлеринин, көндүмдөрдүн, эрежелердин файлдарынын жана жасалма интеллект сунуштаган көз карандылыктардын жыйындысы, көбүнчө адам аны карап чыга электе. Ал салттуу коддон жана көз карандылыктардан тышкары, жасалма интеллект агентинин кандай иш-аракет кыларын калыптандырган конфигурация файлдарын жана көрсөтмөлөрдү камтыйт.
Менин жасалма интеллект жардамчым сунуштаган пакеттин аталышы галлюцинациябы же жөн гана мыйзамдуу, бирок тааныш эмеспи, кантип билсем болот?
Орнотуудан мурун текшерүү жүргүзүңүз: реестрди текшерип, пакеттин аталышына гана ишенбей, анын чыныгы мазмунун жана максатын талдаңыз. Xygeni бул текшерүүнү кодду түзүү учурунда реалдуу убакыт режиминде автоматташтырат, ошондуктан орнотуу сиз тааныган пакетпи же жокпу, ишке киришерден мурун бекитилет же бөгөттөлөт.
Слопскваттинг бардык жасалма интеллект моделдерине бирдей таасир этеби?
19.7% көрсөткүчүнүн артындагы изилдөө бир нече моделдерди камтыган жана көйгөй кеңири таралгандыгын, алардын ортосунда бир аз гана айырмачылык бар экенин аныктаган. Бул бир гана жардамчыга мүнөздүү кемчилик эмес, жасалма интеллекттин жардамы менен иштелип чыккан ар кандай схема.
Галлюцинацияланган же зыяндуу пакетти орнотконубузду ретроактивдүү түрдө текшере алабызбы?
Ооба. Xygeni платформасы кардарларга аныкталган зыяндуу пакеттердин маалымат базасына кирүү мүмкүнчүлүгүн берет, аларды сиздин бар болгон компоненттериңиздин тизмесине салыштырып издөөгө болот, андыктан сиз бир нече чыкылдатуу менен мурунтан эле орнотулган нерсе белгилүү коркунуч экенин тастыктай аласыз.
Орто өлчөмдөгү бир нече командалары бар уюм үчүн ишке ашыруу канча убакытты талап кылат?
Биринчи долбоорду кабыл алуу, адатта, бир сааттай убакытты алат. Толук уюмду масштабдоо, адатта, команданын түзүмүнө жана иштөө ыкмаларына жараша бир-эки жумага созулат.
AI чабуулунун бетин бекер картага түшүрүңүз
Колдонмоңуздун жасалма интеллект изин бекер картага түшүрүңүз: аккаунт түзүңүз жана бир нече мүнөттүн ичинде биринчи сканерлөөнү иштетүүБир гана тиркеме менен баштаңыз, анын ичинде эмне жасалма интеллект бар экенин жана жасалма интеллекттин чабуул бетинин кайсы бөлүгү кооптуу экенин көрүңүз.
*Жогоруда айтылган айрым мүмкүнчүлүктөр Xygeni Shield жана ASPM/AI коопсуздук модулдары; жеткиликтүүлүгү планга жараша өзгөрүшү мүмкүн. Караңыз xygeni.io учурдагы продукт чоо-жайы үчүн.
