Вашы распрацоўшчыкі выпускаюць новыя функцыі хутчэй, чым калі-небудзь. Яны таксама ўводзяць уразлівасці бяспекі з хуткасцю, на якую ваш цяперашні інструментарый не быў разлічаны.
Інструменты кадавання на аснове штучнага інтэлекту не толькі паскараюць распрацоўку. Яны паскараюць укараненне небяспечнага кода. Праект радара бяспекі Vibe ў Georgia Tech толькі ў сакавіку 2026 года было зафіксавана 35 новых CVE, непасрэдна звязаных з інструментамі кадавання штучнага інтэлекту, у параўнанні з 6 у студзені. Даследчыкі падлічылі, што рэальная колькасць у пяць-дзесяць разоў вышэйшая ў больш шырокай экасістэме адкрытага зыходнага кода. Даследаванне CSA выявілі, што 62% кода, створанага штучным інтэлектам, утрымлівае недахопы дызайну або вядомыя ўразлівасці, нават калі распрацоўшчыкі выкарыстоўваюць найноўшыя базавыя мадэлі.
Гэтую праблему не вырашаюць, просячы распрацоўшчыкаў запаволіць тэмп. Рашэнне — стварэнне інфраструктуры бяспекі, якая ідзе ў нагу з хуткасцю распрацоўкі з выкарыстаннем штучнага інтэлекту, а ў большасці каманд яе пакуль няма.
Разрыў, які большасць каманд не бачыць, пакуль не становіцца занадта позна
Інструменты кадавання на аснове штучнага інтэлекту ствараюць спецыфічную праблему бяспекі, для якой традыцыйная інфраструктура AppSec не была распрацавана: высакахуткасны код з вялікімі аб'ёмамі і сістэматычна адрознымі мадэлямі збояў у параўнанні з кодам, напісаным чалавекам.
Большасць каманд выяўляюць гэты прабел няправільна, калі ў прадукцыйнасці з'яўляецца CVE, якую павінен быў выявіць іх сканер, або калі сакрэт commitз дапамогай працоўнага працэсу з дапамогай штучнага інтэлекту трапляе ў рукі зламысніка.
| Без кіравання, спецыфічнага для штучнага інтэлекту | З Ксігені | |
|---|---|---|
| Уразлівасці кода | Больш высокая шчыльнасць, сістэматычныя схемы адмоваў | Перахоплена падчас запісу ў IDE раней commit |
| Раскрыццё сакрэтаў | У 2 разы вышэйшая хуткасць пры падтрымцы штучнага інтэлекту commits | Бесперапыннае сканаванне + аўтаматычная адмена на ўсіх пластах |
| Шкоднасныя залежнасці | Штучны інтэлект прапануе пакеты без праверкі бяспекі | Выяўленне шкоднасных праграм падчас публікацыі, а не падчас усталёўкі |
| Pipeline рызыка | Няма бачнасці паводзін інструмента агента | Паводніцкія базавыя паказчыкі + выяўленне анамалій |
| Вынік | Запазычанасць па каштоўных паперах назапашваецца з хуткасцю штучнага інтэлекту | Пакрыццё, якое маштабуецца ў залежнасці ад хуткасці распрацоўкі |
Чаму код, згенераваны штучным інтэлектам, дае збой у пэўных шаблонах
Перш чым перайсці да элементаў кіравання, варта зразумець, чаму код, згенераваны штучным інтэлектам, дае адрозныя памылкі ад кода, напісанага чалавекам, бо рэжымы збояў вызначаюць, якія элементы кіравання сапраўды важныя.
Завяршэнне шаблонаў замест меркаванняў бяспекі
Мадэлі LLM генеруюць код, прагназуючы статыстычна верагоднае працягванне заканамернасцей, якія яны бачылі ў навучальных дадзеных. Калі гэтыя навучальныя дадзеныя ўключаюць мільёны прыкладаў небяспечнага кода, мадэль упэўнена і плаўна ўзнаўляе гэтыя заканамернасці.
Мадэль не разважае пра бяспеку. Яна дапаўняе шаблоны. Запыт на «даданне аўтэнтыфікацыі да гэтай канчатковай кропкі» створыць код, які выглядае як аўтэнтыфікацыя і часта функцыянуе як аўтэнтыфікацыя, але можа не ўказваць тэрмін дзеяння токена, не праходзіць праверку аўтарызацыі або выкарыстоўваць састарэлы крыптаграфічны прымітыў, бо гэтыя прапускі статыстычна распаўсюджаныя ў навучальных дадзеных.
Структурная правільнасць без семантычнай бяспекі
У снежні 2025 года кампанія па бяспецы Tenzai прааналізавала 15 прадукцыйных праграм, створаных з выкарыстаннем пяці асноўных інструментаў кадавання штучнага інтэлекту, і выявіла 69 уразлівасцей ва ўсёй выбарцы. У кожнай праграме адсутнічала абарона CSRF і не было настроеных загалоўкаў бяспекі. Кожны інструмент утрымліваў уразлівасці падробкі запытаў на баку сервера (SSRF), што з'яўляецца поўнай ліквідацыяй базавых памылак бяспекі ва ўсіх 15 праграмах.
Гэта не крайнія выпадкі. Гэта сістэматычныя прабелы ў тым, для чаго аптымізуюцца інструменты штучнага інтэлекту: працоўны код, а не бяспечныя налады па змаўчанні.
Джорджтаўнскі CSET асобна выявіў уразлівасці XSS у 86% узораў кода, згенераванага штучным інтэлектам, пратэставаных у пяці асноўных LLM.
Паскоранае раскрыццё сакрэтаў
З дапамогай штучнага інтэлекту commitраскрываюць сакрэты больш чым удвая хутчэй, чым людзі commitс. Даследчая запіска CSA па бяспецы вібрацыйнага кадавання гэты паказчык складае 3.2% для тых, хто працуе з дапамогай штучнага інтэлекту commitу параўнанні з 1.5% для карыстальнікаў, якія працуюць толькі з людзьмі, а публічны GitHub у 2025 годзе павялічыў колькасць жорстка закадаваных уліковых дадзеных на 34% у параўнанні з аналагічным перыядам мінулага года.
Механізм просты: распрацоўшчыкі, якія працуюць з хуткасцю штучнага інтэлекту, часта ўстаўляюць уліковыя дадзеныя ў падказкі ў якасці кантэксту, а інструменты штучнага інтэлекту дакладна ўключаюць гэтыя дадзеныя ў згенераваны вынік. Распрацоўшчыкі, якія хутка праглядаюць код штучнага інтэлекту, правяраюць яго функцыянальную правільнасць, а не раскрыццё сакрэтаў.
Нябачныя недахопы архітэктуры
Традыцыйныя інструменты бяспекі выдатна спраўляюцца з пошукам вядомых шаблонаў уразлівасцяў у статычным кодзе: SQL-ін'екцыі, XSS, небяспечная дэсерыялізацыя. Яны маюць праблемы з недахопамі на ўзроўні праектавання, адсутнасцю аўтэнтыфікацыі на ўсім маршруце API, парушанай логікай кантролю доступу, мадэллю аўтарызацыі, якая мяркуе паслядоўны паток, але яе можна абыйсці не па парадку.
Код, згенераваны штучным інтэлектам, мае больш недахопаў у дызайне, бо інструменты штучнага інтэлекту генеруюць код на ўзроўні функцый, а не на ўзроўні сістэмы. Штучны інтэлект не мае ніякага ўяўлення пра мадэль бяспекі навакольнага асяроддзя, калі толькі яму не дадзена гэтая інфармацыя, і большасць распрацоўшчыкаў нават не думаюць пра яе прадастаўленне.
Як абараніць код, згенераваны штучным інтэлектам, у вашым CI/CD Pipeline
1. Разглядаць код, згенераваны штучным інтэлектам, як ненадзейны ўваходны даныя на SAST пласт
Найважнейшая аперацыйная змена: не скарачаць SAST пакрыццё, таму што код паходзіць ад штучнага інтэлекту. Зрабіце наадварот. Любая каманда са значным укараненнем штучнага інтэлекту павінна чакаць, што аб'ём іх знаходак істотна павялічыцца, і павінна адпаведна наладзіць свае інструменты.
На практыцы гэта азначае магчымасць SAST на кожным commit, а не толькі PR. Інструменты штучнага інтэлекту хутка генеруюць код, і распрацоўшчыкі commit паступова. Чаканне PR-агляду азначае, што вынікі назапашваюцца, перш чым хто-небудзь іх азнаёміцца. Гэта таксама азначае карэкціроўку SAST парогі сур'ёзнасці спецыяльна для тыпаў збояў кода штучнага інтэлекту: адсутнасць праверак аўтэнтыфікацыі і аўтарызацыі, SSRF, CSRF, небяспечная дэсерыялізацыя і жорстка закадаваныя ўліковыя дадзеныя — класы ўразлівасцяў, якія не заўсёды ацэньваюцца як крытычныя ў CVSS, але пастаянна прыдатныя для выкарыстання.
Галоўная праблема — гэта ўзровень ілжывых спрацоўванняў. Інструменты штучнага інтэлекту хутка ствараюць шмат кода і маюць высокі FPR. SAST генеруе так шмат высноў, што распрацоўшчыкі вучацца іх ігнараваць. Гэта дынаміка стомленасці ад абвесткі, якая цалкам зводзіць на нішто сэнс сканавання.
Ксігені SAST быў параўнаны з Паказчык OWASP і дасягнуў 100% сапраўдных станоўчых вынікаў і 16.7% ілжывых станоўчых вынікаў. У асяроддзі, дзе код, згенераваны штучным інтэлектам, павялічвае аб'ём знаходак, гэта папярэдняеcisМенавіта гэта дазваляе высновы рабіць ужывальныя, а не ігнараваць іх. Даведайцеся больш пра Xygeni SAST →
2. Шукайце сакрэты пастаянна, а не толькі па чарзе commit час
Pre-commit hooks неабходныя, але недастатковыя. Распрацоўшчыкі, якія хутка выкарыстоўваюць інструменты штучнага інтэлекту, часта абыходзяць hooks, выкарыстоўваць вэб-рэдактары штучнага інтэлекту, якія іх не падтрымліваюць, або генераваць сакрэты ўнутры сцэнарыяў неперасягненай інтэграцыі, а не ў кодзе прыкладання, дзе hooks ніколі не запускаецца.
Поўная сістэма бяспекі сакрэтаў для патрэб распрацоўкі з дапамогай штучнага інтэлекту pre-commit hooks для распрацоўшчыкаў, якія выкарыстоўваюць лакальныя інструменты штучнага інтэлекту, бесперапыннае сканаванне рэпазітараў ва ўсіх філіялах, уключаючы поўную гісторыю commit пакрыццё (сапраўдныя сакрэты са старых commitусё яшчэ можна выкарыстоўваць), pipeline сканаванне журналаў (скрыпты неперасягненай ідэнтыфікацыі, згенераваныя штучным інтэлектам, часта ўключаюць уліковыя дадзеныя ў якасці інтэрпаляваных зменных, якія друкуюцца для стварэння журналаў) і аўтаматычнае адкліканне пры выяўленні, бо прамежак часу паміж уздзеяннем і выяўленнем зламысніка часта вымяраецца гадзінамі, а не днямі.
Xygeni Secrets Security выяўляе больш за 800 тыпаў сакрэтаў у рэпазіторыях, pipeline бярвёны, IaC файлы і выявы кантэйнераў. --history Рэжым сканавання выяўляе сакрэты, якія тэхнічна старыя, але ўсё яшчэ дзейсныя, што з'яўляецца распаўсюджаным недахопам у працоўных працэсах з падтрымкай штучнага інтэлекту. Сакрэты абфускуюцца перад тым, як быць зарэгістраванымі або адпраўленымі на платформу, таму сам працэс выяўлення не стварае новых рызык. Працоўныя працэсы аўтаматычнага адклікання запускаюцца пры выяўленні. Даведацца больш →
3. ўжываць SCA з выяўленнем шкоднасных праграм для залежнасцей, прапанаваных штучным інтэлектам
Інструменты кадавання штучнага інтэлекту не проста пішуць код, яны прапануюць залежнасці. Распрацоўшчык, які просіць памочніка «дадаць бібліятэку для JWT-разбору», атрымлівае рэкамендацыю пакета, які можа быць легітымным пакетам, пакетам з памылкай друку і падобнай назвай або пакетам, які быў легітымным падчас навучання мадэлі, але з таго часу быў узламаны.
,en Даследаванне ўразлівасцяў кода, згенераванага штучным інтэлектам, CSA 2025 таксама дакументуе «нядбайнае прысяданне» — зламыснікаў, якія рэгіструюць галюцынаваныя назвы пакетаў, выдуманыя інструментамі штучнага інтэлекту, ператвараючы мадэльную галюцынацыю непасрэдна ў вектар атакі на ланцужок паставак. Standard на аснове CVE SCA не ловіць нічога з гэтага.
Што вам насамрэч трэба: выяўленне паводніцкіх шкоднасных праграм, якое пазначае пакеты з падазронымі скрыптамі ўсталёўкі, нечаканымі сеткавымі выклікамі або заблытаным кодам; выяўленне памылак тыпаскопавання і нядбайнасці, якое аналізуе поўны граф залежнасцей на наяўнасць падманліва названых пакетаў; і сканаванне CVE з фільтрам дасяжнасці, якое адрознівае ўразлівыя функцыі, якія сапраўды выклікаюцца, ад тых, што імпартаваны, але ніколі не выконваюцца.
Ксігені SCA спалучае ў сабе выяўленне шкоднасных праграм у рэжыме рэальнага часу праз Ранняе папярэджанне аб шкоднасных праграмах (MEW) рухавік, сканаванне npm, PyPI, Maven, NuGet, RubyGems і іншых рэестраў падчас публікацыі, а не толькі падчас усталёўкі, з дапамогай Сканер падазроных залежнасцей які выяўляе памылкі друку, блытаніну з залежнасцямі і падазроныя скрыпты ўстаноўкі, аналізуючы поўны граф залежнасцей. Паглядзіце, як гэта працуе →
4. Забяспечце бяспеку guardrails ў pipeline, не толькі ў праверцы кода
Праверка кода занадта павольная і занадта непаслядоўная, каб быць асноўным кантролем бяспекі кода, створанага штучным інтэлектам. Распрацоўшчыкі, якія праглядаюць вынік штучнага інтэлекту пад ціскам хуткасці, спачатку правяраюць функцыянальную правільнасць. Правільнасць бяспекі, калі яна наогул правяраецца, ідзе толькі на другі план.
PipelineЎзроўню guardrails аўтаматычнае выкананне патрабаванняў: блакіроўка зборак, якія ўводзяць новыя крытычныя SAST знаходкі вышэй за наладжвальны парог, блакуюць разгортванне, калі ў commit, прымушаць выконваць палітыку залежнасцей, блакуючы пакеты, якія не праходзяць праверку на шкоднасныя праграмы або не прывязаныя да дакладнага дайджэста, і патрабуюць SBOM генерацыя для рэлізаў, якія ўключаюць код з дапамогай штучнага інтэлекту.
Асноўны прынцып дызайну: guardrails павінна блакіраваць або папярэджваць, а не проста паведамляць. Выснова, якая нічога не блакуе, вучыць распрацоўшчыкаў, што высновы можна смела ігнараваць.
Xygeni DevAI даступны агент-капілот па бяспецы ў якасці Пашырэнне VS Code і Убудова IntelliJ/JetBrains які працуе паступова SAST сканаванне па меры напісання кода распрацоўшчыкамі, тлумачэнне шляхоў выкарыстання выяўленых уразлівасцей і прапанова выпраўленняў, правераных серверам Xygeni MCP на прадмет рызык, палітыкі і ўздзеяння змяненняў. Выяўленне сакрэтаў, SCA, і IaC Усе сканаванні выконваюцца ў адной сесіі IDE. Даведацца больш →
6. Сачыце за анамальнай паводзінамі інструментаў кадавання штучнага інтэлекту
Агентныя інструменты штучнага інтэлекту, інструменты, якія выконваюць аўтаномныя дзеянні ў вашым асяроддзі, а не проста генеруюць прапановы, прадстаўляюць новую паверхню пагроз. Інструмент агентнага кадавання з доступам да запісу ў рэпазіторыі, pipeline трыгерны доступ або доступ да сакрэтаў з'яўляецца высокакаштоўнай мэтай у выпадку ўзлому.
CVE-2025-54135 (CurXecute), уразлівасць дыстанцыйнага выканання кода ў рэдактары кода Cursor AI, якая дазваляла выконваць адвольны код на машынах распрацоўшчыкаў без узаемадзеяння з карыстальнікам, была раскрыта ў пачатку 2026 года. Радар бяспекі Vibe ў Georgia Tech Даследаванні адзначаюць, што паверхні для атак хутка пашыраюцца, паколькі інструменты штучнага інтэлекту становяцца больш аўтаномнымі.
Паводніцкі маніторынг актыўнасці інструментаў штучнага інтэлекту ў вашым pipeline варта сачыць за нечаканымі зменамі CI/CD файлы канфігурацыі працоўнага працэсу (адзін з найбольш відавочных сігналаў узламанага інструмента штучнага інтэлекту або атакі з выкарыстаннем прамых ін'екцый), працэсы інструментаў кадавання штучнага інтэлекту, якія робяць сеткавыя запыты да нечаканых месцаў прызначэння падчас зборкі, незвычайныя шаблоны доступу да сховішчаў сакрэтаў з працоўных станцый распрацоўшчыкаў і новыя залежнасці, уведзеныя інструментамі штучнага інтэлекту, якіх не было ў папярэдніх зборках.
| пласт | Contrôle: | Прыярытэт |
|---|---|---|
| код | SAST на кожным commit, канфігурацыя з нізкім FPR | Крытычны |
| код | Зваротная сувязь па бяспецы IDE ў VS Code / IntelliJ | Haut |
| Сакрэты | Pre-commit hooks + бесперапыннае сканаванне рэпазітараў | Крытычны |
| Сакрэты | Сканіраванне гісторыі Git на наяўнасць сапраўдных сакрэтаў старых кодаў | Крытычны |
| Сакрэты | Аўтаматычная адмена пры выяўленні | Крытычны |
| залежнасці | SCA з шкоднасным праграмным забеспячэннем + выяўленне нядбайнасці | Крытычны |
| залежнасці | Прыярытэзацыя CVE з фільтрам дасяжнасці | Haut |
| Pipeline | Будуйце блокі на новых важных адкрыццях | Haut |
| Pipeline | Прымяненне палітыкі залежнасцей падчас зборкі | Haut |
| Pipeline | SBOM генерацыя для рэлізаў з дапамогай штучнага інтэлекту | серада |
| Інструменты агента | Паводніцкі маніторынг актыўнасці інструментаў штучнага інтэлекту | Haut |
| Інструменты агента | Доступ з найменшымі прывілеямі для інструментаў кадавання штучнага інтэлекту | Haut |
Як Xygeni абараняе код, згенераваны штучным інтэлектам, ад пачатку да канца
Для забеспячэння бяспекі кода, створанага штучным інтэлектам, патрабуецца поўнае пакрыццё SDLC, з моманту прыняцця распрацоўшчыкам прапановы да моманту выхаду артэфакта ў прадукцыю. Інструменты, якія пакрываюць толькі адзін пласт, пакідаюць прабелы, якія распрацоўка з хуткасцю штучнага інтэлекту надзейна знойдзе.
| Этап | Магчымасці Xygeni | Што яно ловіць |
|---|---|---|
| У IDE | DevAI + MCP-сервер | Уразлівасці падчас запісу, да commit |
| At commit | SAST + Сакрэты бяспекі | Памылкі ў кодзе, жорстка закадаваныя ўліковыя дадзеныя, раскрытыя ключы API |
| Пры зборцы | SCA з выяўленнем шкоднасных праграм + даступнасцю | Шкоднасныя або ўразлівыя залежнасці, прапанаваныя штучным інтэлектам |
| In pipeline | CI/CD Бяспека + выяўленне анамалій | Небяспечныя зборкі, кампраметацыя інструментаў агента, укаранёныя працоўныя працэсы |
| Пасля разгортвання | ДАСТ + ASPM | Праверка прыдатнасці для эксплуатацыі падчас выканання, уніфікаваная пазіцыя па рызыках |
Ключавой адметнай рысай з'яўляецца ўзровень інтэлекту, які злучае ўсё гэта. Сервер MCP ад Xygeni гарантуе, што прапанова па выпраўленні, якую DevAI генеруе ў IDE, ацэньваецца на адпаведнасць палітыцы, рызыку парушэнняў і арганізацыйны кантэкст, перш чым яна паступіць да распрацоўшчыка. Выпраўленне з дапамогай штучнага інтэлекту з guardrails, не з выключаным засцерагальнікам.
Заключныя думкі
Інструменты кадавання штучнага інтэлекту генеруюць значную і ўсё большую долю enterprise код. Яны таксама сістэматычна ўводзяць уразлівасці бяспекі ў найбольш важныя шаблоны: адсутнасць аўтарызацыі, раскрыццё сакрэтаў, небяспечныя залежнасці і недахопы дызайну, якія прапускаюць статычныя сканеры.
Адказ не ў тым, каб абмежаваць выкарыстанне інструментаў штучнага інтэлекту. Гэта ў тым, каб build security інфраструктура, якая маштабуецца разам з хуткасцю распрацоўкі штучнага інтэлекту. Каманды, якія правільна разумеюць гэта, хутчэй і бяспечней укараняюць функцыі з падтрымкай штучнага інтэлекту, чым каманды, якія апрацоўваюць код штучнага інтэлекту як чалавечы код з крыху больш высокім узроўнем памылак.
Гэта не так. І ваш pipeline трэба ведаць розніцу.
???? Пачніце бясплатную пробную версію і праскануйце свой першы рэпазітар з дапамогай штучнага інтэлекту за лічаныя хвіліны, крэдытная карта не патрабуецца.
???? Замовіць дэма і паглядзіце, як Xygeni адпавядае вашаму канкрэтнаму стэку распрацоўкі штучнага інтэлекту.
???? Спампаваць тэхнічную кнігуАбараніце Vibe-кадаванне, перш чым яно стане найбуйнейшай рызыкай штучнага інтэлекту для вашай арганізацыі.
Звязанае чытанне:
- Бяспека памочніка па стварэнні штучнага інтэлекту: як прадухіліць уразлівасці ў кодзе, згенераваным штучным інтэлектам
- Бяспека ценявога штучнага інтэлекту: усё, што вам трэба ведаць
- Як рэалізаваць карэкцыю з дапамогай штучнага інтэлекту ў DevSecOps
- Бяспека MCP: абарона пратакола кантэксту мадэлі
- Топ-10 праграм OWASP для атрымання ступені магістра права (LLM) у 2025 годзе
пра аўтара
Сузаснавальнік і тэхнічны дырэктар
Фаціма Said спецыялізуецца на кантэнце, арыентаваным у першую чаргу на распрацоўшчыкаў, для AppSec, DevSecOps і software supply chain securityЯна ператварае складаныя сігналы бяспекі ў зразумелыя, практычныя рэкамендацыі, якія дапамагаюць камандам хутчэй расстаўляць прыярытэты, памяншаць шум і ствараць больш бяспечны код.
