Ваши програмери испоручују функције брже него икад. Такође уводе безбедносне рањивости брзином коју ваши тренутни алати нису били дизајнирани да поднесу.
Алати за вештачку интелигенцију не само да убрзавају развој. Они убрзавају увођење небезбедног кода. Пројекат безбедносног радара Вајб на Технолошком универзитету Џорџије забележио је 35 нових CVE-ова само у марту 2026. године који се директно могу приписати алатима за вештачку интелигенцију (AI) кодирање, у односу на 6 у јануару. Истраживачи процењују да је стварни број пет до десет пута већи у ширем екосистему отвореног кода. Истраживање CSA-а открили су да 62% кода генерисаног вештачком интелигенцијом садржи недостатке у дизајну или познате рањивости, чак и када програмери користе најновије основне моделе.
Ово није проблем који решавате тако што ћете тражити од програмера да успоре. Решење је изградња безбедносне инфраструктуре која прати развој брзине вештачке интелигенције, а већина тимова је још увек нема.
Јаз који већина тимова не види док не буде прекасно
Алати за вештачку интелигенцију (AI) кодирање стварају специфичан безбедносни проблем за који традиционална AppSec инфраструктура није направљена: код велике брзине и велике количине са систематски другачијим обрасцима грешака од кода који су написали људи.
Већина тимова открива ову празнину на погрешан начин, када се CVE појави у производњи коју је њихов скенер требало да открије, или када тајна commitзахваљујући радном процесу уз помоћ вештачке интелигенције, нађе се у рукама нападача.
| Без контрола специфичних за вештачку интелигенцију | Са Ксигенијем | |
|---|---|---|
| Рањивости кода | Већа густина, систематски обрасци отказа | Ухваћено у време писања у IDE-у раније commit |
| Откривање тајни | 2 пута већа стопа уз помоћ вештачке интелигенције commits | Континуирано скенирање + аутоматско опозивање на свим слојевима |
| Злонамерне зависности | Вештачка интелигенција предлаже пакете без безбедносних провера | Детекција злонамерног софтвера у време објављивања, а не у време инсталације |
| Pipeline ризик | Нема увида у понашање агентских алата | Основне вредности понашања + откривање аномалија |
| Исход | Дуг за хартије од вредности се акумулира брзином вештачке интелигенције | Покривеност која се скалира са брзином развоја |
Зашто код генерисан вештачком интелигенцијом не успева у одређеним обрасцима
Пре него што пређемо на контроле, вреди разумети зашто код генерисан од стране вештачке интелигенције не успева другачије од кода који су написали људи, јер начини отказа одређују које контроле су заправо важне.
Допуњавање образаца пре безбедносног образложења
LLM-ови генеришу код предвиђајући статистички вероватне наставке образаца које су видели у подацима за обуку. Када ти подаци за обуку укључују милионе примера небезбедног кода, модел репродукује те обрасце самоуверено и течно.
Модел не размишља о безбедности. Он допуњава обрасце. Захтев за „додавање аутентификације овој крајњој тачки“ произвешће код који изгледа као аутентификација и често функционише као аутентификација, али може изоставити истек токена, пропустити провере ауторизације или користити застарели криптографски примитив, јер су ти изостављања статистички уобичајена у подацима за обуку.
Структурна исправност без семантичке безбедности
Анализа коју је из децембра 2025. године спровела безбедносна фирма Тензаи испитала је 15 производних апликација направљених коришћењем пет главних алата за вештачку интелигенцију и пронашла 69 рањивости у узорку. Свакој апликацији је недостајала CSRF заштита и нису конфигурисани безбедносни заглавци. Сваки алат је увео рањивости фалсификовања захтева на страни сервера (SSRF), што је био потпуни ток основних безбедносних пропуста у свих 15 апликација.
Ово нису гранични случајеви. То су систематски недостаци у ономе што алати вештачке интелигенције оптимизују: радни код, а не безбедне подразумеване вредности.
Џорџтаун CSET је посебно пронашао XSS рањивости у 86% узорака кода генерисаних вештачком интелигенцијом, тестираних у пет главних LLM-ова.
Убрзано откривање тајни
Уз помоћ вештачке интелигенције commitоткривају тајне више него двоструко брже него само људи commitа. Истраживачка белешка CSA о безбедности вибе кодирања та бројка износи 3.2% за оне уз помоћ вештачке интелигенције commitс наспрам 1.5% за само људске податке, а јавни GitHub је забележио повећање од 34% у односу на претходну годину у 2025. години.
Механизам је једноставан: програмери који раде брзином вештачке интелигенције често убацују акредитиве у промпте као контекст, а алати вештачке интелигенције верно укључују те акредитиве у генерисани излаз. Програмери који прегледају вештачки код брзином проверавају функционалну исправност, а не откривање тајни.
Невидљиве архитектонске мане
Традиционални безбедносни алати су одлични у проналажењу познатих образаца рањивости у статичком коду: SQL инјекција, XSS, небезбедна десеријализација. Они се боре са недостацима на нивоу дизајна, недостајућом аутентификацијом на целој API рути, оштећеном логиком контроле приступа, моделом ауторизације који претпоставља секвенцијални ток, али се може заобићи ван редоследа.
Код генерисан вештачком интелигенцијом уноси више недостатака у дизајну јер алати вештачке интелигенције генеришу на нивоу функција, а не на нивоу система. Вештачка интелигенција нема свест о безбедносном моделу околног система, осим ако јој се експлицитно не да тај контекст, а већина програмера не размишља да га обезбеди.
Како осигурати код генерисан вештачком интелигенцијом у вашем CI/CD Pipeline
1. Третирајте код генерисан вештачком интелигенцијом као непоуздан унос на SAST слој
Најважнија оперативна промена: не смањујте SAST покривеност јер код потиче од вештачке интелигенције. Урадите супротно. Сваки тим са значајним усвајањем вештачке интелигенције требало би да очекује да ће се обим проналажења материјално повећати и требало би да конфигурише своје алате у складу са тим.
У пракси то значи омогућавање SAST на сваком commit, не само односи са јавношћу. АИ алати брзо генеришу код, а програмери commit постепено. Чекање на преглед односа с јавношћу значи да се налази акумулирају пре него што их било ко погледа. То такође значи подешавање SAST прагови озбиљности посебно за режиме отказа вештачке интелигенције кода: недостајуће провере аутентификације и ауторизације, SSRF, CSRF, небезбедна десеријализација и чврсто кодирани акредитиви, класе рањивости које се не оцењују увек као критичне у CVSS-у, али су константно експлоатибилне.
Централни изазов је стопа лажно позитивних резултата. Алати за вештачку интелигенцију производе велику количину кода брзо и имају висок FPR. SAST генерише толико налаза да програмери науче да их игноришу. То је динамика замора од упозорења која потпуно поништава сврху скенирања.
Ксигени SAST био је упоређен са OWASP бенчмарк и постигао је стопу позитивних резултата од 100% са стопом лажно позитивних резултата од 16.7%. У окружењу где код генерисан вештачком интелигенцијом повећава обим проналажења, тај преcisИон је оно што чини налазе применљивим, а не игнорисаним. Сазнајте више о Ксигенију SAST →
2. Непрекидно скенирајте за тајне, не само повремено commit време
Pre-commit hooks су неопходни, али нису довољни. Програмери који користе вештачку интелигенцију алате великом брзином често заобилазе hooks, користе веб-базиране AI едиторе који их не подржавају или генеришу тајне унутар CI скрипти уместо кода апликације, где hooks никада не окидати.
Комплетан систем безбедности тајни за потребе развоја уз помоћ вештачке интелигенције pre-commit hooks за програмере који користе локалне вештачке интелигенције, континуирано скенирање репозиторијума у свим гранама, укључујући комплетну историју commit покривеност (важеће тајне из старих commitсу и даље експлоатисани), pipeline скенирање логова (CI скрипте које генерише вештачка интелигенција често укључују акредитиве као интерполиране променљиве које се штампају за креирање логова) и аутоматско опозив при детекцији, јер се временски оквир између изложености и откривања нападача често мери сатима, а не данима.
Xygeni Secrets Security детектује преко 800 тајних типова у репозиторијумима, pipeline трупци, IaC датотеке и слике контејнера. --history Режим скенирања открива тајне које су технички старе, али и даље важеће, што је уобичајена празнина у радним процесима уз помоћ вештачке интелигенције. Тајне се маскирају пре него што се евидентирају или пошаљу на платформу, тако да сам процес откривања не ствара нову изложеност. Радни процеси аутоматског опозива се покрећу при откривању. Сазнајте више →
КСНУМКС. Применити SCA са детекцијом злонамерног софтвера до зависности које сугерише вештачка интелигенција
Алати за вештачку интелигенцију не пишу само код, већ предлажу зависности. Програмер који тражи од асистента да „дода библиотеку за JWT парсирање“ добија препоруку за пакет који може бити легитиман пакет, пакет са типографском грешком и сличним именом или пакет који је био легитиман када је модел трениран, али је од тада угрожен.
Истраживање рањивости кода генерисаног вештачком интелигенцијом у оквиру CSA 2025 такође документује „немарно чучање“, нападаче који региструју халуцинирана имена пакета које алати вештачке интелигенције измишљају, претварајући халуцинацију модела директно у вектор напада ланца снабдевања. Standard засновано на CVE SCA не хвата ништа од овога.
Шта вам је заправо потребно: детекција бихејвиоралног злонамерног софтвера која означава пакете са сумњивим инсталационим скриптама, неочекиваним мрежним позивима или замагљеним кодом; детекција типосквотинга и слопсквотинга која анализира комплетан граф зависности за пакете са обмањујућим именима; и скенирање CVE филтрирано по доступности које разликује рањиве функције које се заправо позивају од оних увезених, али никада не извршених.
Ксигени SCA комбинује детекцију злонамерног софтвера у реалном времену путем Рано упозоравање на злонамерни софтвер (MEW) мотор, скенирање npm, PyPI, Maven, NuGet, RubyGems и других регистара у време објављивања, не само у време инсталације, са Скенер сумњивих зависности који открива грешке у куцању, забуну око зависности и сумњиве скрипте за инсталирање анализирајући комплетан граф зависности. Погледајте како функционише →
4. Спроведите безбедност guardrails у pipeline, не само у прегледу кода
Преглед кода је преспор и превише недоследан да би био примарна безбедносна контрола за код генерисан вештачком интелигенцијом. Програмери који прегледају резултате вештачке интелигенције под притиском брзине прво проверавају функционалну исправност. Безбедносна исправност, ако се уопште проверава, долази на друго место.
Pipeline-Ниво guardrails аутоматски спроводи захтеве: блокирај израде које уводе нове критичне SAST налази изнад конфигурабилног прага, блокирају распоређивање ако се открију нове тајне у commit, спроводе политику зависности блокирањем пакета који не прођу провере злонамерног софтвера или нису закачени за тачан сажетак и захтевају SBOM генерација за издања која укључују код потпомогнут вештачком интелигенцијом.
Кључни принцип дизајна: guardrails требало би да блокира или упозори, а не само да пријави. Налаз који не блокира ништа учи програмере да се налази могу безбедно игнорисати.
Ксигени ДевАИ је агентски безбедносни копилот доступан као Екстензија VS кода IntelliJ/JetBrains додатак који се покреће инкрементално SAST скенирање док програмери пишу код, објашњава путање експлоатације за откривене рањивости и пружа предлоге за поправке које је потврдио Xygeni MCP Server у погледу ризика, политике и утицаја промена које се дешавају. Детекција тајни, SCA, i IaC Сва скенирања се извршавају у истој IDE сесији. Сазнајте више →
6. Пратите аномално понашање алата за вештачку интелигенцију (AI)
Агентски алати вештачке интелигенције, алати који предузимају аутономне акције у вашем окружењу, а не само генеришу предлоге, уводе нову површину претњи. Агентски алат за кодирање са приступом за писање у репозиторијуму, pipeline Приступ окидача или приступ тајнама је мета високе вредности ако је угрожен.
CVE-2025-54135 (CurXecute), рањивост за даљинско извршавање кода у уређивачу кода Cursor AI, омогућавала је произвољно извршавање кода на машинама програмера без интеракције корисника, откривена почетком 2026. године. Безбедносни радар Вајба на Технолошком универзитету Џорџије Истраживање наводи да се површине за напад брзо шире како алати вештачке интелигенције постају аутономнији.
Праћење понашања за активност вештачке интелигенције у вашем pipeline треба обратити пажњу на неочекиване промене CI/CD датотеке за конфигурацију тока посла (један од најјаснијих сигнала компромитованог АИ алата или напада брзим убризгавањем), процеси АИ кодирања алата који упућују мрежне захтеве неочекиваним дестинацијама током времена израде, необични обрасци приступа складиштима тајни са радних станица програмера и нове зависности које су увели АИ алати, а које нису биле присутне у претходним израдама.
| слој | контрола | Приоритет |
|---|---|---|
| код | SAST на сваком commit, конфигурација са ниским FPR-ом | Критичан |
| код | Повратне информације о безбедности IDE-а у VS Code / IntelliJ | висок |
| Тајне | Pre-commit hooks + континуирано скенирање репозиторијума | Критичан |
| Тајне | Скенирање историје Гита за валидне застареле тајне | Критичан |
| Тајне | Аутоматско опозивање при откривању | Критичан |
| Зависности | SCA са злонамерним софтвером + откривањем немарних активности | Критичан |
| Зависности | Приоритизација CVE-а филтрирана према доступности | висок |
| Pipeline | Градите блокове на новим критичним налазима | висок |
| Pipeline | Спровођење политике зависности у време израде | висок |
| Pipeline | SBOM генерација за издања потпомогнута вештачком интелигенцијом | Средњи |
| Агентски алати | Праћење понашања активности алата вештачке интелигенције | висок |
| Агентски алати | Приступ са најмање привилегија за алате за вештачку интелигенцију (AI) кодирање | висок |
Како Xygeni обезбеђује код генерисан вештачком интелигенцијом од почетка до краја
Обезбеђивање кода генерисаног вештачком интелигенцијом захтева покривеност у целости SDLC, од тренутка када програмер прихвати предлог до тренутка када артефакт стигне до производње. Алати за тачке који покривају само један слој остављају празнине које ће развој брзином вештачке интелигенције поуздано пронаћи.
| Стаж | Ксигени могућности | Шта хвата |
|---|---|---|
| У интегрисаном развојном окружењу (IDE) | DevAI + MCP сервер | Рањивости у време писања, пре commit |
| At commit | SAST + Тајне безбедности | Грешке у коду, чврсто кодирани акредитиви, изложени API кључеви |
| Приликом изградње | SCA са детекцијом злонамерног софтвера + доступношћу | Злонамерне или рањиве зависности које сугерише вештачка интелигенција |
| In pipeline | CI/CD Безбедност + Детекција аномалија | Небезбедне израде, компромитовање агентских алата, убризгани токови рада |
| Након распоређивања | ДАСТ + ASPM | Валидација експлоатабилности током извршавања, обједињено стање ризика |
Кључна разлика је слој интелигенције који повезује све ово. Xygeni-јев MCP сервер осигурава да се предлог за поправку који DevAI генерише у IDE-у процени у погледу усклађености са политикама, ризика од промена које могу довести до кршења и организационог контекста пре него што стигне до програмера. Санација уз помоћ вештачке интелигенције са guardrails, не са искљученим осигурачем.
Завршне мисли
Алати за кодирање вештачке интелигенције генеришу значајан и све већи удео enterprise код. Такође систематски уводе безбедносне рањивости у обрасцима који су најважнији: недостајућа ауторизација, откривене тајне, небезбедне зависности и недостаци дизајна које статички скенери пропуштају.
Одговор није ограничавање употребе алата вештачке интелигенције. Већ build security инфраструктура која се скалира са брзином развоја вештачке интелигенције. Тимови који ово схвате како треба испоручују функције потпомогнуте вештачком интелигенцијом брже и безбедније од тимова који третирају вештачки код као људски код са нешто већом стопом грешака.
Није. И твој pipeline треба знати разлику.
???? Започните бесплатни пробни рад и скенирајте своје прво спремиште уз помоћ вештачке интелигенције за неколико минута, без потребе за кредитном картицом.
???? Резервишите демонстрацију и погледајте како се Xygeni уклапа у ваш специфични стек за развој вештачке интелигенције.
???? Преузмите белу књигуОбезбедите Vibe кодирање пре него што постане највећи ризик ваше организације по питању вештачке интелигенције.
Повезано читање:
- Безбедност помоћника за вештачко кодирање: Како спречити рањивости у коду генерисаном вештачком интелигенцијом
- Безбедност сенчене вештачке интелигенције: Све што треба да знате
- Како имплементирати вештачку интелигенцију (AI) у DevSecOps-у
- Безбедност MCP-а: Заштита протокола контекста модела
- OWASP Топ 10 за пријаве за мастер студије права (LLM) 2025
О аутору
Суоснивач и технички директор
Фатима Said специјализован је за садржај првенствено намењен програмерима за AppSec, DevSecOps и software supply chain securityОна претвара сложене безбедносне сигнале у јасне, практичне смернице које помажу тимовима да брже одреде приоритете, смање буку и испоруче безбеднији код.
