Open source has become the foundation of modern software development. Nearly every application today relies on a complex web of third-party libraries, frameworks, models, and build tools, and code generated with AI assistance already carries measurably more vulnerabilities than code written without it. This reality alone already introduces significant software supply chain security challenges. At the same time, artificial intelligence has entered the [software development lifecycle](https://xygeni.io/sscs-glossary/what-is-sdlc/) as a powerful accelerator, generating code, suggesting dependencies, automating fixes, and even influencing architectural decisions. Together, open source and AI have transformed how software is built, and, inevitably, how it is attacked. The intersection of AI security, AI and software security, and software supply chain security вече не е теоретично. Сега е един от доминиращите източници на риск във веригата за доставки на софтуер, пред който са изправени инженерните организации.
Тази реалност оформи нашата скорошна дискусия за SafeDev: Отворен код, изкуствен интелект и новата повърхност за атака: код, превърнат в оръжие, по-интелигентна защита, с участието на лидери по сигурността от Red Hat, TikTok и Xygeni. Дискусията се фокусира върху това, с което екипите по сигурност и инженерство вече се сблъскват в производствени среди, особено по отношение на атаки върху веригата за доставки с отворен код, злонамерени пакети с отворен код и нарастващото напрежение между скоростта и контрола при разработването на софтуер, задвижван от изкуствен интелект. Това, което се очерта, беше ясна картина: повърхността за атака се разширява по-бързо, отколкото традиционните модели за сигурност могат да се справят, а изкуственият интелект действа едновременно като умножител на силата и стрес тест за дългогодишните предположения в сигурността на изкуствения интелект. software supply chain security.
Ако това описание ви се струва неприятно близко до начина, по който вашата организация в момента изгражда софтуер, това не е съвпадение. Много екипи осъзнават колко доверие се е изместило към автоматизацията едва след като нещо се повреди.
Сигурност с изкуствен интелект и Software Supply Chain Security Сега са същият проблем
Повтаряща се тема по време на дискусията беше, че сигурността на изкуствения интелект вече не може да се третира като отделна дисциплина от... software supply chain securityСистемите с изкуствен интелект не работят изолирано; те се изграждат, обучават, внедряват и интегрират чрез едни и същи... pipelineс, зависимости и регистри, които вече се борят с атаки върху веригата за доставки с отворен код.
В разработката на софтуер, задвижван от изкуствен интелект, моделите предлагат код, генерират корекции и избират зависимости автоматично. Тези деcisйоните влияят пряко управление на зависимостите с отворен код, често без изрично човешко намерение. В резултат на това рискът от зависимости вече не се определя единствено от избора на разработчика; той все повече се формира от поведението на изкуствения интелект.
Тази конвергенция означава, че провалите в ИИ и софтуерната сигурност често се проявяват като традиционни инциденти във веригата за доставки: компрометирани зависимости, повредени артефакти на компилация или уязвимости. CI/CD процеси. Инструментите може да са нови, но рискът за веригата за доставки на софтуер е много реален и все по-труден за разсъждение.
Ако вашите модели на заплахи все още разделят „риска, свързан с изкуствения интелект“, от „риска, свързан с веригата за доставки“, може би си струва да преразгледате къде всъщност съществува тази граница във вашите работни процеси за изграждане и внедряване.
Атаки върху веригата за доставки с отворен код с машинна скорост
Атаките срещу вериги за доставки с отворен код не са нови, но изкуственият интелект променя тяхната икономика. Атакуващите не се нуждаят от нови техники; те се нуждаят от мащаб. Изкуственият интелект позволява бърз анализ на екосистемата, автоматизирано откриване на слаби зависимости и бърза итерация на полезните товари на атаката.
От офанзивна гледна точка, тази индустриализация на разузнаването драстично увеличава процента на успех на атаки, включващи злонамерени пакети с отворен код. Компоненти, които преди биха останали незабелязани, сега могат да бъдат открити, анализирани и използвани бързо, често преди защитниците да осъзнаят, че са в употреба.
Ето защо software supply chain security не може да се разчита само на закъснели сигнали. Регистрите, съветите и последващите разкрития работят в човешки срокове, докато атакуващите все по-често действат със скоростта на машината. Полученият прозорец за експозиция е пряк фактор за нарастващия риск за веригата за доставки на софтуер.
Ако основният ви сигнал за откриване е „регистърът е премахнал пакета“, вие вече действате надолу по веригата на времевата линия на нападателя.
Искате да се потопите задълбочено в атаките върху веригата за доставки на софтуер с отворен код?
Риск от зависимости при разработка на софтуер, управляван от изкуствен интелект
Един от най-ясните рискове, обсъдени по време на SafeDev Talk, беше рискът от зависимости, особено в среди, които разчитат в голяма степен на разработка на софтуер, задвижван от изкуствен интелект. Асистентите за кодиране с изкуствен интелект са оптимизирани за удобство и бързина, а не за минимизиране на повърхността за атака.
На практика това води до агресивно въвеждане на зависимости. Добавят се нови библиотеки, вместо да се използва повторно съществуваща функционалност. транзитивни зависимости разширявайте се тихо и с отворен код управление на зависимостите става реактивно, а не преднамерено. С течение на времето екипите губят способността си да разсъждават за това, което всъщност изпълняват.
Това не е просто хигиенен проблем. Всяка нова зависимост въвежда допълнителен риск за веригата за доставки на софтуер, нови предположения за доверие и нови възможности за атаки върху веригата за доставки с отворен код. Когато зависимостта...cisйоните са автоматизирани и се преглеждат повърхностно, рискът от зависимост става системен, а не случаен.
Ако графиката на зависимостите ви расте по-бързо от способността на екипа ви да я обясни, това не е проблем с инструментите, а проблем с доверието.
Асистенти за кодиране с изкуствен интелект, сигурност и крахът на Review
Друг обсъждан начин на отказ беше ерозията на експертната оценка при наличие на генериран от изкуствен интелект код. Помощниците в кодирането с изкуствен интелект, сигурността не е само в бързото инжектиране или злоупотребата с модел; тя е в това колко непроверена логика навлиза в производствените системи.
Промените, генерирани от изкуствен интелект, често са големи, последователни и трудни за преглед под натиск от време. В резултат на това, експертната оценка става повърхностна или символична. Този тих срив премахва един от най-ефективните контроли в software supply chain security.
Проблемът не е небрежността на разработчика. Става въпрос за несъответствие в работния процес. Когато скоростта се възнаграждава, а триенето се наказва, контролите за сигурност на изкуствения интелект и софтуера, които зависят от човешкото внимание, неизбежно отслабват. Нападателите не е необходимо да заобикалят прегледа, ако той вече не функционира като бариера.
Много екипи приемат, че прегледът все още работи, защото процесът съществува. По-малко се питат дали той все още функционира като смислен контрол.
Злонамерени пакети с отворен код и митът за популярността
Често срещано схващане в управлението на зависимостите с отворен код е, че популярните проекти са по-безопасни. В действителност популярността често увеличава експозицията. Широко използваните библиотеки са ценни цели за... атаки върху веригата за доставки с отворен код, предcisзащото компромисът води до широко въздействие надолу по веригата.
Много популярни проекти се поддържат от малки екипи или отделни хора. Дори когато бъдат открити проблеми, злонамерените пакети с отворен код често остават достъпни часове или дни преди да бъдат премахнати. През това време организациите продължават да ги приемат чрез автоматизирани компилации.
Това забавяне засилва необходимостта от проактивни software supply chain security контроли. Разчитането само на популярност, репутация или действия в регистъра е недостатъчно, когато се сблъскате с риск, свързан със съвременната верига за доставки на софтуер.
„Широко използван“ не е същото като „активно защитаван“ и третирането му като такъв е едно от най-упоритите погрешни схващания за веригата за доставки.
Произход във веригите за доставки на софтуер и сигурността на изкуствения интелект
По време на дискусията необходимостта от произход във веригите за доставки на софтуер се появяваше многократно. В среди, подпомагани от изкуствен интелект, атрибуцията се размива. Кодът може да бъде генериран от модел, модифициран от човек, обединен чрез автоматизация и внедрен без ясна отчетност.
Без проверим произход, организациите са принудени да се доверяват имплицитно на артефактите. Сигурността на изкуствения интелект изисква преминаване от доверие към проверка: подписани артефакти, build attestationsи проследим произход. Въпреки че произходът не предотвратява злонамерено поведение директно, той значително намалява неяснотата и ограничава маневреността на нападателя.
Това важи еднакво за модели, данни и код. При разработването на софтуер, задвижван от изкуствен интелект, произходът е основно изискване както за сигурността на изкуствения интелект, така и на софтуера.
SBOM и сигурност с изкуствен интелект в съвременното Pipelines
Ролята на SBOM и сигурността на изкуствения интелект беше друга имплицитна тема. SBOMосигуряват видимост в графиките на зависимоститено само видимостта не е достатъчна. В среди с много изкуствен интелект, SBOMтрябва да се развиват, за да обхващат не само библиотеки, но и модели, стъпки за изграждане и автоматизирано разработване.cisйони.
Когато се комбинира с анализ на поведението и произход, SBOM и сигурността с изкуствен интелект се превръщат в мощни инструменти за намаляване на риска във веригата за доставки на софтуер. Те позволяват на организациите да откриват неочаквани промени, да обмислят въздействието и да реагират по-ефективно на атаки във веригата за доставки с отворен код.
CI/CD Pipeline Security Под натиск на автоматизацията
И накрая, CI/CD pipeline security се очерта като критична контролна равнина. Pipelineвсе по-често изпълняват действия, предложени или задействани от системи с изкуствен интелект. Ако тези pipelineТъй като на тях липсват силни контроли за самоличност, проверка на артефакти и прилагане на политики, те се превръщат в идеални входни точки за нападателите.
Неадекватно CI/CD pipeline security позволява на злонамерени пакети с отворен код да засягат не само производствените системи, но и средите за разработчици и да изграждат инфраструктура. С увеличаването на автоматизацията, pipelineтрябва да се третират като активи с висока стойност в рамките на software supply chain security програми.
Гледайте лекцията на SafeDev
За да чуете повече за всички тези прозрения директно от практикуващите, които оформят областта, гледайте пълното Разговор за SafeDev: Отворен код, изкуствен интелект и новата повърхност за атака: код, превърнат в оръжие, по-интелигентна защита, С участието на Роман Жуков (Червена шапка), Леон Джонсън (TikTok), и Луис Родригес Берзоса (Ксигени).
Практически последици за сигурността на изкуствения интелект и Software Supply Chain Security
Практическите последици от тези промени се простират отвъд инструментариума. Организациите трябва да признаят, че сигурността на изкуствения интелект, сигурността на изкуствения интелект и софтуера, както и software supply chain security сега са дълбоко преплетени. ДеcisИони, които някога са се смятали за нискорискови, актуализации на зависимости, генериране на код и автоматизация, сега носят значителен риск за веригата за доставки на софтуер, особено когато тези де...cisЙоните се създават имплицитно от инструменти, а не експлицитно от хора.
По време на презентацията SafeDev, тази точка беше обобщена сбито. Както се изрази един от лекторите, Когато системите с изкуствен интелект участват в разработването на софтуер, екипите по сигурността вече не само осигуряват сигурността на кода; те осигуряват сигурността на...cisйони. Автоматизацията не премахва отговорността; тя я преразпределя.
На практика това означава възстановяване на целенасочеността там, където удобството е взело превес. Управлението на зависимостите от отворен код трябва да отчита поведението, обусловено от изкуствен интелект, вместо да предполага човешко обмисляне. Рискът от зависимости вече не може да се третира като случаен преглед.cise. CI/CD pipeline security трябва да налага проверка, а не да предполага доброкачествен принос. А произходът във веригите за доставки на софтуер трябва да се измести от стремеж към изходно ниво.
Друго заключение от дискусията беше, че самата скорост вече не е неутрална. Повечето сривове във веригата за доставки не произтичат от едно-единствено катастрофално...cisйон, но от много малки автоматизирани избори, които никой не е одобрил изрично. Това е предварителноcisЕто защо традиционните модели на доверие се провалят при разработването на софтуер, задвижван от изкуствен интелект.
Нищо от това не означава изоставяне на отворения код или изкуствения интелект. Напротив, то признава централната им роля в съвременното инженерство. Но без развиващи се предположения за сигурност, организациите рискуват да позволят на автоматизацията да определя доверието по подразбиране.
AI Security Means Protecting Decisions, Not Just Artifacts
Полезен начин да се осмисли тази промяна е, че software supply chain security is no longer about protecting artifacts alone. It is about protecting decision paths. In an AI-assisted world, the most important security questions are not only “Is this component vulnerable?” but “Why was this introduced, by whom or what, and under which constraints?”
This is exactly where AI security and software supply chain security stop being two disciplines and become one practice: verifying not just what code and dependencies do, but where they came from and what decided to bring them in. Organizations that adapt to this framing will not eliminate risk, but they will be far less surprised by it, and far faster to trace an incident back to its actual origin instead of just its symptom.
Често задавани въпроси
Is AI security the same as software supply chain security?
Not exactly, but they increasingly overlap. AI security focuses on risks specific to models, agents, and AI-generated code. Software supply chain security covers dependencies, build pipelines, and artifact integrity. When AI tools select dependencies or generate code that enters production, the two disciplines converge, and treating them separately leaves gaps.
Why does AI change the economics of supply chain attacks?
AI lowers the cost of reconnaissance and payload iteration for attackers, letting them analyze ecosystems and discover weak dependencies at machine speed, rather than relying on manual research. Defenders relying on delayed signals, like registry takedowns, are structurally behind that timeline.
Does a popular open source package mean it’s safe?
No. Popularity increases exposure as much as it increases trust, since widely used libraries are high-value targets precisely because compromising them yields broad downstream impact. Many popular projects are also maintained by very small teams, which limits how quickly a compromise gets caught and removed.
What is provenance, and why does it matter for AI-generated code?
Provenance is verifiable information about where an artifact came from, who or what created it, and how it was built. In AI-assisted development, code can be generated by a model, modified by a human, and merged by automation, all without clear accountability. Provenance replaces implicit trust with verification: signed artifacts, build attestations, and traceable origins.
