Відкритий вихідний код став основою сучасної розробки програмного забезпечення. Майже кожна програма сьогодні залежить від складної мережі сторонніх бібліотек, фреймворків, моделей та інструментів збірки. Сама ця реальність вже вносить значні зміни. software supply chain security виклики. Водночас штучний інтелект увійшов у життєвий цикл розробки програмного забезпечення як потужний акселератор, що генерує код, пропонує залежності, автоматизує виправлення та навіть впливає на архітектурний дизайнcisіонів. Разом, відкрите програмне забезпечення та штучний інтелект змінили те, як створюється програмне забезпечення, і, неминуче, як на нього атакують. Перетин безпеки штучного інтелекту, безпеки штучного інтелекту та програмного забезпечення, а також software supply chain security більше не є теоретичним. Тепер це одне з домінуючих джерел ризику ланцюжка поставок програмного забезпечення, з яким стикаються інженерні організації.
Ця реальність лягла в основу нашої нещодавньої розмови про SafeDev: Відкритий код, штучний інтелект та нова поверхня атаки: код, що перетворюється на зброю, розумніший захистза участю лідерів з безпеки з Red Hat, TikTok та Xygeni. Обговорення було зосереджено на тому, з чим команди безпеки та інженерів вже стикаються у виробничому середовищі, зокрема щодо атак на ланцюги поставок з відкритим кодом, шкідливих пакетів з відкритим кодом та зростаючої напруги між швидкістю та контролем у розробці програмного забезпечення на основі штучного інтелекту. Виникла чітка картина: площа атаки розширюється швидше, ніж можуть встигати традиційні моделі безпеки, а штучний інтелект діє як множник сили та стрес-тест для давніх припущень щодо безпеки ШІ. software supply chain security.
Якщо цей опис здається неприємно близьким до того, як ваша організація зараз створює програмне забезпечення, це не випадковість. Багато команд усвідомлюють, наскільки довіра перейшла до автоматизації, лише після того, як щось ламається.
Безпека та ШІ Software Supply Chain Security Тепер та сама проблема
Постійною темою протягом усієї дискусії було те, що безпеку штучного інтелекту більше не можна розглядати як окрему дисципліну від software supply chain securityСистеми штучного інтелекту не працюють ізольовано; вони створюються, навчаються, розгортаються та інтегруються через один і той самий pipelineс, залежності та реєстри, які вже зазнають атак з відкритим кодом на ланцюги поставок.
У розробці програмного забезпечення на основі штучного інтелекту моделі пропонують код, генерують виправлення та автоматично вибирають залежності. Ці...cisіони безпосередньо впливають управління залежностями з відкритим кодом, часто без явного людського наміру. Як наслідок, ризик залежності більше не залежить виключно від вибору розробника; він дедалі більше формується поведінкою штучного інтелекту.
Ця конвергенція означає, що збої в безпеці штучного інтелекту та програмного забезпечення часто проявляються як традиційні інциденти ланцюга поставок: скомпрометовані залежності, пошкоджені артефакти збірки або вразливі елементи. CI/CD процеси. Інструменти можуть бути новими, але ризик для ланцюга постачання програмного забезпечення є цілком реальним і його дедалі важче передбачити.
Якщо ваші моделі загроз все ще розділяють «ризик штучного інтелекту» від «ризику ланцюга постачання», можливо, варто переглянути, де насправді існує ця межа у ваших робочих процесах збірки та розгортання.
Атаки на ланцюги поставок з відкритим кодом зі швидкістю машини
Атаки на ланцюги поставок з відкритим кодом не є чимось новим, але штучний інтелект змінює їхню економіку. Зловмисникам не потрібні нові методи; їм потрібен масштаб. Штучний інтелект дозволяє швидко аналізувати екосистему, автоматизовано виявляти слабкі залежності та швидко виконувати ітерації щодо корисних навантажень атаки.
З точки зору наступу, така індустріалізація розвідки різко підвищує рівень успішності атак із використанням шкідливих пакетів з відкритим кодом. Компоненти, які раніше залишалися непоміченими, тепер можна швидко виявити, проаналізувати та використати, часто до того, як захисники усвідомлять, що вони використовуються.
Тому software supply chain security не можна покладатися лише на затримані сигнали. Реєстри, рекомендації та розкриття інформації постфактум працюють у людських часових рамках, тоді як зловмисники все частіше діють зі швидкістю машини. Отримане вікно впливу є прямим фактором зростання ризику в ланцюжку поставок програмного забезпечення.
Якщо вашим основним сигналом виявлення є «реєстр видалив пакет», ви вже дієте нижче за часовою шкалою зловмисника.
Хочете глибоко зануритися в атаки на ланцюги поставок програмного забезпечення з відкритим кодом?
Ризик залежності в розробці програмного забезпечення на основі штучного інтелекту
Одним із найявніших ризиків, обговорених під час доповіді SafeDev Talk, був ризик залежності, особливо в середовищах, які значною мірою залежать від розробки програмного забезпечення на основі штучного інтелекту. Помічники кодування на основі штучного інтелекту оптимізовані для зручності та швидкості, а не для мінімізації поверхні атаки.
На практиці це призводить до агресивного впровадження залежностей. Замість повторного використання існуючої функціональності додаються нові бібліотеки. транзитивні залежності розширюватися непомітно та з відкритим вихідним кодом управління залежностями стає реактивним, а не навмисним. З часом команди втрачають здатність міркувати про те, що вони насправді виконують.
Це не просто питання гігієни. Кожна нова залежність створює додатковий ризик для ланцюга постачання програмного забезпечення, нові припущення щодо довіри та нові можливості для атак на ланцюги постачання програмного забезпечення з відкритим кодом. Коли залежність...cisІони автоматизуються та розглядаються поверхнево, ризик залежності стає системним, а не випадковим.
Якщо ваш графік залежностей зростає швидше, ніж здатність вашої команди його пояснити, це не проблема інструментарію, а проблема довіри.
Помічники ШІ-кодування, безпека та крах рецензування
Ще одним обговорюваним режимом відмови було зниження рівня експертної оцінки за наявності коду, згенерованого штучним інтелектом. Помічники кодування зі штучним інтелектом, безпека полягає не лише у швидкому впровадженні коду чи неправильному використанні моделі; вона стосується того, скільки неперевіреної логіки потрапляє у виробничі системи.
Зміни, згенеровані штучним інтелектом, часто є великими, узгодженими та їх важко переглянути під тиском часу. Як наслідок, експертна оцінка стає поверхневою або символічною. Такий тихий колапс позбавляє один із найефективніших засобів контролю в software supply chain security.
Проблема не в недбалості розробника. Це в невідповідності робочого процесу. Коли швидкість винагороджується, а перешкоди караються, засоби контролю безпеки штучного інтелекту та програмного забезпечення, які залежать від людської уваги, неминуче послаблюються. Зловмисникам не потрібно обходити перевірку, якщо перевірка більше не функціонує як бар'єр.
Багато команд вважають, що перевірка все ще працює, оскільки сам процес існує. Менше команд запитують, чи вона все ще функціонує як значущий контроль.
Шкідливі пакети з відкритим кодом та міф про популярність
Поширеною є думка, що в управлінні залежностями з відкритим кодом популярні проекти безпечніші. Насправді популярність часто збільшує ризики. Широко використовувані бібліотеки є цінними цілями для... атаки на ланцюги поставок з відкритим кодом, заcisтому що компроміс дає широкий вплив на подальші дії.
Багато популярних проектів підтримуються невеликими командами або окремими особами. Навіть коли проблеми виявляються, шкідливі пакети з відкритим кодом часто залишаються доступними протягом кількох годин або днів, перш ніж їх видаляють. Протягом цього часу організації продовжують використовувати їх за допомогою автоматизованих збірок.
Ця затримка підсилює необхідність проактивних дій software supply chain security засоби контролю. Покладатися лише на популярність, репутацію чи дії реєстру недостатньо, коли стикаєшся з ризиком сучасного ланцюга постачання програмного забезпечення.
«Широко використовується» не те саме, що «активно захищається», і таке трактування є одним із найпоширеніших хибних уявлень щодо ланцюга поставок.
Походження в ланцюгах поставок програмного забезпечення та безпеці штучного інтелекту
Протягом обговорення неодноразово виникала необхідність визначення походження в ланцюгах постачання програмного забезпечення. У середовищах із використанням штучного інтелекту атрибуція стає розмитою. Код може бути згенерований моделлю, модифікований людиною, об'єднаний автоматизацією та розгорнутий без чіткої підзвітності.
Без перевіреного походження організації змушені неявно довіряти артефактам. Безпека штучного інтелекту вимагає переходу від довіри до перевірки: підписані артефакти, build attestations, та відстежуване походження. Хоча походження не запобігає зловмисній поведінці повністю, воно значно зменшує неоднозначність та обмежує маневрування зловмисника.
Це однаково стосується моделей, даних та коду. У розробці програмного забезпечення на основі штучного інтелекту походження є основоположною вимогою як для безпеки штучного інтелекту, так і для безпеки програмного забезпечення.
SBOM та безпека штучного інтелекту в сучасному Pipelines
Роль Росії SBOM а безпека штучного інтелекту була ще однією неявною темою. SBOMзабезпечують видимість графів залежностейале самої лише видимості недостатньо. У середовищах із високим рівнем штучного інтелекту, SBOMповинні розвиватися, щоб охоплювати не лише бібліотеки, а й моделі, кроки збірки та автоматизований процес розробки.cisіонів.
У поєднанні з аналіз поведінки та походження, SBOM і безпека штучного інтелекту стають потужними інструментами для зниження ризиків у ланцюжку поставок програмного забезпечення. Вони дозволяють організаціям виявляти неочікувані зміни, обмірковувати їх вплив та ефективніше реагувати на атаки на ланцюжки поставок з відкритим кодом.
CI/CD Pipeline Security Під тиском автоматизації
Нарешті, CI/CD pipeline security виникла як критична площина керування. Pipelineвсе частіше виконують дії, запропоновані або ініційовані системами штучного інтелекту. Якщо ці pipelineЯкщо на сайтах відсутні надійні засоби контролю ідентифікації, перевірка артефактів та дотримання політик, вони стають ідеальними точками входу для зловмисників.
Неадекватний CI/CD pipeline security дозволяє шкідливим пакетам з відкритим кодом впливати не лише на виробничі системи, але й на середовища розробників та інфраструктуру збірки. Зі зростанням автоматизації, pipelineповинні розглядатися як високоцінні активи в рамках software supply chain security програм.
Перегляньте виступ SafeDev Talk
Щоб дізнатися більше про всі ці ідеї безпосередньо від практиків, які формують цю галузь, перегляньте повний випуск Обговорення SafeDev: Відкритий код, штучний інтелект та нова поверхня атаки: код, що перетворюється на зброю, розумніший захист, Показуючи Роман Жуков (Червоний капелюх), Леон Джонсон (TikTok) та Луїс Родрігес Берзоса (Ксігені).
Практичні наслідки для безпеки штучного інтелекту та Software Supply Chain Security
Практичні наслідки цих змін виходять за рамки інструментарію. Організації повинні усвідомлювати, що безпека штучного інтелекту, безпека штучного інтелекту та програмного забезпечення, а також software supply chain security тепер тісно пов'язані. ДеcisІони, які колись вважалися низькоризиковими, оновлення залежностей, генерація коду та автоматизація, тепер несуть значний ризик для ланцюга постачання програмного забезпечення, особливо коли ці процеси...cisіони створюються інструментами неявно, а не явно людьми.
Під час виступу SafeDev Talk цей момент був лаконічно підсумований. Як сказав один із спікерів, Коли системи штучного інтелекту беруть участь у розробці програмного забезпечення, команди безпеки вже не просто захищають код; вони захищаютьcisіонів. Автоматизація не знімає відповідальності; вона її перерозподіляє.
На практиці це означає відновлення навмисності там, де перевагу взяла зручність. Управління залежностями з відкритим кодом має враховувати поведінку, керовану штучним інтелектом, а не припускати людського обмірковування. Ризик залежності більше не можна розглядати як епізодичну перевірку.cise. CI/CD pipeline security повинні забезпечувати перевірку, а не припускати доброякісних внесків. А походження в ланцюгах постачання програмного забезпечення має перейти від прагнення до базового рівня.
Ще одним висновком з обговорення було те, що сама швидкість більше не є нейтральною. Більшість збоїв у ланцюжку поставок не виникають через одну катастрофічну подію.cisіон, але від багатьох невеликих автоматизованих рішень, які ніхто прямо не схвалив. Це попередньоcisчому традиційні моделі довіри зазнають невдачі в умовах розробки програмного забезпечення на основі штучного інтелекту.
Ніщо з цього не означає відмову від відкритого коду чи штучного інтелекту. Навпаки, це визнає їхню центральну роль у сучасній інженерії. Але без розвитку припущень щодо безпеки організації ризикують дозволити автоматизації визначати довіру за замовчуванням.
Щоб зробити висновок…
Корисний спосіб осмислення цього зсуву полягає в тому, що software supply chain security більше не йдеться лише про захист артефактів. Йдеться про захист decisіонні шляхиУ світі, що базується на штучному інтелекті, найважливішими питаннями безпеки є не лише «Чи є цей компонент вразливим?», але й «Чому це було впроваджено, ким або чим, і за яких обмежень?». Організації, які адаптуються до цієї концепції, не усунуть ризик, але будуть набагато менше ним здивовані.
