Адкрыты зыходны код стаў асновай сучаснай распрацоўкі праграмнага забеспячэння. Амаль кожнае прыкладанне сёння абапіраецца на складаную сетку старонніх бібліятэк, фрэймворкаў, мадэляў і інструментаў зборкі. Адна толькі гэтая рэальнасць ужо ўводзіць значныя... software supply chain security праблемы. У той жа час штучны інтэлект увайшоў у жыццёвы цыкл распрацоўкі праграмнага забеспячэння як магутны паскаральнік, які генеруе код, прапануе залежнасці, аўтаматызуе выпраўленні і нават уплывае на архітэктурны дызайнcisіёны. Разам адкрытае праграмнае забеспячэнне і штучны інтэлект змянілі спосаб стварэння праграмнага забеспячэння і, непазбежна, спосаб яго атакі. Перасячэнне бяспекі штучнага інтэлекту, бяспекі штучнага інтэлекту і праграмнага забеспячэння, а таксама software supply chain security больш не з'яўляецца тэарэтычным. Цяпер гэта адна з дамінуючых крыніц рызыкі ланцужка паставак праграмнага забеспячэння, з якой сутыкаюцца інжынерныя арганізацыі.
Гэтая рэальнасць паўплывала на нашу нядаўнюю размову аб SafeDev: Адкрыты зыходны код, штучны інтэлект і новая паверхня для атакі: код, узброены ўзбраеннем, больш разумная абароназ удзелам кіраўнікоў па бяспецы з Red Hat, TikTok і Xygeni. Дыскусія была сканцэнтравана на тым, з чым каманды бяспекі і інжынераў ужо сутыкаюцца ў вытворчых асяроддзях, асабліва з атакамі на ланцужкі паставак з адкрытым зыходным кодам, шкоднаснымі пакетамі з адкрытым зыходным кодам і ўзрастаючай супярэчнасцю паміж хуткасцю і кантролем у распрацоўцы праграмнага забеспячэння на аснове штучнага інтэлекту. Высветлілася выразная карціна: зона атакі пашыраецца хутчэй, чым традыцыйныя мадэлі бяспекі могуць за гэтым паспяваць, а штучны інтэлект выступае як множнік сілы, так і стрэс-тэст для даўніх здагадак аб бяспецы штучнага інтэлекту. software supply chain security.
Калі гэтае апісанне здаецца вам непрыемна блізкім да таго, як ваша арганізацыя зараз стварае праграмнае забеспячэнне, гэта не выпадковасць. Многія каманды разумеюць, наколькі давер перайшоў да аўтаматызацыі, толькі пасля таго, як нешта зламаецца.
Бяспека і штучны інтэлект Software Supply Chain Security Цяпер тая ж праблема
Падчас дыскусіі паўтаралася тэма таго, што бяспеку штучнага інтэлекту больш нельга разглядаць як асобную дысцыпліну software supply chain securityСістэмы штучнага інтэлекту не працуюць асобна; яны ствараюцца, навучаюцца, разгортваюцца і інтэгруюцца праз адну і тую ж сістэму. pipeline, залежнасці і рэестры, якія ўжо змагаюцца з атакамі на ланцужкі паставак з адкрытым зыходным кодам.
У распрацоўцы праграмнага забеспячэння на аснове штучнага інтэлекту мадэлі прапануюць код, генеруюць выпраўленні і аўтаматычна выбіраюць залежнасці. Гэтыя...cisіёны непасрэдна ўплываюць кіраванне залежнасцямі ад адкрытага зыходнага кода, часта без відавочнага намеру чалавека. У выніку рызыка залежнасці больш не вызначаецца выключна выбарам распрацоўшчыка; яна ўсё часцей фарміруецца паводзінамі штучнага інтэлекту.
Гэта збліжэнне азначае, што збоі ў бяспецы штучнага інтэлекту і праграмнага забеспячэння часта праяўляюцца ў традыцыйных інцыдэнтах ланцужкоў паставак: узламаныя залежнасці, пашкоджаныя артэфакты зборкі або ўразлівасці. CI/CD працэсы. Інструменты могуць быць новымі, але рызыка для ланцужка паставак праграмнага забеспячэння цалкам рэальная і пра яе ўсё цяжэй разважаць.
Калі вашы мадэлі пагроз усё яшчэ аддзяляюць «рызыку штучнага інтэлекту» ад «рызыкі ланцужка паставак», магчыма, варта перагледзець, дзе гэтая мяжа насамрэч існуе ў вашых працоўных працэсах зборкі і разгортвання.
Атакі на ланцужкі паставак з адкрытым зыходным кодам з машыннай хуткасцю
Атакі на ланцужкі паставак з адкрытым зыходным кодам не з'яўляюцца чымсьці новым, але штучны інтэлект змяняе іх эканоміку. Зламыснікам не патрэбныя новыя метады; ім патрэбны маштаб. Штучны інтэлект дазваляе хутка аналізаваць экасістэму, аўтаматычна выяўляць слабыя залежнасці і хутка выконваць ітэрацыі па карыснай нагрузцы атакі.
З пункту гледжання наступальнай дзейнасці, такая індустрыялізацыя разведкі значна павялічвае паспяховасць нападаў з выкарыстаннем шкоднасных пакетаў з адкрытым зыходным кодам. Кампаненты, якія раней заставаліся б незаўважанымі, цяпер можна хутка выявіць, прааналізаваць і выкарыстаць, часта да таго, як абаронцы зразумеюць, што яны выкарыстоўваюцца.
Вось чаму software supply chain security нельга спадзявацца толькі на адкладзеныя сігналы. Рэестры, рэкамендацыі і раскрыццё інфармацыі пасля факту дзейнічаюць у чалавечых маштабах, у той час як зламыснікі ўсё часцей дзейнічаюць з машыннай хуткасцю. У выніку акно рызыкі непасрэдна ўплывае на рост рызыкі ланцужка паставак праграмнага забеспячэння.
Калі вашым асноўным сігналам выяўлення з'яўляецца «рэестр выдаліў пакет», вы ўжо дзейнічаеце ніжэй па плыні зламысніка.
Хочаце паглыбіцца ў атакі на ланцужкі паставак праграмнага забеспячэння з адкрытым зыходным кодам?
Рызыка залежнасці пры распрацоўцы праграмнага забеспячэння на аснове штучнага інтэлекту
Адной з найбольш відавочных рызык, абмеркаваных падчас SafeDev Talk, была рызыка залежнасці, асабліва ў асяроддзях, якія ў значнай ступені залежаць ад распрацоўкі праграмнага забеспячэння на аснове штучнага інтэлекту. Памочнікі кадавання са штучным інтэлектам аптымізаваны для зручнасці і хуткасці, а не для мінімізацыі паверхні для атакі.
На практыцы гэта прыводзіць да агрэсіўнага ўвядзення залежнасцей. Замест паўторнага выкарыстання існуючай функцыянальнасці дадаюцца новыя бібліятэкі. транзітыўныя залежнасці пашырацца ціха і з адкрытым зыходным кодам кіраванне залежнасцямі становіцца рэактыўным, а не наўмысным. З часам каманды губляюць здольнасць разважаць пра тое, што яны насамрэч робяць.
Гэта не проста праблема гігіены. Кожная новая залежнасць стварае дадатковую рызыку для ланцужка паставак праграмнага забеспячэння, новыя здагадкі аб даверы і новыя магчымасці для нападаў на ланцужкі паставак праграмнага забеспячэння з адкрытым зыходным кодам. Калі залежнасць...cisіёны аўтаматызуюцца і разглядаюцца павярхоўна, рызыка залежнасці становіцца сістэмнай, а не выпадковай.
Калі ваш графік залежнасцей расце хутчэй, чым здольнасць вашай каманды яго растлумачыць, гэта не праблема інструментаў, а праблема даверу.
Памочнікі па кадаванні са штучным інтэлектам, бяспека і крах рэцэнзавання
Яшчэ адным абмяркоўваемым спосабам збою было пагаршэнне экспертнай ацэнкі пры наяўнасці кода, створанага штучным інтэлектам. Памочнікі па кадаванні са штучным інтэлектам, бяспека — гэта не толькі хуткае ўкараненне кода або няправільнае выкарыстанне мадэлі; гэта тое, колькі неправеранай логікі трапляе ў вытворчыя сістэмы.
Змены, створаныя штучным інтэлектам, часта бываюць вялікімі, паслядоўнымі і іх цяжка ацаніць з-за абмежаванняў па часе. У выніку экспертная ацэнка становіцца павярхоўнай або сімвалічнай. Гэты ціхі крах пазбаўляе ад аднаго з найбольш эфектыўных элементаў кантролю ў software supply chain security.
Праблема не ў халатнасці распрацоўшчыкаў. Гэта ў няправільнай арганізацыі працоўнага працэсу. Калі хуткасць узнагароджваецца, а перашкоды караюцца, сродкі бяспекі штучнага інтэлекту і праграмнага забеспячэння, якія залежаць ад увагі чалавека, непазбежна слабеюць. Зламыснікам не трэба абыходзіць праверку, калі праверка больш не функцыянуе як бар'ер.
Многія каманды мяркуюць, што праверка ўсё яшчэ працуе, бо працэс існуе. Менш задаюцца пытаннем, ці ўсё яшчэ яна функцыянуе як значны кантроль.
Шкоднасныя пакеты з адкрытым зыходным кодам і міф пра папулярнасць
Распаўсюджанае меркаванне ў кіраванні залежнасцямі ад адкрытага зыходнага кода заключаецца ў тым, што папулярныя праекты больш бяспечныя. Насамрэч папулярнасць часта павялічвае рызыку ўздзеяння. Шырока выкарыстоўваныя бібліятэкі з'яўляюцца каштоўнымі аб'ектамі для атакі на ланцужкі паставак з адкрытым зыходным кодам, прэcisтаму што кампраміс дае шырокі ўплыў на наступствы.
Шмат папулярных праектаў падтрымліваюцца невялікімі камандамі або асобнымі карыстальнікамі. Нават калі праблемы выяўляюцца, шкоднасныя пакеты з адкрытым зыходным кодам часта застаюцца даступнымі на працягу некалькіх гадзін ці дзён, перш чым быць выдаленымі. На працягу гэтага часу арганізацыі працягваюць іх спампоўваць праз аўтаматызаваныя зборкі.
Гэтая затрымка падкрэслівае неабходнасць праактыўных software supply chain security кантроль. Спадзявацца толькі на папулярнасць, рэпутацыю або дзеянні рэестра недастаткова, калі сутыкаешся з рызыкай сучаснага ланцужка паставак праграмнага забеспячэння.
«Шырока выкарыстоўваецца» — гэта не тое ж самае, што «актыўна абараняецца», і такое стаўленне да яго — адно з самых распаўсюджаных памылковых меркаванняў адносна ланцужкоў паставак.
Паходжанне ў ланцужках паставак праграмнага забеспячэння і бяспецы штучнага інтэлекту
Падчас дыскусіі неаднаразова ўзнікала неабходнасць паходжання ў ланцужках паставак праграмнага забеспячэння. У асяроддзях з падтрымкай штучнага інтэлекту атрыбуцыя становіцца размытай. Код можа быць згенераваны мадэллю, зменены чалавекам, аб'яднаны аўтаматызацыяй і разгорнуты без выразнай адказнасці.
Без праверкі паходжання арганізацыі вымушаныя безумоўна давяраць артэфактам. Бяспека штучнага інтэлекту патрабуе пераходу ад даверу да праверкі: падпісаныя артэфакты, build attestationsі адсочванне паходжання. Хоць паходжанне не прадухіляе шкоднасныя паводзіны наўпрост, яно значна памяншае неадназначнасць і абмяжоўвае манеўранасць зламысніка.
Гэта аднолькава датычыцца мадэляў, дадзеных і кода. У распрацоўцы праграмнага забеспячэння на аснове штучнага інтэлекту паходжанне з'яўляецца фундаментальным патрабаваннем як для бяспекі штучнага інтэлекту, так і для бяспекі праграмнага забеспячэння.
SBOM і бяспека штучнага інтэлекту ў сучасным Pipelines
ролю SBOM і бяспека штучнага інтэлекту была яшчэ адной няяўнай тэмай. SBOMзабяспечваюць бачнасць графікаў залежнасцейале адной толькі бачнасці недастаткова. У асяроддзях з вялікай колькасцю штучнага інтэлекту, SBOMпавінны развівацца, каб ахопліваць не толькі бібліятэкі, але і мадэлі, этапы зборкі і аўтаматызаваную распрацоўку.cisіёны.
У спалучэнні з аналіз паводзін і паходжанне, SBOM і бяспека штучнага інтэлекту становяцца магутнымі інструментамі для зніжэння рызыкі ланцужкоў паставак праграмнага забеспячэння. Яны дазваляюць арганізацыям выяўляць нечаканыя змены, абгрунтоўваць іх уплыў і больш эфектыўна рэагаваць на атакі на ланцужкі паставак з адкрытым зыходным кодам.
CI/CD Pipeline Security Пад ціскам аўтаматызацыі
Нарэшце, CI/CD pipeline security узнікла як крытычная плоскасць кіравання. Pipelineусё часцей выконваюць дзеянні, прапанаваныя або ініцыяваныя сістэмамі штучнага інтэлекту. Калі тыя pipelineКалі на сайтах адсутнічаюць надзейныя сродкі кантролю ідэнтыфікацыі, праверка артэфактаў і забеспячэнне выканання палітык, яны становяцца ідэальнымі кропкамі ўваходу для зламыснікаў.
Неадэкватна CI/CD pipeline security дазваляе шкоднасным пакетам з адкрытым зыходным кодам уплываць не толькі на вытворчыя сістэмы, але і на асяроддзі распрацоўшчыкаў і інфраструктуру зборкі. Па меры павелічэння аўтаматызацыі, pipelineпавінны разглядацца як высокакаштоўныя актывы ў рамках software supply chain security праграм.
Паглядзіце выступленне SafeDev
Каб пачуць больш пра ўсе гэтыя ідэі непасрэдна ад спецыялістаў-практыкаў, якія фарміруюць гэту сферу, паглядзіце поўны выпуск Размова пра SafeDev: Адкрыты зыходны код, штучны інтэлект і новая паверхня для атакі: код, узброены ўзбраеннем, больш разумная абарона, паказваючы Раман Жукаў (Чырвоны капялюш), Леон Джонсан (TikTok), і Луіс Радрыгес Берзоса (Ксігені).
Практычныя наступствы для бяспекі штучнага інтэлекту і Software Supply Chain Security
Практычныя наступствы гэтых змен выходзяць за рамкі інструментаў. Арганізацыі павінны ўсведамляць, што бяспека штучнага інтэлекту, бяспека штучнага інтэлекту і праграмнага забеспячэння, а таксама software supply chain security цяпер цесна пераплецены. ДэcisПраграмныя пастаўкі праграмнага забеспячэння, якія калісьці лічыліся нізкарызыкоўнымі, абнаўленні залежнасцей, генерацыя кода і аўтаматызацыя, цяпер нясуць значную рызыку для ланцужка паставак праграмнага забеспячэння, асабліва калі тыя, што...cisіёны ствараюцца ўскосна інструментамі, а не відавочна людзьмі.
Падчас выступу SafeDev Talk гэты момант быў коратка абагульнены. Як сказаў адзін з прамоўцаў, Калі сістэмы штучнага інтэлекту ўдзельнічаюць у распрацоўцы праграмнага забеспячэння, каманды бяспекі больш не проста абараняюць код; яны абараняюцьcisіёны. Аўтаматызацыя не здымае адказнасці; яна яе пераразмяркоўвае.
На практыцы гэта азначае аднаўленне наўмыснасці там, дзе зручнасць узяла верх. Кіраванне залежнасцямі ад адкрытага зыходнага кода павінна ўлічваць паводзіны, абумоўленыя штучным інтэлектам, а не меркаваць, што гэта адбываецца з боку чалавека. Рызыку залежнасці больш нельга разглядаць як выпадковы агляд.cise. CI/CD pipeline security павінны прымушаць да праверкі, а не меркаваць, што ўваходныя дадзеныя будуць дабраякаснымі. А паходжанне праграмнага забеспячэння ў ланцужках паставак павінна перайсці ад памкненняў да базавага ўзроўню.
Яшчэ адзін вынік дыскусіі заключаўся ў тым, што хуткасць сама па сабе больш не з'яўляецца нейтральнай. Большасць збояў у ланцужках паставак не ўзнікаюць з-за адной катастрафічнай падзеі.cisіён, але з мноства дробных аўтаматызаваных рашэнняў, якія ніхто відавочна не ўхваляў. Гэта загадзяcisчаму традыцыйныя мадэлі даверу церпяць няўдачу пры распрацоўцы праграмнага забеспячэння на аснове штучнага інтэлекту.
Нішто з гэтага не азначае адмовы ад адкрытага зыходнага кода або штучнага інтэлекту. Наадварот, гэта прызнае іх цэнтральную ролю ў сучаснай інжынерыі. Але без развіцця здагадак аб бяспецы арганізацыі рызыкуюць дазволіць аўтаматызацыі вызначаць давер па змаўчанні.
Каб зрабіць выснову ...
Карысны спосаб разважаць пра гэты зрух заключаецца ў тым, што software supply chain security ужо не толькі пра абарону артэфактаў. Гаворка ідзе пра абарону decisіённыя шляхіУ свеце, які падтрымліваецца штучным інтэлектам, найважнейшымі пытаннямі бяспекі з'яўляюцца не толькі «Ці з'яўляецца гэты кампанент уразлівым?», але і «Чаму ён быў уведзены, кім ці чым і пад якімі абмежаваннямі?». Арганізацыі, якія адаптуюцца да гэтай структуры, не выключаць рызыку, але яны будуць значна менш здзіўлены ёю.
