Отворениот код стана основа на модерниот развој на софтвер. Речиси секоја апликација денес се потпира на комплексна мрежа од библиотеки, рамки, модели и алатки за градење од трети страни. Само оваа реалност веќе воведува значителни software supply chain security предизвици. Во исто време, вештачката интелигенција влезе во животен циклус за развој на софтвер како моќен забрзувач, генерирајќи код, предлагајќи зависности, автоматизирајќи поправки, па дури и влијаејќи на архитектонскиот дизајнcisјони. Заедно, отворениот код и вештачката интелигенција го трансформираа начинот на кој се гради софтверот и, неизбежно, како се напаѓа. Пресекот на безбедноста на вештачката интелигенција, вештачката интелигенција и безбедноста на софтверот и software supply chain security повеќе не е теоретска. Сега е еден од доминантните извори на ризик во синџирот на снабдување со софтвер со кој се соочуваат инженерските организации.
Таа реалност го обликуваше нашиот неодамнешен разговор за SafeDev: Отворен код, вештачка интелигенција и новата површина за напад: Оружен код, попаметна одбрана, во кој учествуваа лидери за безбедност од Red Hat, TikTok и Xygeni. Дискусијата се фокусираше на она што тимовите за безбедност и инженерство веќе го доживуваат во производствените средини, особено околу нападите со отворен код во синџирот на снабдување, злонамерните пакети со отворен код и растечката тензија помеѓу брзината и контролата во развојот на софтвер управуван од вештачка интелигенција. Она што се појави беше јасна слика: површината на нападот се шири побрзо отколку што традиционалните безбедносни модели можат да следат, а вештачката интелигенција делува и како мултипликатор на сила и како стрес-тест за долгогодишните претпоставки во безбедноста на вештачката интелигенција и... software supply chain security.
Ако овој опис ви се чини непријатно близок до начинот на кој вашата организација моментално гради софтвер, тоа не е случајност. Многу тимови сфаќаат колку доверба се префрлила на автоматизацијата дури откако нешто ќе се расипе.
Безбедност на вештачката интелигенција и Software Supply Chain Security Сега се со истиот проблем
Тема што се повторуваше низ целата дискусија беше дека безбедноста на вештачката интелигенција повеќе не може да се третира како посебна дисциплина од software supply chain securityСистемите за вештачка интелигенција не работат изолирано; тие се градат, обучуваат, распоредуваат и интегрираат преку истиот pipelines, зависности и регистри кои веќе се борат со напади врз синџирот на снабдување со отворен код.
Во развојот на софтвер управуван од вештачка интелигенција, моделите предлагаат код, генерираат поправки и автоматски избираат зависности. Овие деcisјоните директно влијаат управување со зависности од отворен код, честопати без експлицитна човечка намера. Како резултат на тоа, ризикот од зависност повеќе не е управуван само од изборот на развивачот; тој сè повеќе се обликува од однесувањето на вештачката интелигенција.
Оваа конвергенција значи дека неуспесите во безбедноста на вештачката интелигенција и софтверот често се манифестираат како традиционални инциденти во синџирот на снабдување: компромитирани зависности, оштетени артефакти на градење или ранливи... CI/CD процеси. Алатките може да бидат нови, но ризикот во синџирот на снабдување со софтвер е многу реален и сè потешко е да се размислува за него.
Доколку вашите модели на закани сè уште го одделуваат „ризикот од вештачка интелигенција“ од „ризикот од синџирот на снабдување“, можеби вреди да се преиспита каде всушност постои таа граница во вашите работни процеси на градење и распоредување.
Напади на синџирот на снабдување со отворен код со брзина на машината
Нападите врз синџирот на снабдување со отворен код не се нови, но вештачката интелигенција ја менува нивната економија. На напаѓачите не им се потребни нови техники; тие имаат потреба од обем. Вештачката интелигенција овозможува брза анализа на екосистемот, автоматско откривање на слаби зависности и брза итерација на носивоста на нападот.
Од офанзивна гледна точка, оваа индустријализација на извидувањето драматично ја зголемува стапката на успех на нападите што вклучуваат злонамерни пакети со отворен код. Компонентите што претходно би останале незабележани сега можат брзо да се откријат, анализираат и експлоатираат, честопати пред бранителите да сфатат дека се во употреба.
Ова е причината зошто software supply chain security не може да се потпира само на доцнење на сигналите. Регистрите, известувањата и објавувањата по настанувањето функционираат на човечки временски рамки, додека напаѓачите сè повеќе работат со брзина на машината. Резултирачкиот прозорец на изложеност е директен фактор за растечкиот ризик во синџирот на снабдување со софтвер.
Ако вашиот примарен сигнал за детекција е „регистарот го отстранил пакетот“, веќе работите низводно од временската линија на напаѓачот.
Сакате длабински да се нурнете во нападите врз синџирот на снабдување со софтвер со отворен код?
Ризик од зависност во развојот на софтвер управуван од вештачка интелигенција
Еден од најјасните ризици дискутирани за време на SafeDev Talk беше ризикот од зависност, особено во средини кои во голема мера се потпираат на развој на софтвер управуван од вештачка интелигенција. Асистентите за кодирање со вештачка интелигенција се оптимизирани за практичност и брзина, а не за минимизирање на површината на напад.
Во пракса, ова води до агресивно воведување на зависности. Се додаваат нови библиотеки наместо повторно користење на постоечките функционалности, транзитивни зависности проширете тивко и со отворен код управување со зависности станува реактивно, а не намерно. Со текот на времето, тимовите ја губат способноста да размислуваат за тоа што всушност работат.
Ова не е само хигиенски проблем. Секоја нова зависност воведува дополнителен ризик во синџирот на снабдување со софтвер, нови претпоставки за доверба и нови можности за напади во синџирот на снабдување со отворен код. Кога зависноста...cisјоните се автоматизираат и површно се разгледуваат, ризикот од зависност станува системски, а не случаен.
Ако вашиот графикон на зависност расте побрзо од способноста на вашиот тим да го објасни, ова не е проблем со алатките; туку проблем со довербата.
Асистенти за кодирање со вештачка интелигенција, безбедност и колапс на прегледот
Друг дискутиран начин на неуспех беше ерозијата на рецензијата од колеги во присуство на код генериран од вештачка интелигенција. Асистенти за кодирање со вештачка интелигенција, безбедноста не е само за брзо инјектирање или злоупотреба на моделот; туку за тоа колку непрегледана логика влегува во производствените системи.
Промените генерирани од вештачката интелигенција често се големи, кохерентни и тешки за преглед под временски притисок. Како резултат на тоа, рецензијата од колеги станува плитка или симболична. Овој тивок колапс отстранува една од најефикасните контроли во software supply chain security.
Проблемот не е небрежноста на развивачот. Проблемот е неусогласеноста на работниот тек. Кога брзината се наградува, а триењето се казнува, контролите за безбедност на вештачката интелигенција и софтверот што зависат од човечкото внимание неизбежно ослабуваат. Напаѓачите не треба да го заобиколуваат прегледот ако прегледот повеќе не функционира како бариера.
Многу тимови претпоставуваат дека прегледот сè уште функционира бидејќи процесот постои. Помалку се прашуваат дали тој сè уште функционира како значајна контрола.
Злонамерни пакети со отворен код и митот за популарноста
Општо верување во управувањето со зависности од отворен код е дека популарните проекти се побезбедни. Всушност, популарноста често ја зголемува изложеноста. Широко користените библиотеки се цели со висока вредност за напади со отворен код во синџирот на снабдување, преcisедноставно затоа што компромисот дава широко влијание врз понатаму.
Многу популарни проекти се одржуваат од мали тимови или поединечни поединци. Дури и кога ќе се откријат проблеми, злонамерните пакети со отворен код често остануваат достапни со часови или денови пред да се отстранат. Во тој период, организациите продолжуваат да ги апсорбираат преку автоматизирани градби.
Ова одложување ја зајакнува потребата од проактивно дејствување. software supply chain security контроли. Ослонувањето само на популарноста, репутацијата или дејството на регистарот е недоволно кога се соочуваме со ризик во модерниот синџир на снабдување со софтвер.
„Широко користено“ не е исто што и „активно брането“, а третирањето на тоа како такво е една од најпостојаните заблуди во синџирот на снабдување.
Потекло во синџирите на снабдување со софтвер и безбедноста на вештачката интелигенција
Низ целата дискусија, потребата за потекло во синџирите на снабдување со софтвер постојано се појавуваше. Во средини потпомогнати од вештачка интелигенција, атрибуцијата станува нејасна. Кодот може да биде генериран од модел, модифициран од човек, споен со автоматизација и распореден без јасна одговорност.
Без проверливо потекло, организациите се принудени имплицитно да им веруваат на артефактите. Безбедноста на вештачката интелигенција бара поместување од доверба кон верификација: потпишани артефакти, build attestationsи потекло што може да се следи. Иако потеклото не го спречува директно злонамерното однесување, тоа значително ја намалува двосмисленоста и ја ограничува маневрирањето на напаѓачот.
Ова важи подеднакво за моделите, податоците и кодот. Во развојот на софтвер управуван од вештачка интелигенција, потеклото е основен услов и за вештачката интелигенција и за безбедноста на софтверот.
SBOM и безбедноста на вештачката интелигенција во модерното време Pipelines
Улогата на SBOM а безбедноста на вештачката интелигенција беше уште една имплицитна тема. SBOMs обезбедуваат видливост во графиконите на зависности, но самата видливост не е доволна. Во средини со голема вештачка интелигенција, SBOMмора да еволуираат за да опфатат не само библиотеки, туку и модели, чекори за градење и автоматизирана деформација.cisјони.
Кога се комбинира со анализа на однесувањето и потеклото, SBOM и безбедноста на вештачката интелигенција стануваат моќни алатки за намалување на ризикот од синџирот на снабдување со софтвер. Тие им овозможуваат на организациите да детектираат неочекувани промени, да размислуваат за влијанието и поефикасно да реагираат на нападите во синџирот на снабдување со отворен код.
CI/CD Pipeline Security Под притисок на автоматизација
Конечно, CI/CD pipeline security се појави како критична контролна рамнина. Pipelineсè повеќе извршуваат дејства предложени или предизвикани од системи со вештачка интелигенција. Ако тие pipelineБез силни контроли на идентитетот, верификација на артефакти и спроведување на политиките, тие стануваат идеални точки на влез за напаѓачите.
Несоодветна CI/CD pipeline security им овозможува на злонамерните пакети со отворен код да влијаат не само на производствените системи, туку и на развивачките средини и да градат инфраструктура. Како што се зголемува автоматизацијата, pipelineмора да се третираат како средства со висока вредност во рамките на software supply chain security програми.
Погледнете го разговорот на SafeDev
За да слушнете повеќе за сите овие сознанија директно од практичарите кои ја обликуваат оваа област, погледнете го целиот Разговор за SafeDev: Отворен код, вештачка интелигенција и новата површина за напад: Оружен код, попаметна одбрана, во кој Роман Жуков (Ред Хет), Леон Џонсон (ТикТок), и Луис Родригез Берзоса (Ксигени).
Практични импликации за безбедноста на вештачката интелигенција и Software Supply Chain Security
Практичните импликации од овие промени се протегаат подалеку од алатките. Организациите мора да препознаат дека безбедноста на вештачката интелигенција, безбедноста на вештачката интелигенција и софтверот и software supply chain security сега се длабоко испреплетени. Деcisјони кои некогаш се сметаа за нискоризични, ажурирањата на зависностите, генерирањето код и автоматизацијата сега носат значаен ризик од синџирот на снабдување со софтвер, особено кога тие деcisЈоните се создаваат имплицитно од алатки, а не експлицитно од луѓе.
За време на SafeDev Talk, оваа поента беше концизно сумирана. Како што рече еден говорник, Кога системите со вештачка интелигенција учествуваат во развојот на софтвер, безбедносните тимови повеќе не го обезбедуваат само кодот; тие го обезбедуваат и...cisјони. Автоматизацијата не ја отстранува одговорноста; таа ја прераспределува.
Во пракса, ова значи враќање на намерата таму каде што практичноста преовладува. Управувањето со зависности од отворен код мора да го земе предвид однесувањето управувано од вештачката интелигенција, наместо да претпоставува човечка промисла. Ризикот од зависност повеќе не може да се третира како повремена вежба за преглед.cise. CI/CD pipeline security мора да спроведува верификација, а не да претпоставува бенигни влезни податоци. И потеклото во синџирите на снабдување со софтвер мора да се движи од аспирација кон почетна вредност.
Друг увид од дискусијата беше дека самата брзина повеќе не е неутрална. Повеќето неуспеси во синџирот на снабдување не доаѓаат од еден катастрофален настан.cisјон, туку од многу мали автоматизирани избори што никој експлицитно не ги одобрил. Ова е преcisедноставно зошто традиционалните модели на доверба не успеваат при развој на софтвер управуван од вештачка интелигенција.
Ништо од ова не подразбира напуштање на отворениот код или вештачката интелигенција. Напротив, се признава нивната централна улога во современото инженерство. Но, без еволуирање на безбедносните претпоставки, организациите ризикуваат да дозволат автоматизацијата да ја дефинира довербата по дифолт.
Да заклучи…
Корисен начин да се размислува за оваа промена е тоа што software supply chain security повеќе не станува збор само за заштита на артефактите. Станува збор за заштита decisјонски патекиВо свет потпомогнат од вештачка интелигенција, најважните безбедносни прашања не се само „Дали оваа компонента е ранлива?“, туку и „Зошто е воведена, од кого или што и под кои ограничувања?“. Организациите што се прилагодуваат на оваа рамка нема да го елиминираат ризикот, но ќе бидат многу помалку изненадени од него.
