Ang open source ay naging pundasyon ng modernong pagbuo ng software. Halos bawat aplikasyon ngayon ay umaasa sa isang kumplikadong web ng mga third-party na library, framework, modelo, at mga build tool. Ang katotohanang ito pa lamang ay nagpapakilala na ng makabuluhang software supply chain security mga hamon. Kasabay nito, ang artipisyal na katalinuhan ay pumasok sa software ng pag-unlad ng buhay bilang isang makapangyarihang accelerator, bumubuo ng code, nagmumungkahi ng mga dependency, nag-a-automate ng mga pag-aayos, at nakakaimpluwensya pa nga sa arkitekturacismga ions Magkasamang binago ng open source at AI kung paano binubuo ang software, at, hindi maiiwasan, kung paano ito inaatake. Ang interseksyon ng seguridad ng AI, AI at seguridad ng software, at software supply chain security hindi na teoretikal. Isa na ito ngayon sa mga pangunahing pinagmumulan ng panganib sa supply chain ng software na kinakaharap ng mga organisasyon ng inhinyeriya.
Ang katotohanang iyan ang nagbalangkas sa aming kamakailang SafeDev Talk: Open Source, AI at ang Bagong Attack Surface: Sandatadong Kodigo, Mas Matalinong Depensa, tampok ang mga pinuno ng seguridad mula sa Red Hat, TikTok, at Xygeni. Nakatuon ang talakayan sa kung ano na ang nararanasan ng mga pangkat ng seguridad at inhinyero sa mga kapaligiran ng produksyon, lalo na sa mga pag-atake ng open source supply chain, mga malisyosong open source package, at ang lumalaking tensyon sa pagitan ng bilis at kontrol sa pagbuo ng software na pinapagana ng AI. Ang lumitaw ay isang malinaw na larawan: ang saklaw ng pag-atake ay mas mabilis na lumalawak kaysa sa kayang sabayan ng mga tradisyunal na modelo ng seguridad, at ang AI ay kumikilos kapwa bilang isang force multiplier at isang stress test para sa mga matagal nang pagpapalagay sa seguridad at... software supply chain security.
Kung ang paglalarawang ito ay tila halos kapareho ng kung paano kasalukuyang bumubuo ng software ang iyong organisasyon, hindi ito nagkataon lamang. Maraming mga koponan ang nakakaalam lamang kung gaano kalaking tiwala ang nalipat sa automation kapag may nasira.
Seguridad ng AI at Software Supply Chain Security Pareho Lang Ba ang Problema Ngayon
Isang paulit-ulit na tema sa buong talakayan ay ang seguridad ng AI ay hindi na maaaring ituring bilang isang hiwalay na disiplina mula sa software supply chain securityAng mga sistema ng AI ay hindi gumagana nang mag-isa; ang mga ito ay binubuo, sinasanay, inilalagay, at isinasama sa pamamagitan ng parehong pipelinemga s, dependencies, at registries na nahihirapan na sa mga open source supply chain attacks.
Sa pagbuo ng software na pinapagana ng AI, ang mga modelo ay nagmumungkahi ng code, bumubuo ng mga pag-aayos, at awtomatikong pumipili ng mga dependency. Ang mga de na itocisdirektang nakakaapekto ang mga ion pamamahala ng dependency sa bukas na mapagkukunan, kadalasan nang walang tahasang layunin ng tao. Bilang resulta, ang panganib ng dependency ay hindi na lamang dahil sa pagpili ng developer; ito ay lalong hinuhubog ng pag-uugali ng AI.
Ang tagpong ito ay nangangahulugan na ang mga pagkabigo sa seguridad ng AI at software ay kadalasang nagpapakita bilang mga tradisyonal na insidente ng supply chain: mga nakompromisong dependency, mga nadungisang artifact ng build, o mga mahina na CI/CD mga proseso. Maaaring bago ang mga kagamitan, ngunit ang panganib sa supply chain ng software ay totoong-totoo at lalong mahirap pangaralan.
Kung pinaghihiwalay pa rin ng iyong mga modelo ng banta ang "panganib ng AI" mula sa "panganib ng supply chain," maaaring sulit na muling suriin kung saan talaga umiiral ang hangganang iyon sa iyong mga daloy ng trabaho sa pagbuo at pag-deploy.
Mga Pag-atake ng Open Source Supply Chain sa Bilis ng Makina
Hindi na bago ang mga open source supply chain attack, ngunit binabago ng AI ang kanilang ekonomiya. Hindi kailangan ng mga umaatake ng mga nobelang pamamaraan; kailangan nila ng saklaw. Nagbibigay-daan ang AI ng mabilis na pagsusuri ng ecosystem, awtomatikong pagtuklas ng mga mahihinang dependency, at mabilis na pag-ulit sa mga attack payload.
Mula sa isang opensibong pananaw, ang industriyalisasyong ito ng pagmamanman ay lubhang nagpapataas ng antas ng tagumpay ng mga pag-atake na kinasasangkutan ng mga malisyosong open source package. Ang mga bahaging dati ay hindi napapansin ay maaari nang matuklasan, masuri, at magamit nang mabilis, kadalasan bago pa man mapagtanto ng mga tagapagtanggol na ginagamit na pala ang mga ito.
Ito ay kung bakit software supply chain security hindi maaaring umasa lamang sa mga naantalang signal. Ang mga registry, advisory, at post-facto disclosure ay gumagana sa mga takdang panahon ng tao, habang ang mga attacker ay lalong kumikilos sa bilis ng makina. Ang nagreresultang exposure window ay direktang nag-aambag sa lumalaking panganib sa supply chain ng software.
Kung ang iyong pangunahing signal ng pagtuklas ay "tinanggal ng registry ang pakete," tumatakbo ka na sa ibaba ng timeline ng attacker.
Gusto mo bang malalimang suriin ang mga pag-atake sa supply chain ng Open Source Software?
Panganib ng Pagdepende sa Pag-develop ng Software na Pinapatakbo ng AI
Isa sa mga pinakamalinaw na panganib na tinalakay sa SafeDev Talk ay ang panganib ng dependency, lalo na sa mga kapaligirang lubos na umaasa sa pagbuo ng software na pinapagana ng AI. Ang mga AI coding assistant ay in-optimize para sa kaginhawahan at bilis, hindi para sa pagliit ng mga atake sa ibabaw.
Sa pagsasagawa, humahantong ito sa agresibong pagpapakilala ng dependency. Nagdaragdag ng mga bagong library sa halip na muling gamitin ang mga umiiral na functionality, mga dependency sa paglipat palawakin nang tahimik, at open source pamamahala ng dependency nagiging reaktibo sa halip na intensyonal. Sa paglipas ng panahon, nawawalan ng kakayahang mangatwiran ang mga koponan tungkol sa kung ano talaga ang kanilang pinapatakbo.
Hindi lamang ito basta isyu sa kalinisan. Ang bawat bagong dependency ay nagdudulot ng karagdagang panganib sa supply chain ng software, mga bagong palagay ng tiwala, at mga bagong pagkakataon para sa mga open source supply chain attack. Kapag ang dependency aycisAng mga ion ay awtomatiko at sinusuri nang mababaw, ang panganib ng dependency ay nagiging sistematiko sa halip na aksidente.
Kung ang iyong dependency graph ay mas mabilis na lumalaki kaysa sa kakayahan ng iyong koponan na ipaliwanag ito, hindi ito isang problema sa tooling; ito ay isang problema sa tiwala.
Mga AI Coding Assistant, Seguridad, at ang Pagbagsak ng Pagsusuri
Isa pang paraan ng pagkabigo na tinalakay ay ang pagguho ng peer review sa presensya ng AI-generated code. Para sa mga AI coding assistant, ang seguridad ay hindi lamang tungkol sa agarang pag-iniksyon o maling paggamit ng modelo; ito ay tungkol sa kung gaano karaming hindi nasuring lohika ang pumapasok sa mga sistema ng produksyon.
Ang mga pagbabagong likha ng AI ay kadalasang malalaki, magkakaugnay, at mahirap repasuhin sa ilalim ng presyur ng panahon. Bilang resulta, ang peer review ay nagiging mababaw o simboliko. Ang tahimik na pagbagsak na ito ay nag-aalis ng isa sa mga pinakamabisang kontrol sa software supply chain security.
Hindi kapabayaan ng mga developer ang problema. Ito ay ang maling pag-ayon ng daloy ng trabaho. Kapag ginantimpalaan ang bilis at pinarurusahan ang alitan, ang mga kontrol sa seguridad ng AI at software na umaasa sa atensyon ng tao ay hindi maiiwasang humihina. Hindi kailangang laktawan ng mga umaatake ang pagsusuri kung ang pagsusuri ay hindi na gumagana bilang hadlang.
Maraming pangkat ang nag-aakalang gumagana pa rin ang pagsusuri dahil umiiral ang proseso. Mas kaunti ang nagtatanong kung gumagana pa rin ito bilang isang makabuluhang kontrol.
Mga Malisyosong Open Source Package at ang Mito ng Kasikatan
Isang karaniwang paniniwala sa open source dependency management ay mas ligtas ang mga sikat na proyekto. Sa katotohanan, ang kasikatan ay kadalasang nagpapataas ng exposure. Ang mga malawakang ginagamit na library ay mga high-value target para sa mga pag-atake sa open source supply chain, daticisely dahil ang kompromiso ay nagbubunga ng malawak na epekto sa ibaba ng agos.
Maraming sikat na proyekto ang pinapanatili ng maliliit na pangkat o iisang indibidwal. Kahit na may mga natukoy na isyu, ang mga malisyosong open source package ay kadalasang nananatiling available nang ilang oras o araw bago maalis. Sa panahong iyon, patuloy na kinukuha ng mga organisasyon ang mga ito sa pamamagitan ng mga automated build.
Pinatitibay ng pagkaantala na ito ang pangangailangan para sa maagap na software supply chain security mga kontrol. Ang pag-asa lamang sa popularidad, reputasyon, o aksyon sa registry ay hindi sapat kapag nahaharap sa panganib ng modernong supply chain ng software.
Ang "malawakang ginagamit" ay hindi katulad ng "aktibong ipinagtatanggol," at ang pagtrato dito nang ganito ay isa sa mga pinakamatinding maling akala sa supply chain.
Pinagmulan sa mga Software Supply Chain at AI Security
Sa buong talakayan, paulit-ulit na lumitaw ang pangangailangan para sa pinagmulan sa mga supply chain ng software. Sa mga kapaligirang tinutulungan ng AI, nagiging malabo ang pagpapatungkol. Ang code ay maaaring mabuo ng isang modelo, mabago ng isang tao, pagsamahin sa pamamagitan ng automation, at i-deploy nang walang malinaw na pananagutan.
Kung walang napapatunayang pinagmulan, napipilitan ang mga organisasyon na magtiwala nang walang pag-aalinlangan sa mga artifact. Hinihingi ng seguridad ng AI ang paglipat mula sa tiwala patungo sa beripikasyon: mga nilagdaang artifact, build attestations, at mga pinagmulang maaaring masubaybayan. Bagama't hindi direktang pinipigilan ng pinagmulan ang malisyosong pag-uugali, malaki ang nababawasan nito sa kalabuan at nililimitahan ang kakayahang maniobrahin ng umaatake.
Ito ay pantay na naaangkop sa mga modelo, datos, at code. Sa pagbuo ng software na pinapagana ng AI, ang pinagmulan ay isang pangunahing kinakailangan para sa parehong seguridad ng AI at software.
SBOM at Seguridad ng AI sa Modernong Pipelines
Ang papel na ginagampanan ng SBOM at ang seguridad ng AI ay isa pang ipinahihiwatig na tema. SBOMNagbibigay ang s ng visibility sa mga dependency graph, ngunit ang kakayahang makita lamang ay hindi sapat. Sa mga kapaligirang puno ng AI, SBOMdapat umunlad upang makuha hindi lamang ang mga library, kundi pati na rin ang mga modelo, mga hakbang sa pagbuo, at awtomatikong pagbuocismga ions
Kapag pinagsama sa pagsusuri at pinagmulan ng pag-uugali, SBOM at ang seguridad ng AI ay nagiging makapangyarihang kasangkapan para mabawasan ang panganib sa supply chain ng software. Pinapayagan nito ang mga organisasyon na matukoy ang mga hindi inaasahang pagbabago, mangatuwiran tungkol sa epekto, at mas epektibong tumugon sa mga open source na pag-atake sa supply chain.
CI/CD Pipeline Security Sa ilalim ng Presyon ng Awtomasyon
Sa wakas, CI/CD pipeline security lumitaw bilang isang kritikal na control plane. Pipelinelalong nagsasagawa ng mga aksyon na iminungkahi o pinasisigla ng mga sistema ng AI. Kung ang mga iyon pipelineDahil kulang ang mga ito ng matibay na kontrol sa pagkakakilanlan, beripikasyon ng artifact, at pagpapatupad ng patakaran, nagiging mainam ang mga ito para sa mga umaatake.
Hindi sapat CI/CD pipeline security nagpapahintulot sa mga malisyosong open source package na makaapekto hindi lamang sa mga sistema ng produksyon kundi pati na rin sa mga kapaligiran ng developer at imprastraktura ng pagbuo. Habang tumataas ang automation, pipelinedapat ituring ang mga ari-ariang may mataas na halaga sa loob ng software supply chain security mga programa.
Panoorin ang Usapang SafeDev
Para marinig ang higit pa tungkol sa lahat ng mga pananaw na ito nang direkta mula sa mga practitioner na humuhubog sa larangan, panoorin ang buong Usapang SafeDev: Open Source, AI at ang Bagong Attack Surface: Sandatadong Kodigo, Mas Matalinong Depensa, Nagtatampok Roman Zhukov (Pulang Sombrero), Leon Johnson (TikTok), at Luis Rodríguez Berzosa (Xygeni).
Mga Praktikal na Implikasyon para sa Seguridad ng AI at Software Supply Chain Security
Ang mga praktikal na implikasyon ng mga pagbabagong ito ay higit pa sa paggamit ng mga kagamitan. Dapat kilalanin ng mga organisasyon na ang seguridad ng AI, seguridad ng AI at software, at software supply chain security ay malalim na magkakaugnay ngayon. DecisAng mga ion na dating itinuturing na low-risk, mga pag-update ng dependency, pagbuo ng code, at automation ngayon ay may malaking panganib sa supply chain ng software, lalo na kapag ang mga iyon aycisAng mga ion ay hindi direktang nalilikha ng mga kagamitan sa halip na tahasang nalilikha ng mga tao.
Sa SafeDev Talk, ang puntong ito ay maikli at naibuod. Gaya ng sinabi ng isang tagapagsalita, Kapag ang mga sistema ng AI ay nakikilahok sa pagbuo ng software, ang mga pangkat ng seguridad ay hindi na lamang nagse-secure ng code; sinisiguro na nila ang...cismga ion. Hindi inaalis ng automation ang responsibilidad; muling ipinamamahagi nito ito.
Sa pagsasagawa, nangangahulugan ito ng pagpapanumbalik ng intensyonalidad kung saan nangingibabaw ang kaginhawahan. Ang pamamahala ng dependency sa open source ay dapat isaalang-alang ang pag-uugaling hinimok ng AI sa halip na ipagpalagay ang pagsasaalang-alang ng tao. Ang panganib sa dependency ay hindi na maaaring ituring bilang isang paminsan-minsang pagsusuri.cise. CI/CD pipeline security dapat ipatupad ang beripikasyon, hindi ipagpalagay na hindi naman masamang input. At ang pinagmulan sa mga supply chain ng software ay dapat lumipat mula sa mithiin patungo sa baseline.
Isa pang pananaw mula sa talakayan ay ang bilis mismo ay hindi na neutral. Karamihan sa mga pagkabigo ng supply chain ay hindi nagmumula sa isang kapaha-pahamak na pagkalugi.cision, ngunit mula sa maraming maliliit na awtomatikong pagpipilian na walang sinuman ang tahasang inaprubahan. Ito ay preciskung bakit nabibigo ang mga tradisyonal na modelo ng tiwala sa ilalim ng pagbuo ng software na pinapagana ng AI.
Hindi ito nangangahulugan ng pagtalikod sa open source o AI. Sa kabaligtaran, kinikilala nito ang kanilang pangunahing papel sa modernong inhinyeriya. Ngunit kung walang nagbabagong mga pagpapalagay sa seguridad, nanganganib ang mga organisasyon na hayaan ang automation na tukuyin ang tiwala bilang default.
Sa pangkalahatan…
Ang isang kapaki-pakinabang na paraan upang pag-isipan ang pagbabagong ito ay software supply chain security hindi na lamang tungkol sa pagprotekta sa mga artifact. Ito ay tungkol sa pagprotekta decismga landas ng ionSa isang mundong tinutulungan ng AI, ang pinakamahalagang tanong sa seguridad ay hindi lamang "Mahina ba ang bahaging ito?" kundi "Bakit ito ipinakilala, kanino o ano ang gumawa nito, at sa ilalim ng aling mga limitasyon?" Ang mga organisasyong umaangkop sa ganitong balangkas ay hindi mag-aalis ng panganib, ngunit hindi sila gaanong magugulat dito.
