Sumber terbuka telah menjadi asas pembangunan perisian moden. Hampir setiap aplikasi hari ini bergantung pada jaringan kompleks perpustakaan, rangka kerja, model dan alat binaan pihak ketiga. Realiti ini sahaja sudah memperkenalkan faktor-faktor yang ketara software supply chain security cabaran. Pada masa yang sama, kecerdasan buatan telah memasuki kitaran hayat pembangunan perisian sebagai pemecut yang berkuasa, menjana kod, mencadangkan kebergantungan, mengautomasikan pembetulan dan juga mempengaruhi reka bentuk seni binacision. Bersama-sama, sumber terbuka dan AI telah mengubah cara perisian dibina, dan, tidak dapat dielakkan, bagaimana ia diserang. Persilangan keselamatan AI, AI dan keselamatan perisian, dan software supply chain security bukan lagi teori. Ia kini merupakan salah satu sumber utama risiko rantaian bekalan perisian yang dihadapi oleh organisasi kejuruteraan.
Realiti itu membingkai SafeDev Talk kami baru-baru ini: Sumber Terbuka, AI & Permukaan Serangan Baharu: Kod Senjata, Pertahanan Lebih Pintar, menampilkan pemimpin keselamatan dari Red Hat, TikTok dan Xygeni. Perbincangan ini tertumpu pada apa yang telah dialami oleh pasukan keselamatan dan kejuruteraan dalam persekitaran pengeluaran, terutamanya mengenai serangan rantaian bekalan sumber terbuka, pakej sumber terbuka yang berniat jahat dan ketegangan yang semakin meningkat antara kelajuan dan kawalan dalam pembangunan perisian yang dipacu AI. Apa yang muncul adalah gambaran yang jelas: permukaan serangan berkembang lebih pantas daripada yang dapat dikekalkan oleh model keselamatan tradisional, dan AI bertindak sebagai pengganda daya dan ujian tekanan untuk andaian lama dalam keselamatan dan... software supply chain security.
Jika penerangan ini terasa hampir sama dengan cara organisasi anda membina perisian pada masa ini, itu bukanlah satu kebetulan. Banyak pasukan hanya menyedari betapa banyak kepercayaan telah beralih kepada automasi selepas sesuatu rosak.
Keselamatan AI dan Software Supply Chain Security Adakah Sekarang Masalah Yang Sama
Tema yang berulang sepanjang perbincangan adalah bahawa keselamatan AI tidak lagi boleh dianggap sebagai disiplin yang berasingan daripada software supply chain securitySistem AI tidak beroperasi secara berasingan; ia dibina, dilatih, digunakan dan disepadukan melalui cara yang sama pipelines, kebergantungan dan pendaftaran yang sudah bergelut dengan serangan rantaian bekalan sumber terbuka.
Dalam pembangunan perisian yang dipacu AI, model mencadangkan kod, menjana pembetulan dan memilih kebergantungan secara automatik.cision secara langsung mempengaruhi pengurusan kebergantungan sumber terbuka, selalunya tanpa niat manusia yang jelas. Akibatnya, risiko kebergantungan tidak lagi didorong semata-mata oleh pilihan pembangun; ia semakin dibentuk oleh tingkah laku AI.
Konvergensi ini bermakna kegagalan dalam AI dan keselamatan perisian sering kali muncul sebagai insiden rantaian bekalan tradisional: kebergantungan yang terjejas, artifak binaan yang tercemar atau kelemahan CI/CD proses. Perkakas ini mungkin baharu, tetapi risiko rantaian bekalan perisian adalah sangat nyata dan semakin sukar untuk dipertimbangkan.
Jika model ancaman anda masih memisahkan "risiko AI" daripada "risiko rantaian bekalan", adalah wajar untuk mengkaji semula di mana sempadan itu sebenarnya wujud dalam aliran kerja binaan dan penggunaan anda.
Serangan Rantaian Bekalan Sumber Terbuka pada Kelajuan Mesin
Serangan rantaian bekalan sumber terbuka bukanlah sesuatu yang baharu, tetapi AI mengubah ekonomi mereka. Penyerang tidak memerlukan teknik baharu; mereka memerlukan skala. AI membolehkan analisis ekosistem yang pantas, penemuan automatik kebergantungan yang lemah dan lelaran pantas pada muatan serangan.
Dari sudut pandangan ofensif, perindustrian peninjauan ini secara mendadak meningkatkan kadar kejayaan serangan yang melibatkan pakej sumber terbuka yang berniat jahat. Komponen yang sebelum ini tidak disedari kini boleh ditemui, dianalisis dan dieksploitasi dengan cepat, selalunya sebelum pihak pembela menyedari ia sedang digunakan.
Inilah sebabnya mengapa software supply chain security tidak boleh bergantung pada isyarat tertangguh sahaja. Pendaftaran, nasihat dan pendedahan pasca-fakta beroperasi pada skala masa manusia, manakala penyerang semakin beroperasi pada kelajuan mesin. Tetingkap pendedahan yang terhasil merupakan penyumbang langsung kepada peningkatan risiko rantaian bekalan perisian.
Jika isyarat pengesanan utama anda ialah "pendaftaran telah mengalih keluar pakej", anda sudah beroperasi di hilir garis masa penyerang.
Ingin Menyelidiki Secara Mendalam Serangan Rantaian Bekalan Perisian Sumber Terbuka?
Risiko Kebergantungan dalam Pembangunan Perisian Berpacuan AI
Salah satu risiko paling jelas yang dibincangkan semasa SafeDev Talk ialah risiko kebergantungan, terutamanya dalam persekitaran yang sangat bergantung pada pembangunan perisian yang dipacu AI. Pembantu pengekodan AI dioptimumkan untuk kemudahan dan kelajuan, bukan untuk meminimumkan permukaan serangan.
Dalam praktiknya, ini membawa kepada pengenalan kebergantungan yang agresif. Pustaka baharu ditambah dan bukannya menggunakan semula fungsi sedia ada, kebergantungan transitif berkembang secara senyap, dan sumber terbuka pengurusan pergantungan menjadi reaktif dan bukannya disengajakan. Lama-kelamaan, pasukan kehilangan keupayaan untuk berfikir tentang apa yang sebenarnya mereka jalankan.
Ini bukan sekadar isu kebersihan. Setiap kebergantungan baharu memperkenalkan risiko rantaian bekalan perisian tambahan, andaian kepercayaan baharu dan peluang baharu untuk serangan rantaian bekalan sumber terbuka. Apabila kebergantungancisIon diautomasikan dan dikaji semula secara dangkal, risiko kebergantungan menjadi sistemik dan bukannya tidak sengaja.
Jika graf kebergantungan anda berkembang lebih pantas daripada keupayaan pasukan anda untuk menerangkannya, ini bukanlah masalah perkakasan; ia adalah masalah kepercayaan.
Pembantu Pengekodan AI, Keselamatan dan Keruntuhan Semakan
Satu lagi mod kegagalan yang dibincangkan ialah hakisan semakan rakan sebaya dengan kehadiran kod yang dijana AI. Pembantu pengekodan AI, keselamatan bukan sekadar suntikan segera atau penyalahgunaan model; ia adalah tentang berapa banyak logik yang tidak disemak memasuki sistem pengeluaran.
Perubahan yang dijana oleh AI selalunya besar, koheren dan sukar untuk disemak di bawah tekanan masa. Akibatnya, semakan rakan sebaya menjadi cetek atau simbolik. Keruntuhan senyap ini menghapuskan salah satu kawalan yang paling berkesan dalam software supply chain security.
Masalahnya bukanlah kecuaian pembangun. Ia adalah ketidakselarasan aliran kerja. Apabila kelajuan diberi ganjaran dan geseran dikenakan penalti, kawalan keselamatan AI dan perisian yang bergantung pada perhatian manusia pasti akan menjadi lemah. Penyerang tidak perlu memintas semakan jika semakan tidak lagi berfungsi sebagai penghalang.
Banyak pasukan menganggap semakan masih berkesan kerana prosesnya wujud. Lebih sedikit yang bertanya sama ada ia masih berfungsi sebagai kawalan yang bermakna.
Pakej Sumber Terbuka Berniat Jahat dan Mitos Populariti
Kepercayaan umum dalam pengurusan kebergantungan sumber terbuka ialah projek popular adalah lebih selamat. Pada hakikatnya, populariti sering meningkatkan pendedahan. Pustaka yang digunakan secara meluas adalah sasaran bernilai tinggi untuk serangan rantaian bekalan sumber terbuka, pracisely kerana kompromi menghasilkan impak hiliran yang luas.
Banyak projek popular diselenggara oleh pasukan kecil atau individu tunggal. Walaupun isu dikesan, pakej sumber terbuka yang berniat jahat sering kekal tersedia selama berjam-jam atau berhari-hari sebelum dialih keluar. Dalam tempoh itu, organisasi terus menyerapnya melalui binaan automatik.
Kelewatan ini mengukuhkan keperluan untuk tindakan proaktif software supply chain security kawalan. Bergantung pada populariti, reputasi atau tindakan pendaftaran sahaja tidak mencukupi apabila menghadapi risiko rantaian bekalan perisian moden.
"Digunakan secara meluas" tidak sama dengan "dipertahankan secara aktif", dan menganggapnya sedemikian adalah salah satu salah tanggapan rantaian bekalan yang paling berterusan.
Asal-usul dalam Rantaian Bekalan Perisian dan Keselamatan AI
Sepanjang perbincangan, keperluan untuk asal usul dalam rantaian bekalan perisian muncul berulang kali. Dalam persekitaran yang dibantu AI, atribusi menjadi kabur. Kod boleh dijana oleh model, diubah suai oleh manusia, digabungkan melalui automasi dan digunakan tanpa akauntabiliti yang jelas.
Tanpa asal usul yang boleh disahkan, organisasi terpaksa mempercayai artifak secara tersirat. Keselamatan AI menuntut peralihan daripada kepercayaan kepada pengesahan: artifak yang ditandatangani, build attestations, dan asal usul yang boleh dikesan. Walaupun asal usul tidak menghalang tingkah laku berniat jahat secara langsung, ia mengurangkan kekaburan dengan ketara dan mengehadkan kebolehgerakan penyerang.
Ini terpakai sama rata kepada model, data dan kod. Dalam pembangunan perisian yang dipacu AI, asal usul merupakan keperluan asas untuk keselamatan AI dan perisian.
SBOM dan Keselamatan AI dalam Moden Pipelines
Peranan SBOM dan keselamatan AI merupakan satu lagi tema tersirat. SBOMs memberikan keterlihatan ke dalam graf kebergantungan, tetapi keterlihatan sahaja tidak mencukupi. Dalam persekitaran yang sarat dengan AI, SBOMmesti berkembang untuk menangkap bukan sahaja perpustakaan, tetapi juga model, langkah binaan dan reka bentuk automatikcision.
Apabila digabungkan dengan analisis tingkah laku dan asal usulnya, SBOM dan keselamatan AI menjadi alat yang ampuh untuk mengurangkan risiko rantaian bekalan perisian. Ia membolehkan organisasi mengesan perubahan yang tidak dijangka, menaakul impak dan bertindak balas dengan lebih berkesan terhadap serangan rantaian bekalan sumber terbuka.
CI/CD Pipeline Security Di bawah Tekanan Automasi
Akhirnya, CI/CD pipeline security muncul sebagai satah kawalan kritikal. Pipelinesemakin banyak melaksanakan tindakan yang dicadangkan atau dicetuskan oleh sistem AI. Jika itu pipelineKerana kekurangan kawalan identiti, pengesahan artifak dan penguatkuasaan dasar yang kukuh, ia menjadi titik masuk yang ideal untuk penyerang.
Tidak mencukupi CI/CD pipeline security membolehkan pakej sumber terbuka yang berniat jahat bukan sahaja menjejaskan sistem pengeluaran tetapi juga persekitaran pembangun dan infrastruktur binaan. Apabila automasi meningkat, pipelinemesti dianggap sebagai aset bernilai tinggi dalam software supply chain security program.
Tonton Ceramah SafeDev
Untuk mendengar lebih lanjut tentang semua pandangan ini terus daripada pengamal yang membentuk bidang ini, tonton siaran penuh Perbincangan SafeDev: Sumber Terbuka, AI & Permukaan Serangan Baharu: Kod Senjata, Pertahanan Lebih Pintar, Memaparkan Roman Zhukov (Topi Merah), Leon Johnson (TikTok), dan Luis Rodríguez Berzosa (Xygeni).
Implikasi Praktikal untuk Keselamatan AI dan Software Supply Chain Security
Implikasi praktikal daripada perubahan ini melangkaui perkakasan. Organisasi mesti menyedari bahawa keselamatan AI, keselamatan AI dan perisian, dan software supply chain security kini saling berkaitan. Decision yang dahulunya dianggap berisiko rendah, kemas kini kebergantungan, penjanaan kod dan automasi kini membawa risiko rantaian bekalan perisian yang bermakna, terutamanya apabila iacisIon dihasilkan secara tersirat oleh alat dan bukannya secara eksplisit oleh manusia.
Semasa Ceramah SafeDev, perkara ini diringkaskan secara ringkas. Seperti yang dinyatakan oleh seorang penceramah, apabila sistem AI mengambil bahagian dalam pembangunan perisian, pasukan keselamatan bukan lagi sekadar mengamankan kod; mereka juga mengamankancision. Automasi tidak menghapuskan tanggungjawab; ia mengagihkannya semula.
Dalam praktiknya, ini bermakna memulihkan niat di mana kemudahan telah mengambil alih. Pengurusan kebergantungan sumber terbuka mesti mengambil kira tingkah laku yang didorong oleh AI dan bukannya menganggap pertimbangan manusia. Risiko kebergantungan tidak lagi boleh dianggap sebagai satu semakan semula sekali-sekala.cise. CI/CD pipeline security mesti menguatkuasakan pengesahan, bukan menganggap input yang tidak berbahaya. Dan asal usul dalam rantaian bekalan perisian mesti beralih daripada aspirasi kepada garis dasar.
Satu lagi pandangan daripada perbincangan itu ialah kelajuan itu sendiri tidak lagi neutral. Kebanyakan kegagalan rantaian bekalan bukan datang daripada satu bencana sahaja.cision, tetapi daripada banyak pilihan automatik kecil yang tiada siapa yang meluluskan secara eksplisit. Ini adalah pracisMengapa model kepercayaan tradisional gagal di bawah pembangunan perisian dipacu AI?
Semua ini tidak bermaksud meninggalkan sumber terbuka atau AI. Sebaliknya, ia mengakui peranan utama mereka dalam kejuruteraan moden. Tetapi tanpa andaian keselamatan yang berubah-ubah, organisasi berisiko membiarkan automasi menentukan kepercayaan secara lalai.
Untuk menyimpulkan…
Satu cara yang berguna untuk memikirkan perubahan ini ialah software supply chain security bukan lagi tentang melindungi artifak sahaja. Ia adalah tentang melindungi decislaluan ionDalam dunia yang dibantu AI, soalan keselamatan yang paling penting bukan sahaja “Adakah komponen ini terdedah?” tetapi “Mengapakah ini diperkenalkan, oleh siapa atau apa, dan di bawah kekangan yang mana?” Organisasi yang menyesuaikan diri dengan pembingkaian ini tidak akan menghapuskan risiko, tetapi mereka tidak akan terkejut dengannya.
