Sumber terbuka telah menjadi fondasi pengembangan perangkat lunak modern. Hampir setiap aplikasi saat ini bergantung pada jaringan kompleks pustaka, kerangka kerja, model, dan alat pembuatan pihak ketiga. Realitas ini saja sudah menimbulkan tantangan yang signifikan. software supply chain security tantangan. Pada saat yang sama, kecerdasan buatan telah memasuki siklus pengembangan perangkat lunak Sebagai akselerator yang ampuh, ia menghasilkan kode, menyarankan dependensi, mengotomatiskan perbaikan, dan bahkan memengaruhi desain arsitektur.cision. Bersama-sama, open source dan AI telah mengubah cara perangkat lunak dibangun, dan, tak pelak lagi, cara perangkat lunak tersebut diserang. Persimpangan antara keamanan AI, keamanan AI dan perangkat lunak, dan software supply chain security Hal ini bukan lagi sekadar teori. Sekarang, ini adalah salah satu sumber risiko rantai pasokan perangkat lunak yang dominan yang dihadapi oleh organisasi rekayasa.
Realitas tersebut menjadi kerangka diskusi SafeDev Talk kami baru-baru ini: Sumber Terbuka, AI & Permukaan Serangan Baru: Kode yang Dipersenjatai, Pertahanan yang Lebih CerdasAcara tersebut menghadirkan para pemimpin keamanan dari Red Hat, TikTok, dan Xygeni. Diskusi berfokus pada apa yang telah dialami tim keamanan dan rekayasa di lingkungan produksi, khususnya seputar serangan rantai pasokan sumber terbuka, paket sumber terbuka berbahaya, dan meningkatnya ketegangan antara kecepatan dan kontrol dalam pengembangan perangkat lunak berbasis AI. Yang muncul adalah gambaran yang jelas: permukaan serangan meluas lebih cepat daripada yang dapat diimbangi oleh model keamanan tradisional, dan AI bertindak sebagai pengganda kekuatan sekaligus uji stres bagi asumsi lama dalam keamanan AI. software supply chain security.
Jika deskripsi ini terasa sangat mirip dengan cara organisasi Anda saat ini membangun perangkat lunak, itu bukanlah suatu kebetulan. Banyak tim baru menyadari seberapa besar kepercayaan telah beralih ke otomatisasi setelah terjadi kerusakan.
Keamanan AI dan Software Supply Chain Security Apakah Sekarang Masalahnya Sama?
Tema yang berulang sepanjang diskusi adalah bahwa keamanan AI tidak lagi dapat diperlakukan sebagai disiplin ilmu yang terpisah dari software supply chain securitySistem AI tidak beroperasi secara terisolasi; sistem tersebut dibangun, dilatih, diterapkan, dan diintegrasikan melalui proses yang sama. pipelines, dependensi, dan registri yang sudah berjuang melawan serangan rantai pasokan sumber terbuka.
Dalam pengembangan perangkat lunak berbasis AI, model menyarankan kode, menghasilkan perbaikan, dan memilih dependensi secara otomatis. Hal inicision secara langsung mempengaruhi manajemen dependensi sumber terbuka, seringkali tanpa niat manusia yang eksplisit. Akibatnya, risiko ketergantungan tidak lagi hanya didorong oleh pilihan pengembang; risiko tersebut semakin dibentuk oleh perilaku AI.
Konvergensi ini berarti bahwa kegagalan dalam AI dan keamanan perangkat lunak sering kali bermanifestasi sebagai insiden rantai pasokan tradisional: ketergantungan yang terganggu, artefak build yang terkontaminasi, atau kerentanan. CI/CD proses. Meskipun peralatannya mungkin baru, risiko rantai pasokan perangkat lunak sangat nyata dan semakin sulit untuk dipahami.
Jika model ancaman Anda masih memisahkan “risiko AI” dari “risiko rantai pasokan,” ada baiknya meninjau kembali di mana batasan tersebut sebenarnya berada dalam alur kerja pembuatan dan penerapan Anda.
Serangan Rantai Pasokan Sumber Terbuka dengan Kecepatan Mesin
Serangan rantai pasokan sumber terbuka bukanlah hal baru, tetapi AI mengubah ekonomi serangan tersebut. Penyerang tidak membutuhkan teknik baru; mereka membutuhkan skala. AI memungkinkan analisis ekosistem yang cepat, penemuan otomatis ketergantungan yang lemah, dan iterasi cepat pada muatan serangan.
Dari sudut pandang ofensif, industrialisasi pengintaian ini secara dramatis meningkatkan tingkat keberhasilan serangan yang melibatkan paket sumber terbuka berbahaya. Komponen yang sebelumnya tidak akan terdeteksi kini dapat ditemukan, dianalisis, dan dieksploitasi dengan cepat, seringkali sebelum pihak bertahan menyadari bahwa komponen tersebut sedang digunakan.
Inilah sebabnya mengapa software supply chain security Kita tidak bisa hanya mengandalkan sinyal yang tertunda. Registri, peringatan, dan pengungkapan pasca-kejadian beroperasi dalam skala waktu manusia, sementara penyerang semakin beroperasi dengan kecepatan mesin. Jendela paparan yang dihasilkan merupakan kontributor langsung terhadap meningkatnya risiko rantai pasokan perangkat lunak.
Jika sinyal deteksi utama Anda adalah "registri telah menghapus paket tersebut," Anda sudah beroperasi di hilir garis waktu penyerang.
Ingin mempelajari lebih dalam tentang serangan terhadap rantai pasokan perangkat lunak sumber terbuka?
Risiko Ketergantungan dalam Pengembangan Perangkat Lunak Berbasis AI
Salah satu risiko paling jelas yang dibahas selama SafeDev Talk adalah risiko ketergantungan, khususnya di lingkungan yang sangat bergantung pada pengembangan perangkat lunak berbasis AI. Asisten pengkodean AI dioptimalkan untuk kenyamanan dan kecepatan, bukan untuk meminimalkan potensi kerentanan keamanan.
Dalam praktiknya, hal ini menyebabkan pengenalan dependensi yang agresif. Pustaka baru ditambahkan alih-alih menggunakan kembali fungsionalitas yang sudah ada, ketergantungan transitif Berkembang secara diam-diam, dan sumber terbuka. manajemen ketergantungan Menjadi reaktif daripada disengaja. Seiring waktu, tim kehilangan kemampuan untuk bernalar tentang apa yang sebenarnya mereka jalankan.
Ini bukan sekadar masalah kebersihan. Setiap ketergantungan baru memperkenalkan risiko rantai pasokan perangkat lunak tambahan, asumsi kepercayaan baru, dan peluang baru untuk serangan rantai pasokan sumber terbuka. Ketika ketergantungan muncul...cisJika proses otomatisasi dilakukan dan ditinjau secara dangkal, risiko ketergantungan menjadi sistemik dan bukan lagi kebetulan.
Jika grafik ketergantungan Anda tumbuh lebih cepat daripada kemampuan tim Anda untuk menjelaskannya, ini bukan masalah perangkat lunak; ini adalah masalah kepercayaan.
Asisten Pemrograman AI, Keamanan, dan Runtuhnya Sistem Peninjauan
Mode kegagalan lain yang dibahas adalah terkikisnya tinjauan sejawat (peer review) di hadapan kode yang dihasilkan AI. Pada asisten pengkodean AI, keamanan bukan hanya tentang injeksi perintah atau penyalahgunaan model; tetapi juga tentang seberapa banyak logika yang tidak ditinjau masuk ke dalam sistem produksi.
Perubahan yang dihasilkan AI seringkali besar, koheren, dan sulit ditinjau di bawah tekanan waktu. Akibatnya, tinjauan sejawat menjadi dangkal atau simbolis. Keruntuhan diam-diam ini menghilangkan salah satu kontrol paling efektif dalam software supply chain security.
Masalahnya bukan kelalaian pengembang. Masalahnya adalah ketidaksesuaian alur kerja. Ketika kecepatan dihargai dan hambatan dihukum, AI dan kontrol keamanan perangkat lunak yang bergantung pada perhatian manusia pasti akan melemah. Penyerang tidak perlu melewati peninjauan jika peninjauan tidak lagi berfungsi sebagai penghalang.
Banyak tim berasumsi bahwa proses peninjauan masih efektif karena prosesnya masih ada. Namun, lebih sedikit yang mempertanyakan apakah proses tersebut masih berfungsi sebagai kontrol yang bermakna.
Paket Perangkat Lunak Sumber Terbuka yang Berbahaya dan Mitos Popularitas
Keyakinan umum dalam manajemen dependensi sumber terbuka adalah bahwa proyek populer lebih aman. Pada kenyataannya, popularitas seringkali meningkatkan risiko. Pustaka yang banyak digunakan merupakan target bernilai tinggi untuk kerentanan. serangan rantai pasokan sumber terbuka, sebelumciskarena kompromi menghasilkan dampak hilir yang luas.
Banyak proyek populer dikelola oleh tim kecil atau individu tunggal. Bahkan ketika masalah terdeteksi, paket sumber terbuka berbahaya seringkali tetap tersedia selama berjam-jam atau berhari-hari sebelum dihapus. Selama waktu itu, organisasi terus menggunakannya melalui proses build otomatis.
Keterlambatan ini mempertegas perlunya tindakan proaktif. software supply chain security kontrol. Mengandalkan popularitas, reputasi, atau tindakan registri saja tidak cukup ketika menghadapi risiko rantai pasokan perangkat lunak modern.
“Digunakan secara luas” tidak sama dengan “dipertahankan secara aktif,” dan memperlakukannya seperti itu adalah salah satu kesalahpahaman rantai pasokan yang paling umum.
Pengalaman dalam Rantai Pasokan Perangkat Lunak dan Keamanan AI
Sepanjang diskusi, kebutuhan akan asal usul dalam rantai pasokan perangkat lunak berulang kali muncul. Dalam lingkungan yang dibantu AI, atribusi menjadi kabur. Kode dapat dihasilkan oleh model, dimodifikasi oleh manusia, digabungkan oleh otomatisasi, dan diterapkan tanpa akuntabilitas yang jelas.
Tanpa asal usul yang dapat diverifikasi, organisasi terpaksa mempercayai artefak secara implisit. Keamanan AI menuntut pergeseran dari kepercayaan menuju verifikasi: artefak yang ditandatangani, build attestationsdan asal-usul yang dapat dilacak. Meskipun penelusuran asal-usul tidak mencegah perilaku jahat secara langsung, hal itu secara signifikan mengurangi ambiguitas dan membatasi manuver penyerang.
Hal ini berlaku sama untuk model, data, dan kode. Dalam pengembangan perangkat lunak berbasis AI, asal usul (provenance) merupakan persyaratan mendasar baik untuk AI maupun keamanan perangkat lunak.
SBOM dan Keamanan AI di Era Modern Pipelines
Peran dari SBOM dan keamanan AI merupakan tema tersirat lainnya. SBOMmemberikan visibilitas ke dalam grafik ketergantunganNamun, visibilitas saja tidak cukup. Di lingkungan yang sarat dengan AI, SBOMSistem harus berevolusi untuk mencakup tidak hanya pustaka, tetapi juga model, langkah-langkah pembangunan, dan otomatisasi.cision.
Saat digabungkan dengan analisis perilaku dan asal-usul, SBOM Keamanan berbasis AI menjadi alat yang ampuh untuk mengurangi risiko rantai pasokan perangkat lunak. Keduanya memungkinkan organisasi untuk mendeteksi perubahan yang tidak terduga, memahami dampaknya, dan merespons serangan rantai pasokan sumber terbuka dengan lebih efektif.
CI/CD Pipeline Security Di Bawah Tekanan Otomatisasi
Terakhir, CI/CD pipeline security muncul sebagai bidang kendali yang kritis. Pipelinesemakin sering menjalankan tindakan yang disarankan atau dipicu oleh sistem AI. Jika tindakan tersebut pipelineKarena kurangnya kontrol identitas yang kuat, verifikasi artefak, dan penegakan kebijakan, platform tersebut menjadi titik masuk yang ideal bagi penyerang.
Tidak memadai CI/CD pipeline security Hal ini memungkinkan paket open source berbahaya untuk memengaruhi tidak hanya sistem produksi tetapi juga lingkungan pengembang dan infrastruktur pembangunan. Seiring meningkatnya otomatisasi, pipelineharus diperlakukan sebagai aset bernilai tinggi di dalam software supply chain security program.
Saksikan SafeDev Talk
Untuk mendengar lebih banyak tentang semua wawasan ini langsung dari para praktisi yang membentuk bidang ini, tonton video selengkapnya. Diskusi SafeDev: Sumber Terbuka, AI & Permukaan Serangan Baru: Kode yang Dipersenjatai, Pertahanan yang Lebih Cerdas, Menampilkan Roman Zhukov (Topi Merah), Leon Johnson (TikTok), dan Luis Rodríguez Berzosa (Xygeni).
Implikasi Praktis bagi Keamanan AI dan Software Supply Chain Security
Implikasi praktis dari perubahan ini meluas melampaui sekadar perangkat. Organisasi harus menyadari bahwa keamanan AI, keamanan AI dan perangkat lunak, dan software supply chain security kini terjalin erat. DecisPerubahan yang dulunya dianggap berisiko rendah, seperti pembaruan ketergantungan, pembuatan kode, dan otomatisasi, kini membawa risiko rantai pasokan perangkat lunak yang signifikan, terutama ketika perubahan tersebut terjadi.cisIon dihasilkan secara implisit oleh alat, bukan secara eksplisit oleh manusia.
Selama SafeDev Talk, poin ini diringkas secara singkat. Seperti yang dikatakan salah satu pembicara, Ketika sistem AI berpartisipasi dalam pengembangan perangkat lunak, tim keamanan tidak lagi hanya mengamankan kode; mereka mengamankan sistem.cisOtomatisasi tidak menghilangkan tanggung jawab; melainkan mendistribusikannya kembali.
Dalam praktiknya, ini berarti mengembalikan kesengajaan di mana kenyamanan telah mengambil alih. Manajemen ketergantungan sumber terbuka harus mempertimbangkan perilaku yang didorong oleh AI daripada mengasumsikan pertimbangan manusia. Risiko ketergantungan tidak lagi dapat diperlakukan sebagai latihan peninjauan sesekali.cise. CI/CD pipeline security Verifikasi harus ditegakkan, bukan mengasumsikan input yang tidak berbahaya. Dan asal usul dalam rantai pasokan perangkat lunak harus beralih dari aspirasi menjadi standar dasar.
Wawasan lain dari diskusi tersebut adalah bahwa kecepatan itu sendiri tidak lagi netral. Sebagian besar kegagalan rantai pasokan tidak berasal dari satu kejadian bencana tunggal.cision, tetapi dari banyak pilihan otomatis kecil yang tidak disetujui secara eksplisit oleh siapa pun. Ini adalah pracisInilah mengapa model kepercayaan tradisional gagal dalam pengembangan perangkat lunak berbasis AI.
Semua ini bukan berarti meninggalkan open source atau AI. Sebaliknya, ini mengakui peran sentral mereka dalam rekayasa modern. Tetapi tanpa mengembangkan asumsi keamanan, organisasi berisiko membiarkan otomatisasi menentukan kepercayaan secara default.
Untuk menyimpulkan…
Salah satu cara yang berguna untuk memahami pergeseran ini adalah bahwa software supply chain security Ini bukan lagi hanya tentang melindungi artefak semata. Ini tentang melindungi decisjalur ionDi dunia yang dibantu AI, pertanyaan keamanan terpenting bukan hanya "Apakah komponen ini rentan?" tetapi juga "Mengapa ini diperkenalkan, oleh siapa atau apa, dan di bawah batasan apa?" Organisasi yang beradaptasi dengan kerangka kerja ini tidak akan menghilangkan risiko, tetapi mereka akan jauh lebih jarang terkejut olehnya.
