A cikin wani bincike mai sarrafawa da aka gabatar a Tsaron USENIX 2025, masu bincike sun nemi manyan samfuran harsuna 16 don samar da samfuran lambobi 576,000. Kusan ɗaya cikin biyar na fakitin buɗe tushen waɗanda waɗannan samfuran suka ba da shawarar ba su wanzu ba: sunayen fakiti na bogi na musamman 205,474, waɗanda aka ƙirƙira daga babu komai. Wannan zai zama abin sha'awa idan aka yi shi bazuwar. Ba haka bane. Kashi arba'in da uku cikin ɗari na sunayen da aka yi mafarkin sun bayyana akai-akai a cikin tambayoyin da aka maimaita. Masu kai hari ba sai sun yi hasashen abin da mataimakin lambar zai ƙirƙira ba. Za su iya kallo, jira, da yin rijistar sunan da farko.
Wannan shine babban matsalar Tsaron sarkar samar da kayayyaki ta AI a cikin wani gwaji: AI ɗaya da ke hanzarta haɓaka software ya zama wurin shiga da za a iya faɗi, wanda za a iya amfani da shi. Tambayar da ƙungiyoyin tsaro ke yi ba ta sake kasancewa ko AI ta taɓa sarkar samar da software ba. Shin za ku iya ganin abin da yake yi a ɓangarorin biyu na faɗan: AI yana rubuta lambar ku, AI yana kare ku pipeline, kuma AI wani mai hari yana nuna duka biyun.
Menene tsaron sarkar samar da kayayyaki ta AI?
Tsaron sarkar samar da kayayyaki ta AI aiki ne na kare sarkar samar da software daga haɗarin da aka gabatar ko aka ƙara ta hanyar fasahar wucin gadi, da kuma amfani da AI don kare wannan sarkar samar da kayayyaki. Yana kan mahadar hanyoyi guda biyu da yawancin shirye-shiryen tsaro har yanzu ke magance su daban-daban: lambar da aka samar da AI da ke shiga tushen lambar, da hare-haren da AI ke amfani da su wajen kai hari kan abubuwan da suka dogara da su, ginawa. pipelines, da kayan aikin haɓaka masu haɓakawa waɗanda ke kewaye da shi.
Tsaron aikace-aikacen gargajiya yana tambaya ko akwai wani rauni da aka sani a cikin wani ɓangare da aka sani. Tsaron sarkar samar da kayayyaki na AI yana tambaya tambayoyi masu wahala da sauri: Shin wannan dogaro da wakilin AI da aka shigar yanzu yana wanzuwa, ko kuwa an yi ta mafarki? Shin wannan sabon kunshin da aka buga yana nuna mugunta, duk da cewa babu sa hannu a kansa tukuna? Waɗanne samfuran AI, wakilai, da haɗin gwiwa ne ke gudana a cikin zagayowar haɓaka software, kuma me za su iya cimmawa?
Amsa waɗannan tambayoyin a lambar gudu a zahiri shine cikakken fanni.
Yadda AI ta zama saman harin sarkar samar da kayayyaki
Masu kai hari sun daina gwaji da AI wani lokaci da ya wuce. Yanzu sun gina shi zuwa ayyukan da ke kai hari ga lambar da abubuwan da suka dogara da shi kai tsaye, ba kawai akwatunan shiga da login shafuka.
Slopsquatting: amfani da makamai ga abin da AI ta ƙirƙira
Dabarar tana da suna yanzu: yin tsalle-tsalle, wanda Seth Larson, mai haɓaka tsaro wanda ke zaune a Gidauniyar Python Software ya ƙirƙira a watan Afrilun 2025. Makanikan suna da sauƙi kuma marasa tausayi. Mataimakan lambar AI suna ba da shawarar sunayen fakiti waɗanda babu su akai-akai. Saboda waɗannan abubuwan mamaki suna maimaitawa, mai hari zai iya yin rijistar sunan da aka ƙirƙira a matsayin ainihin fakitin mugunta kuma ya jira mai haɓakawa na gaba (ko wakilin mai zaman kansa na gaba) ya shigar da shi.
An riga an rubuta abin da ya faru. A shekarar 2023, mai binciken tsaro Bar Lanyado sun buga wani fakitin mai riƙe wuri mara komai a ƙarƙashin sunan da ake yawan yin mafarki akai-akai, huggingface-cliCikin watanni uku an sauke shi sama da sau 30,000, kuma umarnin shigarwa na hasashe ya bayyana a cikin wani ma'ajiyar README na jama'a daga wani babban kamfanin fasaha. Wannan gwaji ne mai sauƙi. Littafin wasan kwaikwayo iri ɗaya tare da ainihin kayan aiki yanzu samfurin kasuwanci ne mai maimaitawa ga masu kai hari.
Masu sarrafa lambar sirri masu zaman kansu sun ƙara ta'azzara wannan ta hanyar cire wurin duba bayanan ɗan adam na ƙarshe. Wakilin da ke shigar da abubuwan da suka dogara ba tare da yin bita ba yana kawar da lokacin da mai haɓaka zai iya lura cewa kunshin ya yi kuskure.
Fakitin da ba su da kyau a sikelin masana'antu
Slopsquatting wata dabara ce da za a iya amfani da ita a cikin wani babban sauyi. A shekarar 2025, manyan kamfen na ɓarna ya zama tsarin aiki na asali don hare-haren sarkar samar da kayayyaki, kamar yadda Xygeni's Sabbin Hanyoyin Hare-haren AppSec na 2026 takardu. Masu kai hari sun rungumi tattalin arzikin spam: suna buga fakitin mugunta dubu, suna karɓar saukewa cikin sauri, kuma suna dogara da yuwuwar maimakon juriya. Rijistar jama'a yanzu tana da ɗaruruwan dubban sabbin fakitin mugunta a shekara, har ma da ɗan gajeren taga yana gurɓata gine-ginen da ke ƙasa.
MCP: sabon matakin haɗin da ba a tabbatar da shi ba
Tsarin Tsarin Yanayi (MCP) yana bawa wakilan AI damar haɗawa da kayan aiki da tushen bayanai. Hakanan yana ƙirƙirar sabon saman hari wanda yawancin na'urorin daukar hoto ba sa taɓa dubawa. Sabar MCP mai cutarwa na iya zama ba tare da gani ba tare da waɗanda suka dace, wanda kowane wakili mai damar isa gare shi zai iya isa gare shi. OWASP ta buga jerin manyan 10 na MCP a shekarar 2025 don tattara waɗannan haɗarin, tun daga allurar gaggawa da gubar kayan aiki har zuwa sabar da ba a tabbatar da su ba waɗanda kowane wakili a kan hanyar sadarwa zai iya isa gare su.
Sirrin yana yawo ta hanyar lambar da AI ta samar
Takardun shaidar da aka samu ta hanyar karya sun karu da kusan kashi 160% a shekarar 2025 idan aka kwatanta da 2024, a cewar Check Point External Risk Management (wanda a da ake kira Check Point External Risk Management) Cyberint), wanda wani ɓangare ke haifarwa ta hanyar phishing da infostealer malware. A cikin yanayin software, wannan yana nuna kai tsaye zuwa maɓallan da aka yi wa lamba da alamun a cikin lambar da AI ta samar. Mataimakin lambar sirri wanda ya cinye .env fayil ɗin da ke cikin mahallinsa zai iya sake bayyana sirri a cikin shawara, kuma maharan suna bincika ainihin wannan tsarin.
Bangaren ɗan adam ma bai gushe ba. Rahoton IBM na shekarar 2025 na Kuɗin Keta Bayanan Mutum ya gano cewa daga cikin keta dokokin AI, kashi 37% sun yi amfani da fasahar phishing da AI ta samar, yayin da kashi 35% suka yi amfani da fasahar phishing da ke ɓoye bayanai, dabarun da aka fi mayar da hankali a kansu ga masu haɓaka manhajoji ta hanyar aika saƙonnin bogi ga ma'aikata da kuma asusun masu kula da su.
Yadda AI ke kare sarkar samar da kayayyaki
Ƙarfin da ke sa AI ta zama mai haɗari shi ne ainihin abin da ya sa ya zama da amfani ga masu kare shi. A cikin sarkar samar da kayayyaki, wannan ciniki ya fi dacewa a wurare huɗu.
Gano malware kafin sa hannu
Wannan ita ce ikon bayyanawa. Na'urar daukar hoto ta gargajiya tana jiran sa hannun da aka sani mara kyau kafin ta iya yiwa wani fakiti alama, wanda yake da jinkiri sosai ga hare-haren da ke tara dubban saukewa cikin sa'o'i bayan bugawa. Maimakon haka, gano bisa ga ɗabi'a yana nuna sabon fakitin da aka buga da zarar ya bayyana: ayyukansa na lokacin shigarwa, kiran hanyar sadarwa, tsarin ɓoye bayanai, da kuma abubuwan da ba su dace ba na metadata. Wannan yana rufe taga slopsquatting da typosquatting kamfen sun dogara da su. Yaƙin neman zaɓen Shai-Hulud na ƙarshen 2025 da GlassWorm npm, waɗanda na'urorin gano tushen sa hannu suka rasa gaba ɗaya, an riga an riga an fara su.cisAn gina nazarin ɗabi'un shari'ar ne don kamawa.
Fifiko ta hanyar amfani da shi, ba ta hanyar girma ba
Gudunmawar da AI ta bayar ga AppSec ta zamani ba wai neman ƙarin matsaloli ba ne; yana rage hayaniyar abin da aka riga aka samu. Binciken isa ga bayanai yana tantance ko hanyar lambar da ke da rauni a zahiri an aiwatar da ita. Ƙimar amfani tana auna bayanan harin gaske akan lambar CVSS mara inganci. Tare sun bar ƙungiyoyi su mai da hankali kan ƙananan abubuwan da aka gano waɗanda ke wakiltar haɗari na gaske, waɗanda za a iya amfani da su maimakon gwada dubban faɗakarwa marasa sigina da hannu.
Gano Anomaly a cikin Matakai pipeline matakin
In Binciken Darktrace na Yanayin Tsaron Yanar Gizo na AI na 2026, shugabannin tsaro sun ambaci gano barazana da gano abubuwan da ba su dace ba (72%) a matsayin yankin da AI ke yin tasiri sosai, kafin martanin atomatik (48%) da kuma kula da rauni (47%). An yi amfani da shi ga CI/CD, wannan yana nufin yiwa rubutun shigarwa alama wanda ke yin aiki ba kamar duk wani abu da aka gani a baya ba pipeline, ko kuma sabuntawar dogaro wanda ke gabatar da kiran hanyar sadarwa da ba a zata ba.
Gyaran da za a iya sake dubawa ta atomatik
Bayan ganowa da kuma tantance haɗarin, AI yanzu tana samar da gyara: canjin lambar tsaro, takamaiman tsari wanda aka gabatar azaman pull request maimakon tikitin da ke ruɓewa a cikin wani mawuyacin hali. IBM ya gano cewa ƙungiyoyi da ke amfani da fasahar AI da sarrafa kansa a fannoni daban-daban a cikin ayyukan tsaro sun rage tsawon lokacin da suke ɗauka na karya hanya zuwa kwanaki 204, idan aka kwatanta da kwanaki 284 ga waɗanda ba su yi ba (kimanin kwanaki 80 cikin sauri), yayin da suke adana matsakaicin dala miliyan 1.9 a kowace karya hanya. Gano haɗari ba tare da rufe shi ba kawai yana mayar da abin da ya rage; haɗa tsarin AI da gyare-gyaren da AI ta samar yana rufe hanyar.
Gibin shugabanci da yawancin ƙungiyoyi ba su rufe ba
Ga ɓangaren da ba shi da daɗi. Binciken Darktrace na 2026 ya gano cewa kashi 77% na ƙungiyoyi yanzu suna gudanar da AI mai samar da ƙarfi a cikin tarin tsaronsu, amma kashi 37% ne kawai ke da wata manufa ta musamman don amfani da AI lafiya. Wannan adadi ya faɗi daga kashi 45% a shekarar da ta gabata. Riƙewa yana wuce shugabanci, kuma masu kai hari suna amfani da wannan gibin.
Ga ƙungiyoyin software, yana bayyana a zahiri: mataimakan lambar AI, wakilai, da haɗin MCP sun riga sun fara aiki a kan dandamalin. SDLC, sau da yawa ba tare da wani hangen nesa na tsakiya game da abin da suke samu ko abin da suka gabatar ba. Yawancin ƙungiyoyi za su iya sanya sunayen masu samar da girgijensu. Kadan ne za su iya sanya sunayen kowace samfurin AI, wakili, da sabar MCP da za a iya samu daga injin mai haɓakawa. Wannan kaya, Dokar Kayan AI (AI-BOM), ita ce tushen sauran tsaron sarkar samar da kayayyaki ta AI. Ba za ku iya tabbatar da abin da ba ku tara ba.
Abin da ƙungiyoyin AppSec ya kamata su yi yanzu
The matsakaicin keta bayanai ya kai dala miliyan 4.44 a shekarar 2025 (IBM), kuma sarkar samar da kayayyaki tana ƙara zama ɗaya daga cikin wuraren da za a fara amfani da ita. Amsar da ake bayarwa ba wai "ɗauka AI" ba ne a cikin taƙaitaccen bayani. Jerin gajeru ne, na zahiri:
- Nemo abin da AI ke aiki a cikin na'urar ku SDLC. Samfura, wakilai, sabar MCP, da kayan aikin lambar AI kadarori ne. Gina AI-BOM da farko.
- Yi amfani da lambar da aka samar da AI kamar lambar da aka rubuta ta ɗan adam. Lambar da aka tattara ba ta da aminci ta atomatik, kuma abubuwan da suka dogara da ita sun cancanci bita iri ɗaya da komai.
- Gano malware ta hanyar hali, ba ta hanyar sa hannu ba. Na'urar daukar hoto ta hanyar sa hannu tana da jinkiri sosai ga kamfen ɗin fakiti mai yawa da na ɗan gajeren lokaci.
- A fifita ta hanyar amfani da hankali, ba ta hanyar ƙarar faɗakarwa ba. Darajar kariya ta AI tana raba haɗari na gaske daga hayaniya, ba ta haifar da ƙarin hakan ba.
- Gyara ta atomatik, ba kawai ganowa ba. Ganowa ba tare da gyara ba kawai yana motsa bayanan da suka lalace zuwa wani wuri daban.
Inda tsaron sarkar samar da kayayyaki ta AI ke tafiya
Za a iya bayyana tsare-tsare guda biyu a cikin shekaru masu zuwa. Na farko, hare-haren suna zama abin da ake iya faɗi a sikelin maimakon bazuwar: slopsquatting yana aiki kafincisely saboda tunanin AI yana da daidaito, wanda ke nufin tsaro dole ne ya canza daga sa hannu ɗaya zuwa gane tsari wanda ke daidaita daidai. Na biyu, tsaro yana canzawa daga "faɗakar da ɗan adam" zuwa "gano, maki, da amsawa kafin a sami tikiti." Ƙungiyoyin da ke samun ƙasa sune waɗanda ke kama halayen wani mummunan fakiti a lokacin bugawa, ba sa jiran a rubuta CVE.
AI shine sabon haɗarin ku kuma mafi kyawun kariya, sau da yawa a cikin tsarin iri ɗaya
AI tana jan hanyoyi biyu a lokaci guda. Tana ba wa masu hari damar iya ganowa da kuma mayar da martani a kan sikelin bita na hannu ba zai yiwu ba. Wannan bambancin shine dalilin da ya sa ba za a iya amfani da tsaron sarkar samar da kayayyaki ta AI a matsayin tunani ko kuma a haramta shi kai tsaye ba.
Wannan ita ce tazarar Xygeni an gina shi ne don rufewa. Gargaɗin Farko na Malware (MEW) yana ci gaba da sa ido kan rajistar jama'a da masu zaman kansu kuma yana gano fakitin da ba su da kyau da zarar an buga su, kafin a sami wani sa hannu, ta amfani da hukunce-hukuncen AI da ƙungiyar bincike ta ɗan adam ta tabbatar. Xygeni Shield yana sanya wannan basirar ta yi aiki a ƙarshen mai haɓaka: yana toshe fakitin mugunta a lokacin shigarwa kafin a fara rubuta su, kuma yana tattara kayan aikin AI, wakilai, da sabar MCP akan kowace na'ura. Tare an gina su ne da manufa don barazanar da wannan labarin ya bayyana: slopsquatting, typing typing, confusion dependence, da kuma sulhu tsakanin mai kula, gami da Shai Hulud kuma an rasa kayan aikin da suka dogara da sa hannu na azuzuwan harin GlassWorm. Haɗe da fifikon da ya dogara da isa ga abin da za a iya samu, AI-BOM a duk faɗin ku SDLC, da gyaran buƙatun ja ta atomatik, lambar da aka samar da AI da Hare-haren da ke amfani da fasahar AI sami irin wannan binciken, ba tare da rage gudu ga masu haɓaka ba.
Fara kyauta. Tsarin Xygeni na Masu Haɓaka Kasuwanci shine €0: ma'ajiyar bayanai 10, na'urar daukar hoto 200 a wata, har zuwa masu ba da gudummawa 5, babu katin kiredit. Sign up with GitHub, GitLab, ko Google kuma ku fara yin scan ɗin ku a cikin ƙasa da mintuna 10; Shield Kariyar ƙarshen zai zo ga shirin Mai Haɓakawa nan ba da jimawa ba.
FAQ
Menene tsaron sarkar samar da kayayyaki ta AI?
Tsaron sarkar samar da kayayyaki ta AI yana kare sarkar samar da software daga haɗarin da AI ke gabatarwa ko ƙarawa, kamar dogaro da abubuwan da ba a saba gani ba, lambar da AI ta samar wacce ke ɗauke da rauni, da kuma haɗin MCP mara kyau, yayin da kuma amfani da AI don kare ta ta hanyar gano malware bisa ɗabi'a, fifita amfani da shi, da kuma gyara ta atomatik.
Ta yaya ake amfani da AI don kare sarkar samar da software?
AI yana ba da damar kariyar da kayan aikin da aka dogara da sa hannu ba za su iya daidaitawa ba: ƙididdige halayen sabon kunshin da aka buga a lokacin da ya bayyana, tantance ko hanyar lambar da ke cikin haɗari a zahiri za a iya isa gare ta, yana nuna rashin tabbas pipeline aiki, da kuma samar da gyare-gyare na musamman na tsarin kamar pull requests maimakon tikitin da aka yi watsi da shi.
Me yasa na'urorin daukar hoto na gargajiya ba za su iya kama hare-haren sarkar samar da kayayyaki da AI ke jagoranta ba?
Kayan aikin gargajiya sun dogara ne akan sa hannu da aka sani da kuma CVEs da aka buga, don haka suna yiwa fakiti alama ne kawai bayan an riga an gano shi a matsayin abin ƙyama. Yaƙin neman zaɓe na fakiti mai yawa, na ɗan gajeren lokaci yana tattara saukewa cikin sa'o'i bayan bugawa (tun kafin a sami sa hannu), shi ya sa ake buƙatar gano halayya, wanda ya dogara da sa hannu kafin a saka hannu.
Menene AI-BOM kuma me yasa yake da mahimmanci?
Dokar Kayan Aiki ta AI (AI-BOM) tarin bayanai ne na kowane samfurin AI, wakili, da haɗin MCP da ke gudana a cikin zagayowar haɓaka software. Yana da mahimmanci saboda ba za ku iya tabbatar da abin da ba ku tara ba, kuma yawancin ƙungiyoyi ba su da hangen nesa na tsakiya game da abin da AI za a iya isa gare shi daga injin mai haɓakawa.
