Hauv kev tshawb fawb tswj hwm uas tau nthuav tawm ntawm Kev Ruaj Ntseg USENIX 2025, cov kws tshawb nrhiav tau thov 16 tus qauv lus loj los tsim 576,000 tus qauv code. Yuav luag ib ntawm tsib ntawm cov pob khoom qhib uas cov qauv pom zoo ntawd tsis muaj nyob: 205,474 lub npe pob khoom cuav tshwj xeeb, tsim tawm ntawm tsis muaj dab tsi. Qhov ntawd yuav yog qhov xav paub yog tias nws yog random. Nws tsis yog. Plaub caug peb feem pua ntawm cov npe hallucinated tshwm sim dua thiab dua hla cov lus nug rov ua dua. Cov neeg tawm tsam tsis tas yuav kwv yees dab tsi tus pab cuam coding yuav tsim. Lawv tuaj yeem saib, tos, thiab sau npe lub npe ua ntej.
Qhov ntawd yog qhov teeb meem tseem ceeb ntawm Kev ruaj ntseg ntawm AI cov khoom xa tuaj hauv ib qho kev sim: tib lub AI uas ua kom software tsim tau sai dua tau dhau los ua qhov nkag mus rau hauv nws. Lo lus nug rau cov pab pawg kev ruaj ntseg tsis yog seb AI puas kov cov khoom siv software. Nws yog seb koj puas tuaj yeem pom nws ua dab tsi ntawm ob sab ntawm kev sib ntaus sib tua: AI sau koj cov lej, AI tiv thaiv koj pipeline, thiab tus AI tus neeg tawm tsam taw tes rau ob qho tib si.
Kev ruaj ntseg ntawm AI cov khoom xa tuaj yog dab tsi?
Kev ruaj ntseg ntawm cov khoom siv AI yog kev coj ua ntawm kev tiv thaiv cov khoom siv software tiv thaiv kev pheej hmoo uas tau tsim los yog nthuav dav los ntawm kev txawj ntse cuav, thiab kev siv AI los tiv thaiv tib cov khoom siv ntawd. Nws nyob ntawm qhov kev sib tshuam ntawm ob qho kev hloov pauv uas feem ntau cov kev pab cuam kev ruaj ntseg tseem kho sib cais: AI-generated code nkag mus rau hauv codebase, thiab AI-powered tawm tsam tsom mus rau qhov kev vam khom, tsim pipelines, thiab cov cuab yeej tsim tawm uas nyob ib puag ncig nws.
Kev ruaj ntseg ntawm daim ntawv thov ib txwm nug seb puas muaj qhov tsis zoo uas paub tias muaj nyob hauv ib feem uas paub. Kev ruaj ntseg ntawm AI cov khoom siv nug cov lus nug nyuaj dua, sai dua: Qhov kev vam khom no puas yog tus neeg sawv cev AI nyuam qhuav teeb tsa tiag tiag, lossis nws puas yog qhov pom tsis tseeb? Puas yog pob khoom tshiab no ua phem, txawm tias tsis muaj kos npe rau nws tseem? Cov qauv AI, cov neeg sawv cev, thiab kev sib txuas twg khiav hla lub voj voog kev tsim kho software, thiab lawv tuaj yeem ncav cuag dab tsi?
Teb cov lus nug ntawm tus lej ceev tiag tiag yog qhov kev qhuab qhia tag nrho.
Yuav ua li cas AI thiaj li dhau los ua qhov chaw tawm tsam ntawm cov khoom xa tuaj
Cov neeg tawm tsam tau tso tseg kev sim nrog AI ib ntus dhau los. Tam sim no lawv tsim nws rau hauv kev ua haujlwm uas tsom mus rau cov lej thiab nws cov kev vam khom ncaj qha, tsis yog tsuas yog cov inboxes thiab login nplooj ntawv.
Slopsquatting: riam phom uas AI tsim tawm
Cov txheej txheem muaj lub npe tam sim no: kev ua si slopsquatting, tau tsim los rau lub Plaub Hlis 2025 los ntawm Seth Larson, tus tsim kev ruaj ntseg nyob hauv Python Software Foundation. Cov txheej txheem yooj yim thiab phem heev. Cov neeg pab cuam coding AI feem ntau qhia cov npe pob khoom uas tsis muaj. Vim tias cov kev xav tsis thoob ntawd rov ua dua, tus neeg tawm tsam tuaj yeem sau npe lub npe tsim ua pob khoom tiag tiag, phem thiab tos tus tsim tawm tom ntej (lossis tus neeg sawv cev tom ntej) los nruab nws.
Qhov ua piv txwv twb tau sau tseg lawm. Xyoo 2023, tus kws tshawb fawb txog kev ruaj ntseg Bar Lanyado luam tawm ib pob khoom khoob uas muaj lub npe uas cov qauv feem ntau pom kev tsis meej pem, huggingface-cliHauv peb lub hlis nws tau raug rub tawm ntau dua 30,000 zaug, thiab cov lus txib hallucinated install txawm tshwm sim hauv README repository pej xeem los ntawm lub tuam txhab thev naus laus zis loj. Qhov ntawd yog qhov kev sim zoo. Tib phau ntawv ua si nrog lub payload tiag tiag tam sim no yog tus qauv lag luam rov ua dua rau cov neeg tawm tsam.
Cov neeg sawv cev sau code uas tsis siv neeg ua rau qhov no hnyav dua los ntawm kev tshem tawm qhov chaw kuaj xyuas tib neeg kawg. Tus neeg sawv cev uas teeb tsa cov kev vam khom yam tsis tau tshuaj xyuas tshem tawm lub sijhawm uas tus tsim tawm yuav pom tias pob khoom zoo li tsis raug.
Cov pob khoom phem ntawm qhov ntsuas kev lag luam
Slopsquatting yog ib qho tswv yim hauv kev hloov pauv loj dua. Xyoo 2025, Cov phiaj xwm phem uas muaj ntau ntim tau los ua tus qauv ua haujlwm tseem ceeb rau kev tawm tsam cov khoom xa tuaj, raws li Xygeni's Cov Qauv Tshiab ntawm AppSec Attack rau xyoo 2026 cov ntaub ntawv. Cov neeg tawm tsam tau siv kev lag luam spam: tshaj tawm cov pob khoom phem los ntawm txhiab, lees txais kev tshem tawm sai, thiab vam khom qhov muaj feem ntau dua li kev ua siab ntev. Cov ntawv sau npe pej xeem tam sim no xa ntau pua txhiab tus pob khoom phem tshiab hauv ib xyoos, thiab txawm tias lub sijhawm luv luv los ua rau cov khoom tsim tawm hauv qab.
MCP: ib txheej kev sib txuas tshiab, feem ntau tsis muaj kev ruaj ntseg
Tus Qauv Txheej Txheem (MCP) cia cov neeg sawv cev AI txuas rau cov cuab yeej thiab cov ntaub ntawv. Nws kuj tsim ib qho chaw tawm tsam tshiab uas feem ntau cov scanners yeej tsis tshuaj xyuas. Ib lub server MCP phem tuaj yeem zaum tsis pom ntawm ib sab ntawm cov raug cai, uas txhua tus neeg sawv cev uas muaj kev nkag mus tau. OWASP tau tshaj tawm MCP Top 10 hauv xyoo 2025 los teev cov kev pheej hmoo no, txij li kev txhaj tshuaj sai sai thiab kev lom cov cuab yeej mus txog rau cov servers tsis tau lees paub uas txhua tus neeg sawv cev ntawm lub network tuaj yeem ncav cuag.
Cov lus zais tawm los ntawm AI-generated code
Cov ntaub ntawv pov thawj raug cuam tshuam tau nce txog li 160% hauv xyoo 2025 piv rau xyoo 2024, raws li Check Point External Risk Management (yav tas los Cyberint), tsav ib feem los ntawm AI-enhanced phishing thiab infostealer malware. Hauv cov chaw software, uas maps ncaj qha mus rau hardcoded keys thiab tokens hauv AI-generated code. Ib tug coding assistant uas tau noj ib .env cov ntaub ntawv rau hauv nws cov ntsiab lus tuaj yeem rov ua dua qhov zais cia hauv cov lus qhia, thiab cov neeg tawm tsam luam theej duab rau qhov qauv ntawd.
Qhov kev ntsuas tib neeg tseem tsis tau ploj mus. IBM Daim Ntawv Qhia Txog Tus Nqi ntawm Kev Ua Txhaum Cai Cov Ntaub Ntawv Xyoo 2025 pom tias ntawm cov kev ua txhaum cai uas muaj AI, 37% siv AI-generated phishing thiab 35% siv deepfake impersonation, cov txheej txheem uas tsom mus rau cov neeg tsim khoom los ntawm kev nrhiav neeg ua haujlwm cuav thiab cov nyiaj tswj hwm cuav.
Yuav ua li cas AI tiv thaiv cov saw hlau xa khoom
Cov peev xwm ua rau AI txaus ntshai yog qhov ua rau nws muaj txiaj ntsig zoo rau cov neeg tiv thaiv. Hauv cov saw hlau xa khoom, qhov kev pauv pauv ntawd yog qhov tseeb tshaj plaws hauv plaub qhov chaw.
Kev kuaj pom Malware ua ntej kos npe
Qhov no yog lub peev xwm txhais tau. Kev luam theej ib txwm tos kom paub tias muaj kos npe tsis zoo ua ntej nws tuaj yeem cim ib pob khoom, uas yog qhov qeeb dhau rau kev tawm tsam uas khaws ntau txhiab tus rub tawm hauv ob peb teev tom qab luam tawm. Kev tshawb nrhiav raws li tus cwj pwm hloov chaw tau qhab nia ib pob khoom tshiab luam tawm thaum nws tshwm sim: nws cov haujlwm teeb tsa lub sijhawm, kev hu xov tooj hauv network, cov qauv tsis meej, thiab cov metadata anomalies. Qhov ntawd kaw lub qhov rais slopsquatting thiab typosquatting campaigns nyob ntawm. Cov phiaj xwm Shai-Hulud thiab GlassWorm npm lig-2025, uas cov neeg tshawb nrhiav raws li kos npe tsis nco qab tag nrho, yog precisely qhov kev tshuaj xyuas tus cwj pwm ntawm rooj plaub yog tsim los ntes.
Kev muab qhov tseem ceeb los ntawm kev siv tsis tau, tsis yog qhov ntim
Qhov kev pab cuam zoo tshaj plaws ntawm AI rau AppSec niaj hnub no tsis yog nrhiav ntau yam teeb meem ntxiv; nws yog txiav cov suab nrov ntawm yam uas twb pom lawm. Kev tshuaj xyuas qhov ncav cuag tau txiav txim siab seb txoj kev code tsis muaj zog puas tau ua tiav. Kev ntsuas qhov siv tau hnyav cov ntaub ntawv tawm tsam hauv ntiaj teb tiag tiag piv rau tus lej CVSS raw. Ua ke lawv cia cov pab pawg tsom mus rau feem pua ntawm cov kev tshawb pom uas sawv cev rau qhov kev pheej hmoo tiag tiag, siv tau es tsis txhob triaging ntau txhiab tus ceeb toom qis los ntawm tes.
Kev kuaj pom qhov tsis zoo ntawm lub cev pipeline theem
In Darktrace qhov kev tshawb fawb txog Lub Xeev ntawm AI Cybersecurity 2026, cov thawj coj kev ruaj ntseg tau hais tias kev tshawb pom kev hem thawj thiab kev pom qhov tsis zoo (72%) yog thaj chaw uas AI xa cov txiaj ntsig tshaj plaws, ua ntej kev teb tsis siv neeg (48%) thiab kev tswj hwm qhov tsis muaj zog (47%). Siv rau CI/CD, qhov no txhais tau tias cim ib tsab ntawv teeb tsa uas ua tsis zoo li txhua yam uas tau pom ua ntej hauv qhov ntawd pipeline, lossis kev hloov kho tshiab uas ua rau muaj kev hu xov tooj hauv network uas tsis tau xav txog.
Kev kho kom rov zoo tsis siv neeg, uas tuaj yeem tshuaj xyuas tau
Dhau ntawm kev nrhiav thiab qeb duas kev pheej hmoo, AI tam sim no tsim cov kev kho: kev nyab xeeb, kev hloov pauv tshwj xeeb rau cov lej xa tawm ua ib qho pull request es tsis yog daim pib uas lwj hauv ib qho backlog. IBM pom tias cov koom haum siv AI thiab automation dav dav thoob plaws kev ua haujlwm kev ruaj ntseg txiav lawv lub neej tag nrho ntawm kev ua txhaum cai mus rau 204 hnub, piv rau 284 rau cov uas tsis ua (kwv yees li 80 hnub sai dua), thaum txuag tau qhov nruab nrab ntawm $ 1.9 lab rau ib qho kev ua txhaum cai. Kev kuaj pom qhov kev pheej hmoo yam tsis kaw nws tsuas yog tsiv cov backlog; kev sib txuas AI triage nrog AI-generated kho kaw lub voj voog.
Qhov sib txawv ntawm kev tswj hwm feem ntau cov pab pawg tsis tau kaw
Nov yog qhov tsis xis nyob. Darktrace daim ntawv ntsuam xyuas xyoo 2026 pom tias 77% ntawm cov koom haum tam sim no khiav cov AI tsim tawm hauv lawv cov txheej txheem kev ruaj ntseg, tab sis tsuas yog 37% muaj txoj cai raug cai rau kev siv AI kom muaj kev nyab xeeb. Tus lej ntawd tau poob qis los ntawm 45% xyoo dhau los. Kev saws txais yuav yog qhov kev tswj hwm ntau dua, thiab cov neeg tawm tsam tab tom siv qhov sib txawv.
Rau cov pab pawg software, nws tshwm sim meej: AI coding assistants, agents, thiab MCP kev sib txuas twb khiav thoob plaws SDLC, feem ntau tsis muaj kev pom tseeb hauv nruab nrab rau yam lawv nkag mus lossis yam lawv tau qhia. Feem ntau cov koom haum tuaj yeem sau npe rau lawv cov neeg muab kev pabcuam huab. Muaj ob peb tug neeg tuaj yeem sau npe txhua tus qauv AI, tus neeg sawv cev, thiab MCP server uas tuaj yeem ncav cuag tau los ntawm lub tshuab tsim tawm. Cov khoom muag ntawd, daim ntawv teev cov khoom siv AI (AI-BOM), yog lub hauv paus ntawm kev ruaj ntseg ntawm AI cov khoom siv seem. Koj tsis tuaj yeem ruaj ntseg yam koj tsis tau sau npe.
Cov pab pawg AppSec yuav tsum ua dab tsi tam sim no
cov kev ua txhaum cai ntaub ntawv nruab nrab tus nqi $ 4.44 lab hauv xyoo 2025 (IBM), thiab cov khoom xa tuaj yog ib qho ntawm cov ntsiab lus nkag. Cov lus teb ua tau zoo tsis yog "txais yuav AI" hauv cov ntsiab lus luv luv. Nws yog daim ntawv teev luv luv, cov npe meej:
- Tshawb xyuas seb AI ua haujlwm dab tsi hauv koj lub SDLC. Cov qauv, cov neeg sawv cev, MCP servers, thiab cov cuab yeej AI coding yog cov khoom muaj nqis. Tsim AI-BOM ua ntej.
- Kho cov lej uas AI tsim tawm zoo li cov lej uas tib neeg sau. Cov code uas compiles tsis yog cia li muaj kev nyab xeeb, thiab nws cov dependencies tsim nyog tau txais kev tshuaj xyuas zoo ib yam li lwm yam.
- Nrhiav malware los ntawm tus cwj pwm, tsis yog kos npe. Kev luam theej raws li kos npe qeeb dhau rau cov phiaj xwm pob khoom uas muaj ntau thiab luv luv.
- Muab qhov tseem ceeb los ntawm kev siv tsis tau, tsis yog qhov ceeb toom. Tus nqi tiv thaiv ntawm AI yog cais kev pheej hmoo tiag tiag tawm ntawm suab nrov, tsis yog tsim ntau ntxiv.
- Ua kom kev kho mob tsis siv neeg, tsis yog tsuas yog nrhiav pom xwb. Kev kuaj pom yam tsis muaj kev kho tsuas yog tsiv cov backlog mus rau lwm qhov xwb.
Qhov twg AI kev ruaj ntseg ntawm cov khoom xa tuaj
Ob tug qauv yuav txhais tau ob peb xyoos tom ntej no. Ua ntej, kev tawm tsam tab tom kwv yees tau ntawm qhov loj dua li tsis yog random: slopsquatting ua haujlwm ua ntejcisvim tias AI hallucinations yog sib xws, uas txhais tau tias kev tiv thaiv yuav tsum hloov ntawm ib zaug kos npe mus rau kev paub txog tus qauv uas sib npaug. Qhov thib ob, kev tiv thaiv yog hloov ntawm "ceeb toom ib tug neeg" mus rau "txheeb xyuas, qhab nia, thiab teb ua ntej daim pib muaj." Cov koom haum tau txais av yog cov uas ntes tau tus cwj pwm ntawm pob khoom phem thaum lub sijhawm tshaj tawm, tsis tos kom CVE sau.
AI yog koj qhov kev pheej hmoo tshiab thiab koj qhov kev tiv thaiv zoo tshaj plaws, feem ntau nyob rau hauv tib lub kaw lus
AI rub mus rau ob qho tib si. Nws muab cov cuab yeej siv tau yooj yim thiab ua tau ntau yam rau cov neeg tawm tsam, thiab nws muab lub peev xwm los ntes thiab teb rau qhov ntsuas uas kev tshuaj xyuas tes ua tsis tau. Qhov ob yam no yog vim li cas kev ruaj ntseg ntawm AI tsis tuaj yeem raug suav tias yog kev xav tom qab lossis txwv tsis pub ua.
Qhov no yog qhov sib txawv Xygeni tau tsim los kaw. Kev Ceeb Toom Thaum Ntxov Txog Malware (MEW) saib xyuas cov ntaub ntawv sau npe rau pej xeem thiab ntiag tug tas li thiab nrhiav pom cov pob khoom phem thaum lawv luam tawm, ua ntej muaj cov kos npe, siv cov lus txiav txim siab AI uas tau lees paub los ntawm pab pawg neeg tshawb fawb tib neeg. Xygeni Shield muab qhov kev txawj ntse ntawd los ua haujlwm ntawm qhov kawg ntawm tus tsim tawm: nws thaiv cov pob khoom phem thaum lub sijhawm teeb tsa ua ntej lawv cov ntawv sau khiav, thiab sau cov cuab yeej AI, cov neeg sawv cev, thiab MCP servers ntawm txhua lub tshuab. Ua ke lawv tau tsim los rau cov kev hem thawj uas tsab xov xwm no piav qhia: slopsquatting, typosquatting, kev tsis meej pem ntawm kev vam khom, thiab kev sib haum xeeb ntawm tus tswj, suav nrog Shai-Hulud thiab GlassWorm tawm tsam cov chav kawm kos npe-raws li cov cuab yeej tsis tau pom. Ua ke nrog kev txiav txim siab raws li kev ncav cuag tau, AI-BOM thoob plaws koj SDLC, thiab kev kho qhov kev thov rub tawm tsis siv neeg, cov lej tsim los ntawm AI thiab Kev tawm tsam los ntawm AI tau txais tib qho kev tshuaj xyuas, yam tsis muaj kev qeeb ntawm cov neeg tsim khoom.
Pib dawb. Xygeni txoj kev npaj tsim tawm yog € 0: 10 qhov chaw khaws ntaub ntawv, 200 scans ib hlis, txog li 5 tus neeg pab txhawb nqa, tsis muaj daim npav rho nyiaj. Sign up with GitHub, GitLab, lossis Google thiab khiav koj thawj zaug scan hauv qab 10 feeb; Shield Kev tiv thaiv qhov kawg yuav los rau hauv txoj kev npaj tsim tawm sai sai no.
FAQ
Kev ruaj ntseg ntawm AI cov khoom xa tuaj yog dab tsi?
Kev ruaj ntseg ntawm cov khoom siv AI tiv thaiv cov khoom siv software tiv thaiv cov kev pheej hmoo uas AI qhia lossis ua rau loj zuj zus, xws li kev vam khom uas tsis pom tseeb, cov lej uas AI tsim muaj qhov tsis muaj zog, thiab kev sib txuas MCP phem, thaum tseem siv AI los tiv thaiv nws los ntawm kev tshawb pom malware raws li tus cwj pwm, kev txiav txim siab qhov tseem ceeb ntawm kev siv tsis raug, thiab kev kho kom rov zoo.
AI siv li cas los tiv thaiv cov khoom siv software?
AI ua rau muaj kev tiv thaiv uas cov cuab yeej kos npe tsis tuaj yeem phim: ntsuas tus cwj pwm ntawm pob khoom tshiab tshaj tawm thaum nws tshwm sim, txiav txim siab seb txoj kev code tsis muaj zog puas tuaj yeem ncav cuag tau, cim qhia qhov tsis zoo. pipeline kev ua ub no, thiab tsim cov kev kho tshwj xeeb rau cov qauv raws li pull requests es tsis yog daim pib rov qab.
Vim li cas cov tshuab luam theej ib txwm tsis tuaj yeem ntes tau kev tawm tsam los ntawm AI?
Cov cuab yeej ib txwm siv cov kos npe uas paub thiab cov CVE uas tau tshaj tawm, yog li lawv tsuas yog cim ib pob khoom tom qab nws twb tau txheeb xyuas tias yog qhov phem lawm. Cov phiaj xwm pob khoom uas muaj ntau thiab luv luv tau rub tawm hauv ob peb teev tom qab tshaj tawm (ua ntej kos npe muaj), yog vim li cas thiaj li yuav tsum tau kuaj xyuas ua ntej kos npe raws li tus cwj pwm.
AI-BOM yog dab tsi thiab vim li cas nws thiaj tseem ceeb?
Daim Ntawv Qhia Txog Cov Khoom Siv AI (AI-BOM) yog daim ntawv teev cov qauv AI, tus neeg sawv cev, thiab kev sib txuas MCP uas khiav thoob plaws lub voj voog tsim kho software. Nws tseem ceeb vim tias koj tsis tuaj yeem ruaj ntseg yam koj tsis tau teev cia, thiab feem ntau cov koom haum tsis muaj kev pom tseeb hauv AI uas tuaj yeem ncav cuag tau los ntawm lub tshuab ntawm tus tsim tawm.
