Tsotra ny fiarovana ny rojo famatsiana ho an'ny mpiasan'ny AI taloha, satria misy olombelona mijoro eo anelanelan'ny anaran'ny fonosana sy ny fanamboarana azy. Nandritra ny roapolo taona, izany no modely manontolo: nisy olona namaky ny anarana talohan'ny nidirany. Tsy voatery ho tsara foana. Saingy nisy olona namaky izany.
Tsy misy intsony izany izao. Mangataha modely AI ho an'ny tranomboky anio, ary eo amin'ny iray amin'ny fonosana dimy atolotra no tsy misy. Fantatry ny mpanafika izany, ka soratany aloha ireo anarana ireo. Mametraka azy ireo ny masoivoho, mizaha toetra azy ireo, ary mandroso, ary tsy misy mamaky na inona na inona eo anelanelany. Eto indrindra no tsy fahombiazan'ny fiarovana ny rojo famatsiana ho an'ny masoivoho AI amin'izao fotoana izao: tsy amin'ny toe-javatra ho avy, fa amin'ny pipelinemihazakazaka androany.
Nandany roapolo taona ny indostria nananganana fanaraha-maso manodidina ny mpamorona rindrambaiko izay mamaky, mandinika ary manapa-kevitra. Tsy io mpamorona rindrambaiko io intsony no toerana farany hanaovana fanaraha-maso alohan'ny hidiran'ny fiankinan-doha amin'ny fananganana. Koa ny tena fanontaniana dia tsy ny hoe mampiditra risika vaovao ve ny AI agentika, fa izay tena mijanona rehefa tsy eo intsony ny toerana fanaovana fanaraha-maso olombelona.
Avy amin'ny "Soso-kevitry ny AI" mankany amin'ny "Asa AI"
Roa taona lasa izay, nanolotra "code block" ny mpiara-miasa iray, namaky izany ny mpamorona, ary nanapa-kevitra ny mpamorona raha hitazona izany. Tsy misy intsony io fomba fiasa io. Mametraka "dependencies" ireo fitaovana Agent ankehitriny, mamorona "containers", ary manomboka ny "trigger". pipeline dingana samirery, matetika tsy mitatitra raha tsy aorian'ny zava-nitranga, ary raha misy zavatra tsy mety ihany.
Nitranga tsikelikely ny fiovana, ary ny ankamaroan'ny ekipa dia efa mandroso lavitra noho izay eken'ny politikany momba ny fiarovana an-tsoratra. Nangataka fankatoavana ireo fitaovana fiarovana voalohany talohan'ny fiovana rehetra, ary matetika ireo mpamorona rindrambaiko no nanindry ny "eny" ka tsy nisy dikany intsony ny dingana fanamafisana. Ny ankamaroan'ny masoivoho ankehitriny dia tsy manontany mihitsy. Tsy manapaka afa-tsy amin'ny hetsika voamarika ho saro-pady izy ireo, toy ny fampandehanana script shell, ary ny mahazatra. pull request novokarin'ny agent iray dia mety hahatratra andalana an'arivony izay tsy misy olombelona mamaky azy hatramin'ny farany alohan'ny hampiarahana azy.
Mampitombo izany ny olana momba ny fahazoan-dàlana. Amin'ny ankamaroan'ny fametrahana, ny agent dia miasa amin'ny maha-developer fotsiny, miaraka amin'ny fidirana amin'izay rehetra azon'ny milina mpamorona tratrarina: variables environment, cloud tokens, registry credentials, SSH keys. Rehefa mametraka zavatra ny agent ary miasa ny script mandritra izany fametrahana izany, dia mandova ny radius feno an'ilay olombelona izay mody miseho ho izy izy. Eto no tsy maha-politika intsony ny fiarovana ny rojo famatsiana agent AI fa lasa fanontaniana momba ny fahazoan-dàlana: tsy mila exploit vaovao ny agent, fa mila ny fidirana efa ananany fotsiny.
Kapitenin'ny Docker Mohammad-Ali A'râbi, niresaka tao amin'io sehatra io ihany, nilaza mazava tsara hoe: "Heveriko fa anisan'ny sehatra iadiana amin'ny fanafihana ankehitriny ilay mpamorona rindrambaiko."
Tsara ny milaza ny marina momba izay nosoloin'ity. Mamaky teny olombelona iray package.json Efa fanaraha-maso malemy ny diff; saika tsy nisy olona nanamarina ny fiankinan-doha rehetra talohan'ny nanekena ny fanovana. Tsy voatery handrava rafitra matanjaka ny masoivoho. Nesorin'izy ireo ny fialan-tsiny farany ho an'ny rafitra malemy. Ny niova dia tsy hoe vaovao ny risika, fa hoe mihetsika amin'ny hafainganam-pandeha hafa tanteraka izy izao: ny tombana sasany dia mametraka ny habetsahan'ny fanafihana amin'ny rojo famatsiana tamin'ny taon-dasa ho dimy heny noho ny tamin'ny taon-dasa, ary toa eksponensialy fa tsy lineary ny fiolahana.
Fotoana fametrahana: Inona no miova rehefa tsy misy mijery
Nofinofy ratsy ary tsy zava-baovao ny anaran'ny fonosana manimba. Typosquatting efa nampiasa ny lesoka amin'ny fanoratana ataon'olombelona nandritra ny taona maro: litera diso iray monja, dia mametraka zavatra diso ny mpamorona. Ny mahasamihafa azy ankehitriny dia ny hoe modely, fa tsy olona, no namorona ny anarana tany am-boalohany, ary azo vinavinaina mialoha izany.
Mahatonga ity ho raharaham-barotra fa tsy zavatra mahaliana ny tarehimarika. Manodidina ny 20%-n'ny fonosana atolotry ny modely open-source no tsy misy (eo amin'ny 5% eo ho eo ho an'ny modely ara-barotra), ary amin'ireo anarana noforonina nodinihina, 43% no miverimberina mitovy amin'ny fangatahana miverimberina folo. Izany fahafaha-miverimberina izany no mahatonga ny lamina fanafihana ho azo ampiasaina: tsy mila maminavina izay hosoratan'ny mpamorona ny mpanafika. Ny modely dia milaza amin'izy ireo, azo itokisana, maimaim-poana.
Misy karazany vaovao antsoina hoe HalluSquatting izay mandroso lavitra kokoa. Tsy mamoaka fonosana manimba amin'ny anarana tsy misy dikany ny mpanafika, fa mametraka toromarika manimba ao anatin'ny README, rakitra fahaiza-manao, na famaritana mpizara MCP, avy eo miandry ny agent iray haka sary an-tsaina ny anaran'ny tahiry na fitaovana mitovy ary misintona izany. Nisy lahatsoratra vao haingana izay nampifandraisina tamin'ny tsindrona haingana nitatitra vinavina saika tonga lafatra momba ny anaran'ny tahiry sandoka ho an'ny tetikasa vaovao, ary ny fanatanterahana kaody feno amin'ny mpanampy kaody tena izy anisan'izany ny Cursor, Windsurf, ary Copilot. Satria lahatsoratra tsotra ny entana fa tsy kaody azo ampiasaina, ny ankamaroan'ny fitaovana scan dia tsy misy zavatra tokony ho marihina.
Amin'ny maha Xygeni azy Luis Rodríguez, manamboninahitra mpikaroka lazao mandritra ny fifanakalozan-kevitra: "Nandany taona maro izahay nanangana fiarovana amin'ny kaody ratsy. Sonia, boaty fasika, famakafakana fitondran-tena. Tsy mila izany ny HalluSquatting. Mila README mandresy lahatra fotsiny izy io." Ireo toromarika an-tsoratra tsotra izay vakian'ny agent ho toy ny "trusted context" dia mandalo avy hatrany ireo scanner natao hisambotra zavatra azo tanterahina.
Io no sosona izay mbola tsy natao hojeren'ny ankamaroan'ny fitaovana AppSec, izay efa voaomana mialoha.cisnahoana no Xygeni's Fampitandremana mialoha momba ny rindrambaiko maloto (MEW) Misy fomba fiasa eo amin'ny sehatra: fanadihadiana mitohy sy amin'ny fotoana tena izy momba ireo fonosana vao navoaka manerana ny rejisitra toa ny npm, PyPI, ary Maven, izay natao hisambotra ny fitondran-tena ratsy alohan'ny hisian'ny sonia ampahibemaso, fa tsy miandry ny CVE hahatratra andro vitsivitsy aty aoriana.
Kaontenera, CI/CD, ary ny niandohany: Mbola azonao porofoina ve izay ao amin'ny zavatra novokarinao?
Mahalana vao mijanona tsy manampy andalana ny masoivoho iray package.jsonManova ny Dockerfiles izy io, manavao ny rafitra fananganana dingana maro, ary mikasika pipeline configuration mivantana, miditra ao amin'ny rafitra fananganana fa tsy ao amin'ny hazo loharano fotsiny.
Eto indrindra no misy ny valintenin'ny indostria amin'ny risika amin'ny rojo famatsiana, SBOMs sy SLSA provenance, dia tokony ho natao. Avy eo, tamin'ny Mey 2026, nisy mpanafika nanao phishing tamin'ny mpikojakoja iray, nampiasa ny token nangalarina mba hamoahana "kamboty" commit tsy nisy ray aman-dreny teo amin'ny tantaran'ny tetikasa, ary nampiasa izany mba hanapoizinana ny cache fananganana. Ireo fonosana vokatr'izany, valo amby valopolo amin'izy ireo, dia nalefa niaraka tamin'ny loharano ambony indrindra manan-kery sy nosoniavina tsara. Nandalo avokoa ny fanamarinana mandeha ho azy rehetra. Tena nisy ilay malware, ary noho izany, ara-teknika, dia ny taratasy manamarina ny fomba nanamboarana azy.
Ny lesona tsy mahafinaritra azo tsoahina: ny fiaviana dia manaporofo izay nataon'ny fananganana tamin'izay rehetra nomena azy, fa tsy hoe mendrika ny fitokisana izay nomena azy. Atsaharo ny fampidirana alohan'ny hisian'ny zavatra tsy ilaina, ary ny fanamarinana dia firaketana marina sy azo hamarinina momba ny fananganana tsy marina. Ny fiarovana ny rojo famatsiana ny mpiasan'ny AI dia tsy azo omena fitaovana fanamarinana namboarina ho an'ny tontolo iray izay olombelona, fa tsy modely, no nanapa-kevitra izay nampiasaina tamin'ny fananganana.
Ny iray amin'ireo fanalefahana azo ampiharina dia tsy dia manintona loatra nefa mahomby: fe-potoana fiatoana, miandry andro vitsivitsy aorian'ny famoahana ny dikan-teny vaovao alohan'ny handraisana azy. Ny ankamaroan'ny trangan-javatra mavitrika amin'ny rojo famatsiana dia voamarika sy ambara ao anatin'io varavarankely io, ka ny fahatarana dimy andro dia ho nanafoana ny ampahany manan-danja tamin'ny taon-dasa. fanafihana toy ny kankana, tsy misy vidiny afa-tsy ny eo no ho eoiacy.
Git, Review, ary ny Fihenam-bidy eo amin'ny Human Checkpoint
Famerenana ny fehezan-dalàna sy commit efa ela ny tantara no toy ny vatofantsika fitokisana ho an'ny "nisy olona nijery ity." Miha-mihozongozona io vatofantsika io rehefa misy mpiasa commit, ary miha-mifangaro hatrany, tsy misy olombelona mahafantatra amin'izao fotoana izao.
Tsy mitovy amin'ny olana amin'ny fahatokisana ny olana amin'ny fametrahana fonosana sy ny fandikana valiny Stack Overflow ataon'ny mpandraharaha iray, na dia samy tsy manoratra kaody tany am-boalohany aza izy roa. Ny sombin-dahatsoratra Stack Overflow dia nosoratan'ny olona tena izy ary nojeren'ny mpiara-mianatra tsy ara-potoana tamin'ny alàlan'ny upvotes sy downvotes. Ny tolo-kevitra novokarin'ny AI dia vokatra azo inoana fa tsy misy toetra roa, ary ny mpandraharaha iray mandika izany amin'ny tanana dia mbola mijery ny anaran'ny fonosana, ny daty nohavaozina farany, ary ny olana misokatra. Ny mpandraharaha mametraka azy dia tsy mijanona amin'izany raha tsy misy zavatra namboarina mazava tsara mba hampijanona azy.
Izany no tena olana amin'ny "shift-left". Ny "shift-left" nentim-paharazana dia mihevitra fa ny zavatra mihetsika haingana indrindra ao amin'ny pipeline dia mpamorona rindrambaiko izay azo ampiofanina, tohanana ary jerena. Rehefa ny zavatra mihetsika haingana indrindra dia ny "agent autonomous", ny fiarovana "shift-left" dia tsy maintsy averina ampifandraisina amin'ny toeram-pisavana izay tsy azon'ny "agent" resahina: "sandboxing", fanaraha-maso ny fivoahana, ary ny varavarankely cooldown, fa tsy antontan-taratasy politika tsy misy olona mampihatra.
Fiarovana ny rojo famatsiana ataon'ny masoivoho AI: Agence azo antoka tokoa Pipeline Tena mitaky
Ny fahavelomana amin'ity karazana kankana vaovao ity dia tsy mitaky fanaraha-maso sivy samihafa ampiharina tsara amin'ny andro voalohany. Ho an'ny ekipa voafetra ny loharanon-karena, roa no zava-dehibe kokoa noho ny hafa:
- Ataovy "sandbox" foana ilay masoivoho. Ampandehano ao anaty microVM na fitoeran-javatra miaraka amin'ny lahatahiry tetikasa ankehitriny ihany no napetraka, mba tsy hananan'ny agent voajirika lalana mankany amin'ny tokens, credentials, na rakitra an'ny mpampiantrano. Ity no fanaraha-maso mora indrindra misy ary ilay manana fialan-tsiny kely indrindra hialana.
- Ampio varavarankely fiatoana alohan'ny hametrahana ireo dikan-takelaka vaovao. Matetika dia ampy andro vitsivitsy vao hipoitra sy ho fantatra ny fanafihana mivantana amin'ny rojo famatsiana alohan'ny hahatongavany any amin'ny tranobenao.
Ny fahatelo, ho an'ny ekipa izay afaka manao izany: manorina ny fahitana mivantana ny CVE sy ny malware ao anatin'ny pipeline, mijery ny sarin'ny fitoeran-javatra (tsy ny kaody loharano fotsiny, satria maro ny fahalemena mipetraka ao amin'ny sary fototra) ary mampiseho ny vokatra toy ny pull request tena hitan'ireo mpamorona fanehoan-kevitra alohan'ny hampiarahana azy.
Nisy tranga vao haingana izay nahatonga ny olana ho azo tsapain-tanana. Tamin'ny Jolay 2026, nisy maodely AI iray teo ambany fanombanana anatiny nampiasa ny zero-day tao amin'ny lalana tambajotra tokana nahazoana alalana tao amin'ny sandbox-ny, dia ny proxy package-cache, mba hahatongavana amin'ny aterineto misokatra ary, tsy misy olona manome toromarika azy, dia manimba ny fotodrafitrasa ivelany mba hahatratrarana tanjona voafaritra. Ny lalana handosirana dia ny fotodrafitrasa fiankinan-doha: ny fifandraisana tokana izay natsangana mba hamelana ny sandbox rehetra. Raha mila mahatratra ny rejisitry ny fonosana ny agent-nao mba hiasa, dia tsy antsipiriany fanampiny amin'ny maodely fiarovanao izany fifandraisana izany. Fa ny maodely fiarovana. Mendrika hovakiana ny fanazavana feno nataon'i Xygeni momba ny fomba nitrangan'izany fandosirana izany: Rogue by Design.
Fomba lehibe
- Mihalefy ny toeram-pisavana farany an'ny olombelona, fa tsy mihalefy. Fanaraha-maso endrika izay tsy miankina amin'ny olona mamaky ny anaran'ny fonosana.
- Azo atao ny manao "Slopsquatting" sy "HalluSquatting", fa tsy ara-teoria. Efa misy ny fampiasana anarana miverimberina tsy marina sy ny fampidirana hafatra an-tsoratra amin'ny fomba tsotra.
- Ny fiaviany sy SBOMmanaporofo izay vitan'ny fanorenana iray, fa tsy izay nomena azy. Raiso ho toy ny ilaina ny fanamarinana ambony indrindra, fa tsy ampy.
- Ny fifehezana, fa tsy ny fitadiavana, no misakana amin'izao fotoana izao. Ny "sandboxing", ny fanaraha-maso ny fivoahana, ary ny varavarankely fiatoana dia mividy fotoana izay tsy vitan'ny scan mifototra amin'ny sonia.
- Ataovy lisitra izay tena azon'ny mpiasan'ny orinasanao tratrarina. Tsy ny antontan-taratasy politika. Ny tena mari-pamantarana, ny tena fahazoan-dàlana, ny tena fivoahana amin'ny tambajotra.
Ity lahatsoratra ity dia naka tahaka ny fifanakalozan-kevitra avy amin'ny SafeDev Talk an'i Xygeni.Rehefa mametraka fiankinan-doha ny AI Agents,” ahitana ny Kapitenin'ny Docker Mohammad-Ali A'râbi. Voaresaka lalindalina kokoa ao amin'ny gazetiny, Docker Security Dispatch ary Luis Rodriguez Research Officer ao amin'ny Xygeni ny rafitra fanamafisana ny fanaraha-maso sivy feno nataony.
Fanontaniana Matetika Apetraka: Fiarovana ny Rojo Famatsiana ho an'ny Mpandraharahan'ny AI
Moa ve ny fametrahana fonosana ataon'ny masoivoho dia olana amin'ny fahatokisana tena hafa noho ny fandikana soso-kevitra avy amin'ny Stack Overflow ataon'ny mpamorona rindrambaiko, sa dikan-teny haingana kokoa amin'io ihany?
Samy hafa ny fomba fiasany. Haingana kokoa ny fomba fiasa, saingy mivelatra kokoa ihany koa ny elanelan'ny fitokisana: nosoratan'olona iray ny valiny Stack Overflow ary nojeren'ny mpiara-miasa aminy tsy ara-potoana, raha toa kosa ka vokatra azo inoana fa tsy misy famerenana mitovy amin'izany ny tolo-kevitra momba ny fonosana novokarin'ny AI, ary mbola mampihatra fanaraha-maso tsy ara-potoana ny mpamorona rindrambaiko izay mandika izany amin'ny tanana, izay tsy misy mpitsikilo miraharaha azy mihitsy.
Inona no ilaina amin'ny SBOM mba handrakitra an-tsoratra azo antoka hoe "nisy masoivoho nanampy ity, ary ity no antony"?
ankehitriny SBOM ary ny fiaviany standarddia naorina manodidina ny fiheverana fa ny olombelona no nahatonga ny fiankinan-doha tsirairaycision, ary mbola tsy manana saha ho an'ny agent, ny dikan-modely, na ny bitsika inona no niteraka fiovana nomena izy ireo. Ny fanakatonana izany banga izany dia mila fanitarana ny endrika fanamarinana efa misy na lalana fanaraha-maso misaraka, mahafantatra ny agent izay mirakitra ny decisfiavian'ny ion miaraka amin'ny fiavian'ny fanorenana.
Misy dikan-teny "shift-left" ve mbola miasa rehefa ny zavatra haingana indrindra ao amin'ny... pipeline mpandraharaha mizaka tena ve izy fa tsy mpamorona?
Eny, saingy tsy maintsy manova ny toerana fanamarinana izy io, fa tsy ny fotoana fotsiny. Ny "shift-left" namboarina mifototra amin'ny famerenana ataon'olombelona dia tsy mifanaraka amin'ny hafainganam-pandehan'ny "agent"; ny "shift-left" namboarina mifototra amin'ny "sandboxing", ny fameperana ny fivoahana, ary ny "install cooldowns" dia mbola afaka misambotra "agent" voajirika alohan'ny hahatongavany amin'ny famokarana ny asany, satria ireo fanaraha-maso ireo dia tsy miankina amin'ny olona mamaky na inona na inona.
