Сүүлийн хэдэн жилийн хугацаанд програмын аюулгүй байдал нь тодорхой хил хязгаартай байсан: репозитор болон pipelineЭнэ бол удирдлага, сканнердах ажиллагаа, багууд ямар нэгэн зүйлийг үйлдвэрлэлд илгээх эсэхийг шийддэг газар байв. Энэ бүхэн нэг таамаглал дээр тулгуурладаг байсан: хөгжүүлэгч системд ямар код, ямар хамаарлууд орохыг тодорхой сонгодог байв.
Энэ таамаглал цаашид хүчин төгөлдөр байхаа больсон. Өнөө үед кодын улам бүр нэмэгдэж буй хувийг хиймэл оюун ухааны агент бичиж, санал болгож эсвэл суулгаж байгаа бөгөөд ихэвчлэн хэн ч юу татаж байгааг нь харахгүйгээр хийдэг.cisКод руу орж буй зүйл хөдөлдөг шиг халдлага ч мөн адил хөдөлдөг. Энэ нь процессын хамгийн урд хэсэг рүү шилждэг: код үүсгэгдсэн мөчөөс эхлэн туслахын дотор болон түүнийг тохируулдаг файлууд руу.
Энэ бол таны хиймэл оюун ухааны халдлагын гадаргуу юм: хүн хэзээ ч хянаж үзэхээс өмнө эрсдэл үүсгэж болох загвар, агент, MCP сервер, ур чадвар, хиймэл оюун ухааны санал болгосон хамаарал бүр. Таны хөгжүүлэгчдийн итгэдэг хиймэл оюун ухаан одоо үүний нэг хэсэг болсон. Энэ бол ирээдүйн эрсдэл биш. Энэ бол аль хэдийн болсон өөрчлөлт бөгөөд практик дээр хэрхэн харагдаж байгааг энд харуулав.
Ганц нэг тохиолдол биш, харин дайралтын давалгаа
Дараах зүйлсийн аль нь ч лабораторийн дасгалжуулагч биш юмcisэсвэл таамаглал. Эдгээр нь олон нийтэд ил болсон, баримтжуулсан, бараг бүгд өнгөрсөн жилийн үйл явдлууд бөгөөд тус бүр нь хиймэл оюун ухааны агенттай арай ойр байдаг:
- 2025 оны 8-р сар, s1ngularity: Халдагчид хамгийн өргөн хэрэглэгддэг бүтээх системүүдийн нэг болох Nx-ээс хэвлэлийн токен хулгайлж, хөгжүүлэгчдийн машин дээрх нууцыг хайхын тулд хиймэл оюун ухааны хэрэгслүүдийг ашиглан хортой хувилбаруудыг npm руу түлхсэн.
- 2025 оны 9-р сар, шохой/дибаг: npm-ийн хамгийн том буултуудын нэг болох долоо хоногт хоёр тэрбум гаруй удаа татагдсан 18 багцыг ганцхан хэрэглэгчийн бүртгэлийг булаан авсан.
- 2025 оны 9-р сар, Шай-Хулуд: npm-ээр дамжуулан өөрөө үржих чадвартай анхны баримтжуулсан өтнүүдийн нэг. Арваннэгдүгээр сард гарсан хоёр дахь давалгаа нь илүү түрэмгий бөгөөд 25,000 гаруй репозиторт ил болсон нууцуудтай холбоотой байв.
- 2025 оны 10-р сар, ашиглагдаагүй импорт: PhantomRaven кампанит ажлын нэг хэсэг бөгөөд хиймэл оюун ухааны хий үзэгдэл нь slopsquatting техникээр дамжуулан npm-д жинхэнэ хортой програм хангамжийг нэвтрүүлсэн.
- Энэ жил ClawHub: хамгийн их татагдсан долоон ур чадварын тав нь хортой програм хангамж байсан хортой хиймэл оюун ухааны ур чадварын бүртгэл.
Салбар ч мөн адил дүгнэлтийг албан ёсоор гаргаж байна. LLM програмуудын OWASP-ийн шилдэг 10 жагсаалтад шуурхай тарилга нэгдүгээрт бичигдсэн. OWASP MCP-ийн шилдэг 10 жагсаалт (одоогоор бета хувилбарт) нь агентууд хэрэгслүүдтэй харилцахдаа ашигладаг протоколын агентуудыг онилдог. Инкубаторын шатны шинэ төсөл болох OWASP-ийн Агентлаг Ур чадварын шилдэг 10 жагсаалтад хортой ур чадваруудыг хамгийн өндөр эрсдэл гэж нэрлэдэг. OWASP ихэвчлэн болгоомжтой ажилладаг; гурван фронтыг нэг дор нээх нь, тэдгээрийн нэгийг нь яаралтай нээх нь энэ хэр хурдан явагдаж байгааг харуулж байна.
Гурван нь бүгд нэг санаан дээр нийлдэг: загварын эргэн тойрон дахь зааварчилгаа, хэрэгсэл, тохиргоо нь одоо хиймэл оюун ухааны халдлагын гадаргуугийн нэг хэсэг болсон бөгөөд тэдгээр нь ихэвчлэн танай өөрийн репозитор дотор байрладаг. Энэ нь танай багуудаас асуух ёстой хамгийн эхний асуултыг бий болгож байна: танай репозиторт байгаа дүрмийн файлууд, ур чадвар, MCP тохиргоог хэн хянадаг вэ?
Вектор 1: Хордсон ур чадвар
Ур чадвар гэдэг нь хиймэл оюун ухааны агентад даалгаврыг хэрхэн гүйцэтгэхийг заадаг зааварчилгаа, чадварын файл юм. Энэ нь агентын зан төлөвийг (дүрмийн файлууд, hooks, мөн MCP тохиргоонууд нь мөн адил хийдэг) гэхдээ тэд бүгд нэг шинж чанарыг хуваалцдаг: тэд репозитор дотор кодын хамт аялдаг.
Энэ жилийн судалгаагаар эдгээр ур чадварын 4,000-ыг нь авч үзсэн:
- 36% нь дор хаяж нэг аюулгүй байдлын алдаатай байсан.
- 13.4% нь маш чухал гэж үзсэн.
- 100 орчим нь хортой програм хангамжтай байсан.
Гол өөрчлөлт: халдагч таны кодыг онилохоо больсон. Тэд таны кодыг бичиж буй агентыг онилж, загвар нь уншиж, ажиллаж байгаа гэж үздэг далд заавруудыг (заримдаа үл үзэгдэх тэмдэгтүүдийг ашигладаг) суулгадаг. Хүний хянагч үүнийг баталдаг. pull request сайн санааны үүднээс, учир нь тэдний нүдэнд файл цэвэрхэн харагдаж байна. Загвар нь шүүмжлэгчийн хэзээ ч харж байгаагүй зааврыг тайлбарладаг.
Энэ нь онолын хувьд биш юм. CVE-2025-59536 (CVSS 8.7) нь Claude Code-г итгэлгүй репозитороос ажиллуулахыг зөвшөөрсөн бөгөөд хортой тохиргоо нь хэрэглэгч итгэлцлийн харилцах цонхыг хүлээн авахаас өмнө командуудыг ажиллуулж болох юм. Хоёр дахь эмзэг байдал болох CVE-2026-21852 нь хэрэглэгчийн зөвшөөрөлгүйгээр төслийн хяналттай тохиргоогоор дамжуулан API түлхүүрийг гадагшлуулахыг зөвшөөрсөн.
H2: Вектор 2: налуу скваттинг
Энэ нэр нь "slop" (хиймэл оюун ухааны заримдаа үүсгэдэг хог хаягдал)-ыг сонгодог typosquatting халдлагатай хослуулсан. Typosquatting нь хүний алдаанаас хамаардаг: халдагч нь алдартай нэртэй ойролцоо багцын нэрийг бүртгэж, алдаа гарахыг хүлээдэг. Энэ нь санамсаргүй юм.
Налуугаар гулгах алдаа хүлээхгүй. Энэ хичээлийн үеэр дурдсан судалгаанд, Хиймэл оюун ухааны загваруудаас үүссэн багцын лавлагааны 19.7% нь байхгүй багцуудыг заажээ. Загварууд ижил нэрийг дахин дахин хий үзэгдэл мэтээр төсөөлөх хандлагатай байдаг тул халдагч нь хиймэл оюун ухааныг хэн зохион бүтээснийг ажиглаж, эдгээр нэрийг хортой кодоор бүртгэж, хиймэл оюун ухааны санал болгосон дараагийн суулгалт үүнийг таны програм руу татахыг хүлээдэг.
Хэмжээ нь тийм ч жижиг биш: 2025 онд 450,000 гаруй шинэ хортой багц илэрсэн. Хоёр жишээ үүнийг тодорхой болгож байна:
- Судлаач ... нэртэй хор хөнөөлгүй туршилтын багц тарьсан. тэврэлт нүүрний хавчаар энэ санааг нотлохын тулд. Энэ нь бүртгэгдсэн гурван сарын хугацаанд 30,000 гаруй удаа татагдсан.
- ашиглагдаагүй импортуудДээрх цагийн хуваариас харахад яг энэ аргыг ашиглан олон нийтийн бүртгэлд амьд байгаа хортой програм хангамж батлагдсан. Энэ нь туршилт биш байсан.
Асуулт нь энэ нь танай багт тохиолдож болох эсэхэд биш, харин өнөөдөр хэн ч харахгүйгээр таны кодыг хэдэн хиймэл оюун ухааны санал болгосон багц оруулж байгаад оршино.
Хариулт нь: standardс гүйцэж байна
Хоёр хүч зэрэгцээ гүйж байна. Довтолгоонууд хурдасч байх зуур, standardБие махбодь дараах хариу үйлдэл үзүүлдэг.
- NIST SP 800-218A аюулгүй програм хангамжийн хөгжүүлэлтийн хүрээг хиймэл оюун ухааны загварт хамаарах практикууд, түүний дотор бүрэн бүтэн байдал болон гарал үүслийн нотолгоогоор өргөжүүлдэг.
- In 2026, CISА болон түүний олон улсын G7 түншүүд Хиймэл оюун ухаанд зориулсан програм хангамжийн материалын тухай хуулийн гарын авлагыг нийтэлсэн бөгөөд уг жагсаалтад юу багтах ёстойг тодорхойлсон: загварууд, өгөгдлийн багцууд, бүрэлдэхүүн хэсгүүд, үйлчилгээ үзүүлэгчид болон хамаарлууд.
Чиглэл тодорхой байна: SBOM хиймэл оюун ухаант үйлдвэр (AI-BOM) болж өргөжиж байна. Та бараа материалын бүртгэлд оруулж чадахгүй зүйлээ баталгаажуулж эсвэл баталгаажуулж чадахгүй. Өнөөдөр ихэнх байгууллагууд дараах зүйлсийг хийж чадахгүй байна:
- 43% тэдний аль хэдийн ашиглаж байгаа хиймэл оюун ухааны хэрэгслүүдийг аудит хийх эсвэл бүртгэл хөтлөх боломжгүй.
- 79% өөрсдийн орчинд ажиллаж байгаа хиймэл оюун ухааны агентууд болон MCP системүүдэд харагдах байдал байхгүй.
Зохицуулалттай орчинд энэхүү бараа материалын нөөц сайн туршлагаас гэрээний хүлээлт эсвэл дагаж мөрдөх үүрэг рүү шилжиж байна. Гэхдээ бараа материалын нөөц нь танд юу байгааг л хэлж өгдөг. Энэ нь дангаараа халдлагыг хааж чадахгүй.
The space: AppSec-д зориулсан EDR
SAST болон SCA хэрэгслүүд нь агентын зан төлөв эсвэл түүний тохиргоог бус харин код болон хамаарлыг шинжлэх зориулалттай. БДУ процессууд болон сүлжээний холболтуудыг хардаг боловч хамаарал эсвэл агентын тохиргоог тайлбарлах програмын аюулгүй байдлын контекст ихэвчлэн дутагддаг. Эдгээр хоёр ангиллын хэрэгслүүдийн хооронд код одоо үүсгэгдэж байгаа болон хиймэл оюун ухааны халдлагын гадаргуу байрладаг зай байдаг.
Энэ завсар нь гурван сохор цэгтэй:
- Хиймэл оюун ухааны хөрөнгө. Загварууд, агентууд болон MCP серверүүд таны дээр харагдахгүй байна SASTэсвэл SCA-ын радар. Та харж чадахгүй зүйлээ тоолж чадахгүй.
- Тохиргооны файлууд. Ур чадвар, дүрэм, MCP тохиргоо нь агентын зан төлөвийг тодорхойлдог боловч ерөнхийдөө тэдгээрийг гэм хоргүй энгийн текст мэтээр хянадаг.
- Багц суулгалтууд. A хортой хамаарал нь хортой болох нь мэдэгдэхээс өмнө ажиллаж эхэлдэг, дараа нь хэн ч зөвшөөрөлгүйгээр нууц болон токенуудыг гадагшлуулна.
Xygeni үүнийг хэрхэн хаадаг вэ
EDR нь төгсгөлийн цэгүүдэд юу хийдэг вэ, Ксигени Shield нь хиймэл оюун ухааны тусламжтайгаар хөгжүүлэлтийн амьдралын мөчлөгийг зохицуулдаг: програмын аюулгүй байдлын нөхцөл байдлыг ойлгохын зэрэгцээ код үүсгэгдсэн газрыг хамгаалдаг.
- Харагдах байдал SAST болон SCA бүү хүр. Xygeni нь хортой ур чадвар болон дүрмийн файлуудыг тэмдэглэж, MCP тохиргоог шинжилж, аудит хийхэд бэлэн болгодог. AI-BOM, OWASP LLM, MCP болон Агентлагийн ур чадварын шилдэг 10-т багтсан.
- Зөвхөн гарын үсэг биш, тагнуулын мэдээлэл. MEW (Хортой програм хангамжийн эрт анхааруулга) нь CVE, зөвлөгөө эсвэл олон нийтийн гарын үсэг үүсэхээс өмнө багцыг хаахын тулд түүний зан төлөв болон эрсдэлийг шинжилдэг. Хамгийн сүүлийн үеийн сүлжээний мэдээлэл нь мэдэгдэж буй хортой дэд бүтцэд холбогдох холболтыг тасалдаг.
- Кодоос төгсгөлийн цэг хүртэл нэг хяналтын цэг. Европын өгөгдлийн бүрэн эрхт байдал болон нийцлийн нотолгоог суурилуулсан, орчныг дахин зохион байгуулалгүйгээр байршуулсан цорын ганц агент.
Шууд үзүүлбэр дээр энэхүү бодлогын хэрэгжилт нь суулгалт дуусахаас өмнө гурван өөр суулгалтын зам (виртуал орчин, багц менежер, шууд татаж авах)-аар хортой багц суулгах гэсэн хиймэл оюун ухааны агентын оролдлогыг хаасан бөгөөд бүгд бодит цаг хугацаанд нэвтэрч, SOC руу экспортлох боломжтой. Эхний төслийг нэвтрүүлэхэд ихэвчлэн нэг цаг орчим хугацаа шаардагддаг; байгууллагын хэмжээнд бүрэн хамрах хүрээг өргөжүүлэх нь бүтцээс хамааран ихэвчлэн нэгээс хоёр долоо хоног болдог.
тусламж
Нэг догол мөрөнд хиймэл оюун ухааны халдлагын гадаргуу гэж юу вэ?
Хиймэл оюун ухааны халдлагын гадаргуу нь загвар, агент, MCP сервер, ур чадвар, дүрмийн файл, хиймэл оюун ухааны санал болгосон хамаарлуудын багц бөгөөд эрсдэл нь хүн хянахаас өмнө програмд нэвтэрч болно. Энэ нь уламжлалт код болон хамаарлаас гадна хиймэл оюун ухааны агент хэрхэн ажиллахыг тодорхойлдог тохиргооны файлууд болон заавруудыг багтаадаг.
Миний хиймэл оюун ухааны туслахын санал болгосон багцын нэр хий үзэгдэл үү эсвэл зүгээр л хууль ёсны боловч танил бус уу гэдгийг би яаж мэдэх вэ?
Суулгахаасаа өмнө баталгаажуулах: зөвхөн нэрэнд итгэхийн оронд бүртгэлийг шалгаж, багцын бодит агуулга, зорилгыг шинжил. Xygeni нь код үүсгэх явцад энэхүү баталгаажуулалтыг бодит цаг хугацаанд автоматжуулдаг тул суулгалтыг ажиллуулахаас өмнө батлах эсвэл хаах бөгөөд уг багц таны таньдаг эсэхээс үл хамаарна.
Слопскваттинг нь бүх хиймэл оюун ухааны загварт адилхан нөлөөлдөг үү?
19.7%-ийн үзүүлэлтийн ард байгаа судалгаагаар олон загварыг хамарсан бөгөөд асуудал өргөн тархсан бөгөөд тэдгээрийн хооронд бага зэрэг ялгаа байгааг тогтоожээ. Энэ нь хиймэл оюун ухааны тусламжтайгаар хөгжүүлэлтийн бүх хэв маяг бөгөөд ганц туслагчид хамаарах дутагдал биш юм.
Бид хий үзэгдэлтэй эсвэл хортой багц суулгасан эсэхээ буцаан шалгаж болох уу?
Тийм ээ. Xygeni-ийн платформ нь хэрэглэгчдэд илэрсэн хортой багцуудын хадгалагдсан мэдээллийн санд хандах боломжийг олгодог бөгөөд үүнийг таны одоо байгаа бүрэлдэхүүн хэсгийн нөөцөөс хайх боломжтой тул та хэдхэн товшилтоор аль хэдийн суулгасан ямар нэгэн зүйл мэдэгдэж буй аюул заналхийлэл мөн эсэхийг баталгаажуулж чадна.
Олон багтай дунд хэмжээний байгууллагад хэрэгжилт хэр удаан үргэлжлэх вэ?
Эхний төслийг дасан зохицоход ихэвчлэн нэг цаг орчим хугацаа шаардагддаг. Байгууллагыг бүхэлд нь хамрах нь багийн бүтэц, ажиллах арга барилаас хамааран нэгээс хоёр долоо хоног болдог.
Хиймэл оюун ухааны довтолгооны гадаргуугаа үнэгүй зурагла
Аппликейшнийхээ хиймэл оюун ухааны ул мөрийг үнэгүй зурагла: бүртгэл үүсгээд хэдхэн минутын дотор анхны сканыг ажиллуулна ууГанцхан програмаар эхэлж, дотор нь ямар хиймэл оюун ухаан байгааг, мөн хиймэл оюун ухааны халдлагын гадаргуугийн аль хэсэг нь аюултай болохыг хараарай.
*Дээр дурдсан зарим чадварууд нь Xygeni Shield болон ASPM/AI аюулгүй байдлын модулиуд; бэлэн байдал нь төлөвлөгөөнөөс хамаарч өөр өөр байж болно. Харна уу xygeni.io одоогийн бүтээгдэхүүний дэлгэрэнгүй мэдээллийг авах.
