TL;DR: inženýrství agentů a jeho skrytý útočný povrch
Agent harness engineering je praxe budování všeho kolem modelu umělé inteligence (instrukce, nástroje, oprávnění, paměť a zpětnovazební smyčky), která z něj dělá funkčního agenta. Většina skutečného bezpečnostního rizika se nyní skrývá v tomto postroji, nikoli v modelu.
- Posun: Týmy přestaly ladit výzvy a začaly s vývojem kabelových svazků. Agent = model + kabelový svazek.
- Problém: Postroj se nachází v souborech prostého textu (pravidla, dovednosti, konfigurace MCP), které se kontrolují jako dokumentace, pokud vůbec.
- Důkazy: Backdoor s pravidly souboru a skutečné MCP CVE ukazují, že útočníci se na něj již zaměřují.
- Oprava: S kabeláží zacházejte jako s kódem. Před odesláním ji inventarizujte, zkontrolujte a naskenujte.
Každá bezpečnostní debata o umělé inteligenci se nakonec dotkne modelu. Dá se jailbreaknout? Bude způsobovat halucinace? Školí se poskytovatel na našich datech?
Dobré otázky. Ale stále častěji jsou ty nesprávné. Když agent umělé inteligence smaže produkční tabulku, použije zadní vrátka nebo odešle e-mailem seznam zákazníků cizímu člověku, model zřídka selže. Model udělal přesně to, co mu jeho vybavení umožňovalo.
Agent = model + postroj
Během uplynulého roku se v tomto odvětví potichu změnilo pojetí tvorby pomocí umělé inteligence. Rychlé inženýrství ustoupilo kontextovému inženýrství a kontextové inženýrství ustoupilo něčemu většímu: inženýrství postrojů agentů.
Myšlenka je jednoduchá. Model sám o sobě je logický stroj bez rukou. Postroj je vše, co mu dává ruce a práci: instrukce, které plní, nástroje, které může volat, oprávnění, která má, paměť, kterou uchovává, a kontroly, které zachycují jeho chyby. Stránky Martina Fowlera popisuje inženýrství svazků jako práci, kterou nyní uživatelé kódovacích agentů vykonávají, aby byli agenti spolehliví, a akademický rámec publikovaný v tomto roce rozděluje systém do jedenácti odpovědností, od přístupu k nástrojům a paměti projektu až po oprávnění a ověřování.
Výsledky jsou reálné. Týmy praktikující inženýrství agentů uvádějí, že změna pouze samotného postroje se stejným modelem pod ním může dramaticky změnit výsledky agenta. To vyvolává nepříjemný problém pro každého v oblasti bezpečnosti: pokud postroj určuje, jak se agent chová, pak také určuje, jak může být zneužit.
Vezměte si něco tak běžného, jako je instalace závislosti. Vývojář se na chvíli zastaví, aby zkontroloval název balíčku. Agent se správným nástrojem ve svém vybavení pouze spustí příkaz a pokud je balíček škodlivý, nic v modelu ho nezastaví. Přesně to rozebereme v této epizodě SafeDev Talks: Co se změní, když agenti AI instalují závislosti samy o sobě a proč se inženýrství využití agentů tiše stalo problémem dodavatelského řetězce.
Jak vypadá inženýrství agentního svazku v repozitáři
Otevřete repozitář, kde vývojáři používají agenty umělé inteligence, a potřebné vybavení najdete přímo tam, v souborech, které jste pravděpodobně nikdy neprohledali:
- Pravidla a soubory s pokyny (
AGENTS.md,.cursorrules, instrukce druhého pilota), které agentovi sdělují, jak se má chovat. - Soubory dovedností že balíček opakovaně použitelných funkcí, které agent načítá na vyžádání.
- Konfigurace serveru MCP které propojují agenta s nástroji, databázemi a API.
- Systémové výzvy a šablony výzev vložené do kódu aplikace.
- Zapojení agentake kterým nástrojům má agent přístup, která data může načíst a zda se mezi nimi nachází ochranná bariéra.
Všechno je to prostý text. Všechno je to commitukládáno vedle kódu. A to vše je kontrolováno stejně jako dokumentace: rychlý pohled, schválení, sloučení. Přitom každý z těchto souborů může tiše přepsat, co má agent udělat a čeho se smí dotknout.
To je skutečný důsledek inženýrství agent harness: nejvýkonnější konfigurace ve vašem softwaru je nyní nejméně kontrolována.
Útočníci si toho už všimli
To není teoretická záležitost. Postroj má krátkou, ale výmluvnou historii incidentů.
- Zadní vrátka souboru s pravidly. V březnu 2025 vědci odhalili útok, při kterém skryté znaky Unicode v souboru s pravidly instruovaly asistenty kódování s umělou inteligencí, aby vložili kód s backdoorem, aniž by to zmínili ve své viditelné odpovědi. Recenzent, který si soubor přečetl, neviděl nic neobvyklého. Nyní je katalogizován jako Případová studie MITRE ATLAS AML.CS0041.
- Otrávené nástroje MCP. V průběhu roku 2025 výzkumníci opakovaně prokázali, že agenti implicitně důvěřují popisům nástrojů, takže škodlivý MCP server může agenta nasměrovat pouhým správným popisem sebe sama. Ve stejném roce CVE-2025-6514 v široce staženém klientovi MCP umožňovalo vzdálené spuštění příkazů při připojení k nedůvěryhodnému serveru s hodnocením 9.6 na CVSS.
- Nadměrná agentura. Jedno OWASP Top 10 pro přihlášky LLM uvádí nadměrnou autonomii jako hlavní riziko: agenti získají více nástrojů, oprávnění nebo autonomie, než úkol vyžaduje. To není chyba modelu. Jde o konstrukci postrojů.cisiontů.
Všimněte si vzorce. Žádný z těchto útoků model nezlomí. Zlomí postroj a model věrně udělá zbytek.
Proč to váš bezpečnostní stack nevidí
A tady je ta nepříjemná část. Většina organizací již používá dobré nástroje AppSec a téměř nic z nich nebylo vytvořeno pro tuto vrstvu.
Statická analýza rozumí kódu, ale neví, co je model ani proč je důležitý nedůvěryhodný text proudící do systémového promptu. Kompoziční analýza inventarizuje balíčky, ale nevyjmenovává MCP servery ani soubory dovedností. Tajné skenery mohou přehlédnout klíč API uložený v konfiguračním souboru agenta. Žádný z těchto nástrojů není vadný. Byly jednoduše vytvořeny pro svět, kde konfigurace nedávala rozkazy.
Takže inženýrství agentů postupuje rychle a bezpečnostní oddělení kontroluje tu část, kterou vidí: model a kód. Vlastní vybavení se nachází mezi tím.
Pět návyků pro zajištění postroje
Pro zabezpečování agentů není zapotřebí nový tým. Potřebuje několik návyků, které zacházejí s agenty tak, jak jsou: spustitelným záměrem.
| Zvyk | Proč je to důležité | Co dělat |
|---|---|---|
| 1. Proveďte inventuru každého postroje | Nemůžete si zajistit agenty, které nikdo neoznačil. | Najděte každý model, agenta, MCP server, dovednost a výzvu napříč vašimi repozitáři, a to přímo z kódu a konfiguračních souborů, nikoli z průzkumu. |
| 2. Zkontrolujte soubory svazku, jako je kód | Pravidla, dovednosti a konfigurace MCP mohou přepsat, co agent dělá, ale jsou kontrolovány jako dokumentace. | Dejte jim totéž pull request kontrola jako aplikační logika, včetně kontrol skrytých znaků. |
| 3. Zapněte, co agent načte | Výzvu nebo model, na který odkazuje proměnlivý popisek, lze přenastavit bez změny kódu. | Připněte výzvy a modely k neměnným verzím. |
| 4. Umístěte zábradlí na každý dřez | Načtené dokumenty, výstupy nástrojů a uživatelský obsah mohou do modelu přenášet vložené instrukce. | Umístěte zábradlí do cesty všude, kde se obsah může dostat k modelu. |
| 5. Udržujte přihlašovací údaje mimo postroj | Klíče poskytovatele AI v souborech prompts a konfiguracích agentů jsou pro útočníka snadnou výhrou. | Odstraňte je a průběžně prohledávejte soubory svazku, abyste zjistili, zda neobsahují tajné informace. Je to snadná oprava. |
Zajištění postroje, nejen modelu
Zabezpečení umělé inteligence Xygeni začíná tam, kde inženýrství agentů zanechává svou stopu: ve vašich repozitářích. Objevuje prostředky umělé inteligence napříč vaší kódovou základnou (modely, agenty, servery MCP, dovednosti, výzvy, guardrailsa používané nástroje pro kódování umělé inteligence) z kódu, závislostí a konfiguračních souborů, které tyto nástroje zanechávají.
Poté analyzuje soubory dovedností, soubory pravidel a konfigurace MCP jako bezpečnostní artefakty, nikoli dokumentaci, a detekuje rizika spojená s třídou prompt-injection v propojení agentů, jako je například nedůvěryhodný obsah dosahující systémového promptu nebo úložiště pro načítání bez ochranného zábradlí. Skenování tajných kódů Xygeni označuje přihlašovací údaje poskytovatele AI v promptech a konfiguračních souborech agentů a závislosti vašeho stacku AI jsou detekovány stejnou formou malwaru jako vše ostatní, ještě předtím, než existuje signatura.
Nejčastější dotazy
Co je to inženýrství agentních svazků?
Agent harness engineering je obor navrhování prostředí kolem modelu umělé inteligence (instrukce, nástroje, oprávnění, paměť, kontext a ověřovací smyčky) tak, aby se chovalo jako spolehlivý agent. Model poskytuje uvažování; harsage rozhoduje o tom, co agent vidí a co může dělat.
Jak se liší inženýrství využití agentů od inženýrství promptů?
Inženýrství promptu utváří jednu instrukci. Inženýrství agentského svazku utváří celý systém, ve kterém agent pracuje, a to napříč mnoha kroky, nástroji a relacemi. Promptu je jeden soubor v svazku.
Proč je postroj bezpečnostním rizikem?
Protože řídí, co agent smí dělat, a je uložen v souborech prostého textu, které jsou zřídka kontrolovány jako bezpečnostní artefakty. Narušením souboru pravidel nebo konfigurace MCP získáte kontrolu nad agentem, aniž byste se dotkli modelu.
Kdo by měl vlastnit zabezpečení agentů?
Zabezpečení aplikací, spolupráce s inženýry, kteří vytvářejí a konfigurují agenty. Systém je součástí softwaru, který dodáváte, takže patří do stejných procesů kontroly, skenování a inventarizace jako zbytek vašeho kódu.







