Agent Harness Engineering

Agent Harness Engineering: de Modell ass net d'Attackfläch, den Harness ass

TL;DR: Agent Harness Engineering an hir verstoppt Attackfläch

Agent Harness Engineering ass d'Praxis, alles ronderëm en KI-Modell (Instruktiounen, Tools, Permissiounen, Speicher a Feedback-Schleifen) opzebauen, deen et an en funktionéierenden Agent verwandelt. An deem Kabelbügel, net am Modell, läit elo de gréissten Deel vum reelle Sécherheetsrisiko.

  • D'Verrécklung: D'Équipen hunn opgehalen, d'Uweisungen ze verbesseren an hunn ugefaangen, Kabelbänner ze konstruéieren. Agent = Modell + Kabelbänner.
  • De Problem: Den Harness läit a Klartextdateien (Regele, Fäegkeeten, MCP-Konfiguratiounen), déi wéi Dokumentatioun iwwerpréift ginn, wa se iwwerhaapt iwwerhaapt sinn.
  • D'Beweiser: D'Rules File Backdoor an echt MCP CVEs weisen datt Attacker et scho viséieren.
  • De Fix: Behandelt de Kabelbam wéi Code. Inventariséiert en, iwwerpréift en a scannt en ier en verschéckt gëtt.

All Sécherheetsdiskussioun iwwer KI lant schlussendlech op de Modell. Kann et jailbreakéiert ginn? Wäert et halluzinéieren? Trainéiert den Ubidder op eisen Donnéeën?

Fair Froen. Mee et sinn ëmmer méi déi falsch. Wann en AI-Agent eng Produktiounstabell läscht, eng Backdoor dréckt oder eng Clientlëscht per E-Mail un e Friemen schéckt, ass et selten de Modell, deen ausgefall ass. De Modell huet genau dat gemaach, wat säi Geschir him erlaabt huet.

Agent = Modell + Geschirr

Am leschte Joer huet d'Industrie roueg geännert, wat et bedeit, mat KI ze bauen. Prompt Engineering huet Plaz gemaach fir Context Engineering, an Context Engineering huet Plaz gemaach fir eppes méi Grousses: Agent Harness Engineering.

D'Iddi ass einfach. E Modell eleng ass eng Denkmaschinn ouni Hänn. De Geschirr ass alles, wat him Hänn an eng Aufgab gëtt: d'Instruktiounen, déi et befollegt, d'Tools, déi et opruffe kann, d'Rechter, déi et huet, de Späicher, deen et späichert, an d'Kontrollen, déi seng Feeler erkennen. D'Websäit vum Martin Fowler beschreift Harness Engineering als d'Aarbecht, déi d'Benotzer vu Coding Agents elo maachen, fir Agenten zouverlässeg ze maachen, an en akademesche Kader, deen dëst Joer publizéiert gouf deelt d'Grondlag an eelef Aufgaben op, vum Toolzougang a Projetspeicher bis zu Berechtigungen a Verifizéierung.

D'Resultater si real. Équipen, déi Agenten-Harness-Engineering praktizéieren, berichten, datt d'Ännerung vun nëmmen dem Harness, mam selwechte Modell drënner, d'Resultater vun engem Agent dramatesch verännere kann. Dëst werft e komesche Punkt fir jiddereen am Sécherheetsberäich op: wann den Harness entscheet, wéi den Agent sech verhält, entscheet den Harness, wéi e mëssbraucht ka ginn. 

Huelt eppes sou Alldeegleches wéi d'Installatioun vun enger Ofhängegkeet. En Entwéckler hält eng Paus fir den Numm vum Pak ze kontrolléieren. En Agent mat dem richtegen Tool a sengem Gefier féiert einfach de Kommando aus, a wann de Pak béiswëlleg ass, stoppt näischt am Modell en. Dat ass genau dat, wat mir an dëser Episod vu SafeDev Talks entdecken: Wat ännert sech wann AI-Agenten Ofhängegkeeten installéieren eleng, a firwat d'Agentenkabelbautechnik roueg zu engem Problem vun der Versuergungskette ginn ass.

Wéi Agent Harness Engineering an engem Repository ausgesäit

Maacht e Repository op, wou Entwéckler KI-Agenten benotzen, an de Geschir ass direkt do, a Dateien, déi Dir wahrscheinlech nach ni gescannt hutt:

  • Reegelen an Instruktiounsdateien (AGENTS.md, .cursorrules, Instruktioune vum Copilot), déi dem Agent soen, wéi hie sech verhale soll.
  • Fäegkeetsdateien datt dee Pak nei benotzbar Fäegkeeten huet, deen den Agent op Ufro lued.
  • MCP-Serverkonfiguratiounen déi den Agent mat Tools, Datenbanken an APIen verbannen.
  • Systemprompts a Prompt-Virlagen am Applikatiounscode integréiert.
  • Verkabelung vum Agent: op wéi eng Tools en Agent zougräife kann, wéi eng Donnéeën e kann ofruffen, an ob e Schutzrail dertëschent läit.

Alles ass einfachen Text. Alles ass commitniewent dem Code. An alles gëtt iwwerpréift, sou wéi d'Dokumentatioun iwwerpréift gëtt: e kuerze Bléck, eng Genehmegung, eng Zesummeféierung. Awer all dës Dateie kënnen am Stillen nei schreiwen, wat en Agent uginn gëtt ze maachen a wat e beréiere däerf.

Dat ass déi richteg Konsequenz vun der Agent Harness Engineering: déi mächtegst Konfiguratioun an Ärer Software gëtt elo am mannsten iwwerpréift.

Attacker hunn et scho gemierkt

Dëst ass keng theoretesch Fro. D'Gurt huet eng kuerz awer aussagekräfteg Geschicht vun den Incidenter.

  • D'Regele Datei Backdoor. Am Mäerz 2025 hunn d'Fuerscher en Ugrëff opgedeckt, bei deem verstoppte Unicode-Zeechen an enger Regeldatei KI-Programméierassistenten uginn hunn, Backdoor-Code anzeféieren, ouni dëst an hirer sichtbarer Äntwert ze nennen. E Rezensent, deen d'Datei gelies huet, huet näischt Ongewéinleches gesinn. Si ass elo katalogiséiert als Fallstudie MITRE ATLAS AML.CS0041.
  • Vergëfte MCP-Tools. Bis 2025 hunn d'Fuerscher ëmmer erëm gewisen, datt Agenten Toolbeschreiwunge implizit vertrauen, sou datt e béiswëllege MCP-Server en Agent steiere kann, andeems en sech einfach selwer op déi richteg Manéier beschreift. Am selwechte Joer, CVE-2025-6514 An engem wäit erofgeluedene MCP-Client ass d'Ausféierung vu Fernbefeeler erlaabt, wann een eng Verbindung mat engem net vertrauenswürdege Server ophëlt, mat enger Bewäertung vu 9.6 op CVSS.
  • Exzessiv Agentur. d' OWASP Top 10 fir LLM-Umeldungen lëscht exzessiv Handlungsfäegkeet als Toprisiko op: Agenten, déi méi Tools, Rechter oder Autonomie kréien, wéi d'Aufgab erfuerdert. Dat ass kee Modellfehler. Et ass en Harness-Design decisIon.

Bemierkt d'Muster. Keng vun dësen Attacken zerstéiert de Modell. Si zerstéieren d'Gurte, an de Modell mécht de Rescht trei.

Firwat Äre Sécherheetsstack et net gesäit

Hei ass den onprakteschen Deel. Déi meescht Organisatiounen hunn schonn gutt AppSec-Tooling, a bal näischt dovunner gouf fir dëse Layer entwéckelt.

Statesch Analyse versteet Code, awer si weess net, wat e Modell ass oder firwat net vertrauenswierdeg Texter, déi an eng Systemprompt fléissen, wichteg sinn. D'Kompositiounsanalyse inventariséiert Paketen, awer si zielt keng MCP-Serveren oder Fäegkeetsdateien op. Geheimscanner kënnen en API-Schlëssel an enger Agentkonfiguratiounsdatei verpassen. Keen vun dësen Tools ass defekt. Si goufen einfach fir eng Welt gebaut, wou d'Konfiguratioun keng Uerder ginn huet.

Also geet d'Engineering vum Agenten-Harness séier virun, an d'Sécherheet iwwerpréift den Deel, deen e ka gesinn: de Modell an de Code. Den Harness fällt dertëschent.

Fënnef Gewunnechten fir de Gürtel ze sécheren

D'Harness Engineering vun engem Securing Agent brauch keen neit Team. Et brauch e puer Gewunnechten, déi den Harness als dat behandelen, wat en ass: ausféierbar Absicht.

GewunnechtFirwat et wichteg assWat kann een maachen
1. Inventar vun all GeschirrDir kënnt keng Agenten sécheren, déi keen deklaréiert huet.Fannt all Modell, Agent, MCP-Server, Fäegkeet a Prompt an Äre Repositories, aus dem Code an de Configuratiounsdateien selwer anstatt aus enger Ëmfro.
2. Iwwerpréift d'Garnedateien wéi CodeReegelen, Fäegkeeten a MCP-Konfiguratiounen kënnen d'Maache vun engem Agent nei schreiwen, awer si ginn ewéi Dokumentatioun iwwerpréift.Gitt hinnen datselwecht pull request Iwwerpréiwung als Applikatiounslogik, inklusiv Kontrollen op verstoppte Zeechen.
3. Festpinnen, wat den Agent luedE Prompt oder e Modell, op deen vun engem verännerbare Label referenzéiert gëtt, kann ouni eng Codeännerung nei ugewise ginn.Prompten a Modeller op onverännerlech Versioune festpinnen.
4. Maacht e Schutzgelänner op all LavaboOfgeruff Dokumenter, Tool-Ausgaben an Benotzerinhalt kënnen all injizéiert Instruktiounen an de Modell bréngen.Setzt e Leiter am Wee, wou den Inhalt de Modell erreeche kann.
5. Halt d'Umeldungsinformatiounen aus dem KabelKI-Ubidder-Schlësselen a Prompt-Dateien an Agentenkonfiguratiounen sinn eng einfach Victoire fir en Ugräifer.Huelt se ewech a sicht weider d'Garndateien no Geheimnisser. Et ass eng einfach Léisung.

D'Gurt sécheren, net nëmmen de Modell

Xygeni AI Sécherheet fänkt do un, wou d'Agent Harness Engineering seng Spuer hannerléisst: an Äre Repositories. Et entdeckt d'KI-Ressourcen an Ärer Codebasis (Modeller, Agenten, MCP-Server, Fäegkeeten, Prompts, guardrails, an den KI-Codéierungstools, déi benotzt ginn) aus Code, Ofhängegkeeten an de Konfiguratiounsdateien, déi dës Tools hannerloossen.

Dann analyséiert et Fäegkeetsdateien, Regeldateien a MCP-Konfiguratiounen als Sécherheetsartefakten, net als Dokumentatioun, an erkennt Risiken vun der Prompt-Injektiounsklass am Agentenverdraht, wéi zum Beispill net vertrauenswürdege Inhalt, deen eng Systemprompt erreecht oder e Retrieval Sink ouni Schutzrail. D'Geheimnisscanning vun Xygeni markéiert d'Umeldungsinformatioune vun KI-Ubidder a Prompts an Agentenkonfiguratiounsdateien, an d'Ofhängegkeete vun Ärem KI-Stack kréien déiselwecht Malware-Detektioun wéi alles anescht, ier eng Signatur existéiert.

FAQ

Wat ass Agent Harness Engineering?

Agent Harness Engineering ass d'Disziplin vum Design vun der Ëmwelt ronderëm en KI-Modell (Instruktiounen, Tools, Permissiounen, Speicher, Kontext a Verifizéierungsschleifen), sou datt et sech wéi en zouverléissegen Agent verhält. De Modell liwwert Argumentatioun; den Harness entscheet wat den Agent ka gesinn a maachen.

Wéi ënnerscheet sech Agent Harness Engineering vun Prompt Engineering?

Prompt Engineering formt eng eenzeg Instruktioun. Agent Harness Engineering formt de ganze System, an deem den Agent operéiert, iwwer vill Schrëtt, Tools a Sessiounen. E Prompt ass eng Datei am Harness.

Firwat ass d'Gurt e Sécherheetsrisiko?

Well et kontrolléiert wat en Agent maache däerf, an et ass a Klartextdateien ze fannen, déi selten als Sécherheetsartefakte iwwerpréift ginn. Wann Dir eng Regeldatei oder eng MCP-Konfiguratioun kompromittéiert, kontrolléiert Dir den Agent, ouni de Modell ze beréieren.

Wien soll d'Sécherheet vun engem Agent iwwerhuelen?

Applikatiounssécherheet, Zesummenaarbecht mat den Ingenieuren, déi Agenten opbauen a konfiguréieren. Den Harness ass Deel vun der Software, déi Dir liwwert, dofir gehéiert en an déiselwecht Iwwerpréiwungs-, Scan- an Inventarprozesser wéi de Rescht vun Ärem Code.

sca-tools-software-zesummesetzungsanalyse-tools
Prioritäriséiert, behënnert a séchert Är Softwarerisiken
Kritt Äre gratis Kont.
Kee Kreditkaart erfuerderlech.

Séchert Är Softwareentwécklung a Liwwerung

mat der Xygeni Produkt Suite