TL; DR #
Agentesch KI-Sécherheet ass d'Praxis vun der Sécherung vun KI-Systemer, déi handelen anstatt ze äntweren: Agenten, déi iwwer verschidde Schrëtt plangen, Späicher späicheren, Tools iwwer Protokoller wéi MCP opruffen a mat delegéierten Umeldungsinformatiounen an Ärer Software an Ärem Entwécklungsliewenszyklus operéieren. Et ass e Superset vu Sécherheet op prompt-Level, well de Feelermodus keng schlecht Äntwert méi ass. Et ass eng ongewollt Aktioun, déi ënner der Identitéit vun Ärer Organisatioun duerchgefouert gëtt.
Wien gehéiert et: Applikatiounssécherheet, Zesummenaarbecht mat Identitéit. Keng separat KI-Funktioun.
Wat et anescht mécht: Véier Eegeschafte feelen engem Chatbot. Autonomie, Zougank zu Tools, persistent Erënnerung an delegéiert Identitéit.
D'Referenztaxonomie: den OWASP Top 10 fir Agentic Uwendungen 2026, ASI01 bis ASI10, publizéiert am Dezember 2025.
Wou de Risiko tatsächlech läit: meeschtens Identitéit, Liwwerketten an Ausféierung, net de Modell selwer.
Wat ass Agentic AI Sécherheet? #
E Modell, deen eppes falsch schreift, ass eng Peinlechkeet. En Agent, deen eppes falsch an e Shell-Kommando schreift, pull request oder eng Produktiounsdatebank ass en Tëschefall.
Déi eenzeg Ännerung, vun der Generéierung vun Text bis zur Handlung, ass de ganze Grond firwat dës Disziplin existéiert. Jiddereen, deen sech freet, wat agentesch KI-Sécherheet ass, reagéiert normalerweis op e spezifesche Moment: een huet gemierkt, datt en Assistent an der Ingenieursorganisatioun elo Umeldungsinformatiounen, Toolszougang, persistent Speicher an d'Autonomie huet, se ouni e Mënsch tëscht all Schrëtt zesummenzeketten.
Agentesch KI-Sécherheet ass de Set vu Praktiken, déi dës Fäegkeet bannent de gewielte Grenzen halen. Et deckt of, wéi eng Tools en Agent erreeche kann, ënner wéi enger Identitéit en handelt, wat en tëscht de Sessiounen erënnert, wéi engen aneren Agenten en vertraut a wat geschitt am Moment wou en probéiert eppes Irreversibeles auszeféieren. → Wat ass den Agent SDLC?
Bedeitung vun der Agentur-KI-Sécherheet: Véier Eegeschaften, déi de Risiko schafen #
D'Bedeitung vun der Sécherheet vun der KI-Agentur gëtt konkret, wann ee kuckt, wat en Agent huet, wat e Chatbot net huet. Véier Eegeschaften, déi all eng Kontroll bréchen, op déi d'Applikatiounssécherheet sech zënter Jore verlooss huet.
Déi zéng Risiken: OWASP Top 10 fir Agentic Uwendungen #
D'Referenztaxonomie ass déi OWASP Top 10 fir Agenturapplikatiounen 2026, publizéiert den 9. Dezember 2025 vum OWASP Agentur Sécherheetsinitiativ mat méi wéi 100 Mataarbechter. Et erweidert d'LLM Top 10 anstatt se ze ersetzen, well déi meescht Agenten och LLM-Umeldungen sinn an dës Risiken och ierwen.
Notéiert d'Form vun der Lëscht. Nëmmen zwou oder dräi Entréen handelen iwwer de Modell. Déi aner sinn Identitéits-, Liwwerketten-, Ausféierungs- a Vertrauensproblemer, dofir gehéiert d'Agent-KI-Sécherheet zum Team, dat scho Besëtzer ass. Applikatiounssécherheet anstatt an enger separater KI-Funktioun.
Wat ass Agentic AI Sécherheet an der Praxis? Sechs Kontrollen #
Kader beschreiwen e Risiko. Dëst sinn d'Kontrollen, déi e reduzéieren, an der Reiefolleg, an där déi meescht Équipen se tatsächlech adoptéiere kënnen.
- Inventar vun den Agenten an MCP-Serveren, déi tatsächlech lafen. Net déi zougelooss Lëscht, déi richteg. Net zougelooss Agenten-Tooling ass d'Norm anstatt d'Ausnam, an Dir kënnt net dat iwwerpréiwen, wat Dir net fonnt hutt.
- Ëmfang vun der Tooloberfläche pro Agent. Déi mannst Privilegien gëllen fir Tools, net nëmme fir Benotzer. Déi meescht exzessiv Handlungsfäegkeet kënnt duerch Komfort, net duerch Attacken.
- Iwwerpréift d'Konfiguratioun wéi de Code. Fäegkeetsdateien, Regeldateien an MCP-Serverdefinitioune sinn Instruktioune mat Autoritéit. MITRE ATLAS dokumentéiert d' Regelen Fichier hannertenee als eng richteg Fallstudie, keen Gedankenexperiment.
- Separat Identitéit pro Agent. Wann den Auditprotokoll Iech net seet, wéi en Agent eng Aktioun ergraff huet, fänkt Är Äntwert op en Tëschefall mat der Archäologie un.
- Erzwingen bei der Installatioun an der Ausféierung. De Moment wou e béiswëlleg Pak oder en net genehmegten MCP-Server op enger Entwécklermaschinn leeft, ass de leschte Punkt, wou Blockéiere bëlleg ass. → Ofhängegkeets-Firewall um Endpunkt
- Behält eng Spuer, déi den Tëschefall iwwerlieft. Provenanz fir wat verschéckt, Anomaliedetektioun iwwerall pipelines an Endpunkten, verbonnen mat der Identitéit, déi se produzéiert huet.
De Code, deen dës Agenten produzéieren, brauch déiselwecht Iwwerpréiwung wéi d'Agenten selwer. 2025 GenAI Code Security E Bericht, deen iwwer 100 Modeller iwwer 80 Aufgaben ofdeckt, huet festgestallt, datt 45% vun den KI-generéierte Beispiller direkt déi Top 10 vun den OWASP-Schwachstellen agefouert hunn. D'Geschwindegkeet vun der Generatioun kënnt net mat Sécherheet standardméisseg. → Wéi DevAI generéierte Code an der IDE validéiert
Wat ass Agentic AI Sécherheet net? Wou d'Grenze leien #
D'Konditioune wiesselen sech, an d'Beschaffungsgespréicher leiden dorunner.
- GenAI Sécherheet ass déi ursprénglech Disziplin: all generativ KI an an ëm Är Software. Agentesch KI-Sécherheet ass hiren entscheedendsten Deel, deen d'Systemer ofdeckt, déi handelen.
- LLM Sécherheet deckt de Modell a seng Ufuerderungen of. Néideg, an net genuch soubal de Modell Tools kritt.
- MCP-Sécherheet ass nach méi enk: d'Protokollschicht, déi en Agent mat externen Systemer verbënnt. OWASP MCP Top 10 deckt et of a bleift en Beta-Entworf, also behandelt et als nei opkomend anstatt als ofgeschafft.
- KI-SPM ass d'Gestioun vun der Haltung iwwer KI-Verméigen, de Géigestéck vun ASPMEt beäntwert wat existéiert, net wat engem Agent erlaabt ass ze maachen.
- Identitéit an Zougang Gestioun besëtzt e reellen Deel dovun, awer konventionell IAM geet vun engem Mënsch oder engem Service aus, net vun engem net-deterministeschen Akteur, deen säin eegene nächste Schrëtt entscheet.
Kader, op déi et sech lount ze verankeren #
Beurdeelt e Kader no sengem Publikatiounsstatus, net no deem, wéi aktuell e kléngt.
Wat d'Reguléierung ugeet, sidd virbereetcise. Déi EU AI Act setzt Dokumentatiouns- a Kontrollpflichten op bestëmmte Systemer op, an en Agenteninventar liwwert Beweiser dofir. Keng Reglementatioun nennt de Moment Agenten-KI-Sécherheet als obligatoresch Kontroll, an d'Behaaptung vum Géigendeel féiert zu enger Korrektur, déi Dir an engem Beschaffungszyklus net wëllt.
Vun der Definitioun zum Programm #
D'Bedeitung vun der agentescher KI-Sécherheet spillt nëmmen eng Roll, wann et zu enger Lëscht vun Agenten, Tools an Identitéiten gëtt, déi Dir tatsächlech gesitt.
Dat ass d'Reiefolleg, déi d'Aarbecht verfollegt. Entdeckt d'Agenten, MCP-Serveren, Fäegkeetsdateien an KI-Verméigen, déi scho präsent sinn, och déi, déi net deklaréiert sinn. Bewäert se no reellen Attackweeër anstatt no der rauer Gravitéit. Da setzt d'Politik ëm op deem Punkt, wou en onséchert Pak, Modell oder Tool soss ausgefouert géif ginn.
Xygeni deckt déi dräi Beweegungen am ganze Code of, pipeline an Endpunkt, an engem Risikomodell niewent den Applikatiounsresultater, déi Dir scho verwaltet. Plangt eng Demo fir Ären eegenen Agent- an KI-Inventar ze gesinn.
FAQ #
KI, déi an Ärem Numm handelt, bannent de Grenzen halen, déi Dir gewielt hutt: d'Tools, déi se uruffe kann, d'Identitéit, déi se benotzt, wat se sech späichert a wat se ausféiere däerf.
Dës Agentkonfiguratioun gëtt wéi Code iwwerpréift, all Agent leeft mat senger eegener Scoped-Identitéit, an onsécher Installatiounen oder net genehmegt MCP-Server ginn op der Maschinn blockéiert anstatt an enger Postmortem-Untersuchung entdeckt ze ginn.
Prompt Injection ass ee vun den Entréeën, ASI01. Agentic AI Sécherheet deckt of, wat duerno geschitt: op wéi en Tool den entfouerten Agent kënnt, ënner wiem seng Umeldungsinformatiounen, an ob d'Aktioun réckgängeg gemaach ka ginn.
Bal sécher jo. Programméierassistenten mat Toolzougang a MCP-Verbindunge sinn Agenten. Déi meescht Organisatiounen bedreiwen se ier iergendeen sech formell dofir entscheet.
Applikatiounssécherheet, Zesummenaarbecht mat Identitéit. D'Verméigen sinn a Repositories, pipelines an Entwécklermaschinnen, an d'Opdeelung vum Besëtz tendéiert dozou, en zweete Réckstau ze produzéieren anstatt manner Risiko.
