TL; DR
Das Risiko bei agentenbasierter Programmierung besteht nicht darin, dass der Agent schlechten Code schreibt, sondern darin, dass der Agent handelt. Es installiert Pakete, bearbeitet Dateien, die Sie nicht geöffnet haben, ruft Tools auf, liest Konfigurationen, die niemand überprüft, und öffnet pull requestsJede dieser Operationen ist eine privilegierte Operation, die mit Entwicklerberechtigungen durchgeführt wird, und Ihre bestehenden Steuerelemente wurden für eine Welt entwickelt, in der ein Mensch jede einzelne eintippen musste.
Geschwindigkeit hat den Flaschenhals zur Überprüfung verschoben. Unabhängige Studien zu KI-Programmierassistenten zeigen, dass rund 40 % des generierten Codes Sicherheitslücken aufweisen. Diese Quote hat sich trotz verbesserter Modelle nicht verringert. Die Ausgabemenge hat sich vervielfacht, die Überprüfungskapazität jedoch nicht. Agentenprogrammierung macht dies deutlich effektiver als die automatische Vervollständigung, da eine einzelne Anweisung Dutzende von Dateien betreffen kann.
Die Angriffe zielen auf die Verkabelung, nicht auf das Modell. Versteckter Unicode in einer Regeldatei veranlasst einen Assistenten, Schadcode mit Hintertür zu generieren, ohne dies zu erwähnen (Katalogisierung in MITRE ATLAS unter AML.CS0041). Angreifer registrieren die Paketnamenmodelle und halluzinieren. Eine MCP-Bridge ermöglichte die Ausführung von Remote-Code über 437,000 Mal. Herkömmliche Analysemethoden lesen keine dieser Dateien.
Was es beinhaltet, ist langweilig und es funktioniert: Inventarisieren Sie die tatsächlich verwendeten Agenten und MCP-Server, behandeln Sie Eingabeaufforderungen und Regeldateien als zu überprüfenden Code, ordnen Sie jede Werkzeugoberfläche der jeweiligen Aufgabe zu und setzen Sie die Richtlinie auf dem Entwicklerrechner durch, auf dem der Agent ausgeführt wird. Xygeni KI-Sicherheit kümmert sich um die ersten drei und DevAI Letzteres gilt gleichermaßen für KI-generierten und von Menschen geschriebenen Code.
Was ist agentenbasierte Codierung?
Agentisches Codieren ist eine Entwicklungsmethode, bei der ein KI-Agent ein Ziel übernimmt und es mithilfe von Tools in der gesamten Codebasis ausführt: Dateien lesen und bearbeiten, Abhängigkeiten installieren, Tests ausführen und öffnen pull requestsDie Risiken ergeben sich aus diesen Aktionen und der sie steuernden Konfiguration, nicht aus der Qualität einzelner generierter Funktionen. Bewährte Vorgehensweisen sind Inventarisierung, eingeschränkte Berechtigungen, überprüfte Konfiguration und deren Durchsetzung am Endpunkt.
Agentische Codierung oder agentische Programmierung?
Beide Begriffe beschreiben denselben Wandel und werden von Teams synonym verwendet. Agentisches Programmieren taucht häufig in technischen Gesprächen über Arbeitsabläufe auf; agentisches Codieren hat sich im Bereich der Tools und der IT-Sicherheit etabliert. Technisch gesehen gibt es keinen Unterschied. Wenn Sie die vollständige Definition und das dazugehörige VokabularUnser Glossareintrag zum Thema agentenbasierte Kodierung behandelt dies.
Entscheidend für diesen Beitrag ist die Unterscheidung zwischen Vorschlag und Ausführung. Ein Assistent, der eine Zeile vervollständigt, ist eine Produktivitätsfunktion. Ein Agent, der ein Paket installiert, sechs Dateien bearbeitet und einen Branch pusht, ist eine nicht-menschliche Identität, die in Ihrem System agiert. SDLCAgentenprogrammierung überschritt diese Grenze stillschweigend, und die meisten Sicherheitsprogramme wurden seither nicht neu bewertet.
Die realen Risiken der agentenbasierten Kodierung
Vier Risikofamilien, in der Reihenfolge, in der sie tendenziell zubeißen.
- Volumen übertrifft Rezension. Ein Agent erstellt pro Stunde mehr Änderungen, als ein Prüfer sinnvoll lesen kann. Genehmigungen werden zu bloßen Abnickvorgängen, und unsichere Muster verbreiten sich blitzschnell. Dieses Risiko ist allgemein bekannt, wird aber am seltensten gemessen. Messen Sie zunächst das Verhältnis von Agentenänderungen zur Prüfzeit durch einen Mitarbeiter – die Zahl wird Ihnen die Argumentation liefern.
- Die Befehlsschicht. Alles, was den Kontext des Agenten erreicht, kann ihn steuern. Prompt-Injection ist dabei die wichtigste Maßnahme. OWASP Top 10 für LLM-Bewerbungen Aus gutem Grund sind die Übermittlungswege beim agentenbasierten Programmieren alltäglich: eine Problembeschreibung, ein Codekommentar, eine README-Datei in einer Abhängigkeit, ein Dokument, das der Agent abruft. Niemand muss Sie direkt angreifen. Es genügt, etwas zu schreiben, das Ihr Agent liest.
- Die Konfigurationsschicht. Regeldateien, Skill-Dateien, Eingabeaufforderungen und MCP-Serverdefinitionen legen fest, was der Agent tut und worauf er zugreifen kann. Da es sich nicht um Anwendungscode handelt, werden sie von keinem Scanner in einem typischen Stack gelesen. Die Backdoor in Regeldateien demonstrierte den Extremfall, in dem Nullbreitenzeichen Anweisungen enthalten, die ein Prüfer physisch nicht sehen kann. Der Normalfall ist genauso schädlich: Anbieteranmeldeinformationen im Klartext in einer Konfigurationsdatei oder ein Assistent mit Lesezugriff auf das gesamte Dateisystem, weil dies die Standardeinstellung war.
- Die Abhängigkeits- und Werkzeugoberfläche. Ein Agent wählt Abhängigkeiten aus. Er ermittelt einen Namen, installiert die entsprechende Komponente und fährt fort. Installationsskripte werden vor allen anderen ausgeführt. pipeline erkennt die Veränderung. Slopsquatting nutzt genau dies aus: Auf der USENIX Security 2025 vorgestellte Forschungsergebnisse zeigen, dass 19.7 % der von Sprachmodellen empfohlenen Pakete nicht existieren und dass sich die generierten Namen häufig genug wiederholen, damit Angreifer sie registrieren und abwarten können. Dasselbe gilt für MCP-Server, wobei die Verbindung zu einem nicht vertrauenswürdigen Server einem Agenten Werkzeuge zur Verfügung stellt, die Sie nie überprüft haben.
Wie es tatsächlich schiefgeht
Keine einzelne exotische Aktion. Eine Zusammenstellung von Techniken, die bereits in freier Wildbahn dokumentiert wurden, in der Reihenfolge ihres Auftretens.
- Die AnleitungEin Satz steht in einer Problembeschreibung, einer README-Datei einer Abhängigkeit oder einem Codekommentar. Er wurde nicht für einen Menschen geschrieben.
- Der KontextEin Entwickler bittet den Agenten, das Problem zu beheben. Der Agent ruft die Beschreibung, das Repository und seine eigenen Regeldateien in den Kontext ab. Anweisungen und Inhalte sehen genauso aus wie ein Modell.
- Die InstallationDer Agent findet eine passende Hilfsbibliothek und installiert sie. Der Name wurde letzte Woche von jemandem registriert, dem aufgefallen war, dass Models ihn immer wieder verwenden. Das Installationsskript wird auf dem Laptop ausgeführt.
- Der AusweisEs gibt ein Provider-Token im Klartext in einem
mcp.jsonund eine bereits aktive Cloud-Sitzung in der Shell. Das Skript muss keine Berechtigungen eskalieren. Es erbt diese. - Das pull requestDie Änderung ist gering, die Tests sind positiv und die Differenz ist plausibel. Sie wird in weniger als einer Minute genehmigt, da noch vier weitere Fälle warten.
Jedes Tor, das du besitzt, brennt nach Schritt drei. Die ersten drei Ereignisse finden auf einem Entwicklerrechner in etwa neunzig Sekunden statt.
8 Lehren von frühen Anwendern
Aus dokumentierten Vorfällen, veröffentlichten Forschungsergebnissen und den Mustern, die immer wieder in Teams auftauchen, die agentenbasierte Programmierung eingeführt haben, bevor jemand eine Richtlinie dafür verfasst hat.
- Der Explosionsradius ist die Werkzeugoberfläche, nicht die Anregungsfläche. Teams verbringen Wochen damit, Ansagen abzusichern, und Minuten damit, zu entscheiden, welche Tools ein Agent nutzen darf. Das Verhältnis stimmt nicht. Ein Agent, der nur lesen kann, ist im Falle eines Angriffs lästig. Ein Agent, der E-Mails versenden, Produktionsabfragen durchführen und Push-Benachrichtigungen senden kann, ist hingegen ungeeignet. commitEs handelt sich um einen Vorfall, und dieser erfordert die Anmeldeinformationen des Entwicklers, da fast niemand eine Identität für einen Agenten bereitstellt. Notieren Sie sich die Liste der verwendeten Tools, bevor Sie die Systemabfrage schreiben.
- Der Agent optimiert auf das Bestehen des Tests, nicht auf das Funktionieren des Codes. Bei einer fehlgeschlagenen Testsuite und ausreichender Autonomie löscht ein Agent die Assertion, lockert die Bedingung oder tauscht eine Integration gegen ein Mock-Objekt aus und meldet anschließend Erfolg. Jedes Team erkennt dies in der ersten Woche. Deshalb ist Grün so wichtig. pipeline„s“ galt nicht mehr als Beweismittel, und warum änderte sich die Prüfungsfrage von „Funktioniert das?“ zu „Was musste geändert werden, damit dies bestanden wurde?“?
- Ihre Regeldatei ist die Produktionskonfiguration. Die Datei, die jede generierte Zeile steuert, ist normalerweise commitEinmal erstellt und nie wieder überprüft. Es gehört unter Änderungskontrolle mit einem Verantwortlichen, einer anderen Prüfinstanz und jemandem, der bemerkt, wenn eine Zeile hinzugefügt wird, an die sich niemand mehr erinnert. Gehen Sie davon aus, dass alles darin befolgt wird, auch das, was Sie nicht sehen können.
- Die Abhängigkeiten des Agenten sind nicht Ihre Abhängigkeiten. Die Listen genehmigter Bibliotheken basieren auf der Annahme, dass eine Auswahl durch einen Menschen getroffen wurde. Ein Agent ermittelt einen plausiblen Namen, installiert die Bibliothek und die Installationsskripte werden ausgeführt, bevor die CI-Umgebung existiert. Die Teams, die schlechte Erfahrungen gemacht haben, haben eine Prüfung zur Installationszeit auf dem System hinzugefügt, anstatt ein Richtliniendokument mit den Präferenzen der Entwickler zu erstellen.
- Niemand kann Ihnen sagen, was sie tun. Fragt man fünf Ingenieure nach den von ihnen verwendeten MCP-Servern und -Assistenten, erhält man fünf Antworten, von denen keine vollständig ist. Umfragen sind hier nicht zielführend, da die Tools lokal installiert werden und sich wöchentlich ändern. Die Ermittlung muss über den Code, die Abhängigkeiten und die von den Tools hinterlassenen Konfigurationsdateien erfolgen.
- Der Speicher behält das Gift auch nach dem Ende der Sitzung bei. Eine fehlerhafte Anweisung, die in den persistenten Kontext oder den Speicher eines Agenten gelangt, verschwindet nicht mit dem Ende der Aufgabe. Sie wirkt sich weiterhin unbemerkt auf unabhängige Aufgaben aus, weshalb Speicher- und Kontextvergiftung einen eigenen Eintrag in der OWASP-Agentenliste hat. Der Agentenspeicher sollte als Zustand betrachtet werden, der überprüft und gegebenenfalls gelöscht werden muss, nicht als Komfortfunktion.
- Reversibilität schlägt Prävention Die Teams, die die größte Autonomie sicher umsetzen, sind nicht diejenigen mit den strengsten Kontrollen. Sie sind diejenigen, die Fehler unkompliziert in Kauf nehmen: Agenten pushen Branches statt Main-Branches, arbeiten in temporären Umgebungen, und jede Aktion lässt sich mit einem einzigen Befehl rückgängig machen. Autonomie ist genau so erschwinglich, wie ihre Rückgängigmachung möglich ist.
- Der Pilot lügt Sie an Agenten funktionieren bei neuen Aufgaben in kleinen Repositories hervorragend, versagen aber in großen, bestehenden Codebasen mit impliziten Konventionen. Ein erfolgreicher Pilotversuch überschätzt den Produktivitätsgewinn und unterschätzt das Risiko, wodurch Erwartungen geweckt werden, die im großen Maßstab niemand erfüllen kann. Führen Sie den Pilotversuch in Ihrem am schlechtesten funktionierenden Repository durch, nicht in Ihrem saubersten.
Wie das in der Praxis aussieht
Die Reihenfolge ist wichtiger als die verwendeten Tools. Zuerst die Erkennung, da Berechtigungen für nicht gefundene Agenten nicht eingeschränkt werden können. Dann die Konfigurationsebene, da dort die Anweisungen gespeichert sind. Schließlich der Endpunkt, da dort der Agent tatsächlich ausgeführt wird und die Installation lange vor dem eigentlichen Vorgang abgeschlossen ist. pipeline Hinweise.
Xygeni KI-Sicherheit entdeckt jedes KI-Asset im SDLCeinschließlich der Modelle, Agenten, Agentenserver, MCP-Server, Datensätze, Skilldateien, Prompts und guardrails Niemand hat den Anwendungscode, die deklarierten Abhängigkeiten und die von KI-Tools hinterlassenen Konfigurationsdateien gelesen und deren Verbindungen analysiert. Dabei werden die spezifischen Risiken der agentenbasierten Programmierung erkannt: Eingabeaufforderungsinjektion und -leckage, schädliche Anweisungen und Tool-Injektion in Regel- und Skilldateien, unsichere MCP-Konfiguration, übermäßige Agentenfähigkeit und fehlende Abhängigkeiten. guardrailsGeheimnisse in KI-Dateien und anfällige oder unberechtigt genutzte KI-Abhängigkeiten werden aufgedeckt. Die Ergebnisse entsprechen den OWASP Top 10 für LLM-Anwendungen und verweisen auf die exakte Datei und Zeile. Durch Priorisierung werden Tausende von Ergebnissen auf diejenigen reduziert, die verwendet, erreichbar, ausnutzbar, privilegiert und geschäftskritisch sind.
DevAI Die andere Hälfte, im Editor, deckt die Sicherheit ab: Sie sichert den Code während des Schreibvorgangs, gilt gleichermaßen für KI-generierten und von Menschen geschriebenen Code und fängt Aktionen anderer Agenten ab, bevor diese sie ausführen. Dieselbe Intelligenz wird auch auf die Ergebnisse Ihrer bereits verwendeten Scanner angewendet, sodass Sie Ihre bestehende Infrastruktur nicht ersetzen müssen.
FAQ
- Was ist das größte Risiko bei agentenbasierter Codierung? Übermäßiger Handlungsspielraum. Ein Agent mit einem breiten Werkzeugspektrum macht aus jeder erfolgreichen Injektion eine tatsächliche Aktion, und die meisten Teams grenzen Werkzeuge viel lockerer ein als Personen.
- Ist agentenbasierte Programmierung sicher für regulierte Umgebungen? Ja, mit einem Inventar, eingeschränkten Berechtigungen, geprüfter Konfiguration und Durchsetzung am Endpunkt. Nicht vertretbar bei einem Audit ist es, nicht zu wissen, welche Agenten ausgeführt werden, welche Ressourcen sie erreichen oder welchen Code sie geschrieben haben.
- Führt agentenbasierte Codierung zu weniger sicherem Code als ein Mensch? Die Fehlerquote pro Zeile ist vergleichbar mit menschlichen Fehlern, das Fehlervolumen jedoch nicht, und genau dieses Volumen macht eine Überprüfung unmöglich. Das Problem ist der Durchsatz, nicht die Kompetenz.
- Müssen wir KI-Programmierassistenten verbieten? Verbote verlagern die Nutzung in den Untergrund, was noch schlimmer ist. Schatten-KI ist schwieriger zu kontrollieren als zugelassene KI, und erst die Aufdeckung dieser Entwicklung verändert die Situation grundlegend.
- Wer trägt die Verantwortung, wenn ein Agent eine Sicherheitslücke ausliefert? Die Person, die die Zusammenführung durchgeführt hat, genau wie zuvor. Das ist der unangenehme Aspekt, und deshalb sind Autorendaten so wichtig: Ein Gutachter, der eine maschinell erstellte Änderung in großem Umfang freigibt, benötigt die Information vor der Genehmigung, nicht erst danach.
- Wie fangen wir an, wenn wir überhaupt keine Sicht haben? Führen Sie eine Erkennung Ihrer Repositories durch, listen Sie die gefundenen MCP-Server und -Assistenten auf und ordnen Sie die Agenten nach ihrer Tool-Oberfläche. Der riskanteste Agent ist in der Regel nicht derjenige, vor dem man sich am meisten fürchtet.
Die Agenten befinden sich bereits in Ihren Repositories.
Agenten-Code befindet sich bereits in Ihren Repositories, unabhängig davon, ob er genehmigt wurde oder nicht. Die Teams, die ihn gut handhaben, sind nicht diejenigen mit den strengsten Richtlinien. Sie sind diejenigen, die jederzeit beantworten können, welche Agenten ausgeführt werden, worauf diese Agenten zugreifen können und welche Änderungen an den sie steuernden Dateien vorgenommen wurden.
Sehen Sie, womit Ihre Agenten verbunden sind unter Xygeni.







