KI-gesteuert SDLCKünstliche Intelligenz ist bereits da. Sie kommt nicht mehr erst noch. Sie ist schon da. Sie schreibt Code in unseren IDEs. Sie wählt Bibliotheken aus. Sie öffnet... pull requestsEs führt Schritte in unserem System aus. pipelineDie Frage ist nicht mehr, ob Entwickler KI einsetzen werden. Die Frage ist vielmehr, wie Organisationen dabei Transparenz, Kontrolle und Vertrauen bewahren können.
Die moderne Softwareentwicklung hat bereits das Zeitalter der KI erreicht.
In Entwicklungsunternehmen nutzen Entwickler bereits Copiloten, Programmierassistenten, KI-gestützte IDEs, interne Agenten, MCP-angebundene Tools und zunehmend autonome Arbeitsabläufe als Teil ihrer täglichen Entwicklungsabläufe. Was als Experiment begann, ist schnell zu einem festen Bestandteil des Softwareentwicklungszyklus geworden. Das war das zentrale Thema des jüngsten SafeDev Talks, der von Xygeni veranstaltet wurde: „KI-gesteuert SDLCSie sind bereits da. Und nun?"
Die Sitzung brachte zusammen Sam Stepanyan, Mitglied des globalen OWASP-Vorstands und Leiter des OWASP London Chapters; Ashwini SiddhiOWASP Global Board-Mitglied und führender Experte für Cybersicherheit mit Schwerpunkt auf KI-gesteuerten Umgebungen; und Jesus Cuadrado, CEO bei Xygeni, moderiert von Luis RodriguezForschungsbeauftragter bei Xygeni.
Im Verlauf der Diskussion kristallisierte sich eine klare Botschaft heraus: Die Diskussion um AppSec hat sich grundlegend verändert. Sicherheitsteams bereiten sich nicht länger auf die Einführung von KI in der Softwareentwicklung vor, sondern arbeiten bereits damit.
Wichtigste Erkenntnisse für KI-gesteuerte SDLCs
- KI ist bereits in modernen Systemen integriert. SDLCdurch Kopiloten, Programmierassistenten, autonome Agenten und KI-gestützte Entwicklungswerkzeuge.
- Traditionelle AppSec-Modelle wurden nicht für KI-generierten Code, halluzinierte Abhängigkeiten, autonome Arbeitsabläufe oder die Entwicklung in Maschinengeschwindigkeit entwickelt.
- Schatten-KI entwickelt sich zu einer großen Herausforderung für Transparenz und Kontrolle. CISBetriebssystem- und Anwendungssicherheitsteams.
- Die KI-gestützte Entwicklung führt zu neuen Angriffsflächen, darunter Prompt Injection, bösartige Abhängigkeiten, MCP-Missbrauch und agentenbasierte Arbeitsabläufe.
- Organisationen benötigen KI-fähige Governance-Modelle, die auf Transparenz, Zuordnung, minimalen Berechtigungen und kontinuierlicher Überprüfung basieren.
- Die Branche bewegt sich rasant in Richtung agentenorientierter Politik. SDLCs, wo KI-Systeme aktiv Entwicklungsoperationen durchführen.
Sehen Sie sich die vollständige SafeDev Talk-Session an: KI-gesteuert SDLCSie sind bereits hier
Nachfolgend sind einige der wichtigsten Erkenntnisse aufgeführt, die während der Sitzung besprochen wurden, darunter, wie KI das Bedrohungsmodell für die Anwendungssicherheit verändert und warum CISBetriebssysteme verlieren in Entwicklungsumgebungen an Transparenz, und es stellt sich die Frage, welchen praktischen Kontrollmechanismen Unternehmen Priorität einräumen sollten.
Warum KI-gesteuert SDLC Sicherheit ist jetzt wichtig
Die Einführung von KI in der Softwareentwicklung schreitet schneller voran, als die meisten Governance-Programme sich anpassen können. Da sich Organisationen von Kopiloten hin zu zunehmend autonomen Agenten entwickeln, SDLC wird zunehmend maschinengesteuert, dynamisch und mit traditionellen AppSec-Ansätzen schwieriger zu überwachen.
Für viele CISFür Verantwortliche im Bereich Betriebssysteme und Anwendungssicherheit besteht die Herausforderung nicht mehr darin, ob KI in Entwicklungsumgebungen Einzug hält. Die Herausforderung liegt vielmehr darin, Transparenz, Zuordnung und operative Kontrolle zu gewährleisten, sobald sie bereits im Einsatz ist.
Dieser Wandel zwingt Organisationen bereits jetzt zum Umdenken. software supply chain securityGovernance-Modelle, Transparenz der Entwickler und die Rolle des Vertrauens in modernen Softwareentwicklungsumgebungen.
Die Einführung von KI schreitet schneller voran als die Sicherheitsgovernance.
Eines der zentralen Themen des Gesprächs war die Geschwindigkeit. Wie Luis Rodriguez in seiner Eröffnungsrede erklärte, beschränkt sich KI nicht länger auf Experimente oder isolierte Produktivitätswerkzeuge. Sie ist bereits direkt in Entwicklungsprozesse eingebunden: beim Schreiben von Code, bei der Auswahl von Bibliotheken und bei der Interaktion mit … pipelineund zunehmend auch innerhalb der Softwareinfrastruktur selbst.
Was die Diskussionsteilnehmer am meisten überraschte, war nicht die Existenz der KI-Nutzung, sondern wie weit verbreitet sie bereits ist, oft ohne formale Sichtbarkeit oder Steuerung. Sam Stepanyan beschrieb eine zunehmende Diskrepanz zwischen der offiziellen Sicherheitspolitik und den tatsächlichen Gegebenheiten in Entwicklerteams, insbesondere in regulierten Branchen. Einige Organisationen behaupten weiterhin, sie würden „keine KI einsetzen“, während Entwickler bereits Copiloten, Assistenten und KI-Tools in ihre täglichen Arbeitsabläufe integrieren.
Gleichzeitig wies er auf eine Realität hin, die viele Organisationen noch immer nicht akzeptieren wollen: Selbst Unternehmen, die versuchen, die Einführung von KI zu vermeiden, sehen sich Gegnern gegenüber, die sie bereits aggressiv einsetzen. Diese Spannung führt zu dem, was viele Sicherheitsverantwortliche heute als Schatten-KI innerhalb von Softwareentwicklungsumgebungen bezeichnen – KI-Systeme, die außerhalb etablierter Governance-Modelle operieren.
Ashwini Siddhi brachte eine weitere wichtige Perspektive ein. Was sie beunruhigt, ist nicht nur die Geschwindigkeit der Einführung an sich, sondern auch die mangelnde operative Sorgfalt im Umgang mit KI-generiertem Code. In der Diskussion hob sie hervor, dass Organisationen oft keine verlässliche Zuordnung darüber haben, wo KI beigetragen hat, warum sie bestimmten Code generiert hat oder wie dieser Code verarbeitet wurde.cisDie Ionen sollten später überprüft und validiert werden. Die Schlussfolgerung ist bedeutend: Entwicklungsteams führen nicht-menschliche Mitwirkende in das System ein. SDLCDie meisten Governance- und Überprüfungsmodelle gehen jedoch immer noch ausschließlich von menschlicher Autorschaft aus.
KI beschleunigt nicht nur die Entwicklung. Sie verändert auch die Art und Weise, wie Risiken entstehen. SDLC
Mit der zunehmenden Integration von KI in Softwareentwicklungsprozesse erweitert sich die Angriffsfläche weit über die traditionellen Annahmen der Anwendungssicherheit hinaus. Die Expertenrunde kehrte immer wieder zu einem zentralen Gedanken zurück: Die meisten Sicherheitsprogramme basierten auf bekannten Risiken, die in menschlicher Geschwindigkeit ablaufen. KI verändert beide Bedingungen gleichzeitig.
Sicherheitsteams überprüfen nicht mehr nur von Menschen geschriebenen Code. Sie befassen sich zunehmend mit KI-generierten Abhängigkeiten, Risiken durch Prompt-Injection, autonomen Arbeitsabläufen, MCP-verbundenen Tools, KI-Plugins und Maschinengeschwindigkeit. CI/CD Ausführung.
Ashwini Siddhi erklärte, dass eines der ersten Konzepte, das ins Wanken gerät, die traditionelle Vertrauensgrenze selbst ist. KI-Systeme werden mit riesigen Mengen an öffentlichem Code trainiert, der oft unsicher, veraltet oder nicht vollständig überprüfbar ist. Dadurch verlieren Organisationen die Fähigkeit, klar zu definieren, was innerhalb und was außerhalb der Vertrauensgrenzen liegt.
Sie betonte außerdem, dass KI die Natur der Bedrohungsmodellierung grundlegend verändert, da diese Systeme nicht statisch sind. Traditionelle, punktuelle Sicherheitsüberprüfungen sind in Umgebungen, in denen KI-Systeme ihr Verhalten kontinuierlich weiterentwickeln, anpassen und optimieren, nicht mehr zielführend.
Jesus Cuadrado näherte sich dem Problem aus der Perspektive der Software-Lieferkette. Eines der anschaulichsten Beispiele, die in der Sitzung diskutiert wurden, betraf KI-generierte Abhängigkeiten. Entwickler akzeptieren zunehmend automatisch KI-generierte Paketempfehlungen, oft ohne oder mit nur geringem Validierungsprozess. Dadurch entsteht ein völlig neues Angriffsfeld.
Wie während der Podiumsdiskussion erörtert wurde, können Angreifer halluzinierte Paketnamen identifizieren, die von großen Sprachmodellen generiert werden, diese Pakete in öffentlichen Repositories registrieren und darauf warten, dass Entwickler oder KI-Agenten sie automatisch installieren.
Dies verändert die Annahmen hinter traditionellen Ansätzen dramatisch. SCA Programme. Sicherheitsteams befassen sich nicht mehr nur mit bekannten Schwachstellen. Sie müssen sich zunehmend mit Abhängigkeiten auseinandersetzen, die möglicherweise erst Minuten zuvor aufgetreten sind und bösartiges Verhalten enthalten, das speziell für KI-gestützte Arbeitsabläufe entwickelt wurde.
Die Diskussion befasste sich auch damit, wie Angriffe beginnen, völlig neue Bereiche innerhalb von Entwicklungsumgebungen ins Visier zu nehmen. Prompt-Injection in Kommentaren, manipulierte Anweisungsdateien für Agenten, bösartige MCP-Interaktionen und manipulierte KI-Workflows werden allesamt zu realistischen Angriffsvektoren. Das Ergebnis ist ein Bedrohungsmodell, das umfassender, schneller und weitaus dynamischer ist, als es für die ursprünglichen Anwendungssicherheitsprogramme gedacht war.
CISOs verlieren an Sichtbarkeit im gesamten SDLC
Transparenz entwickelte sich zu einem der zentralen Themen der Diskussion. Wie Luis Rodriguez in der Sitzung zusammenfasste, wissen viele Sicherheitsverantwortliche schlichtweg nicht, welche KI-Tools ihre Entwickler verwenden, welcher KI-generierte Code in die Repositories gelangt oder welche Agenten mit ihnen interagieren. pipelines und Infrastruktur.
Das Expertengremium bezeichnete dies als die Weiterentwicklung von Schatten-IT hin zu Schatten-KI. Anders als frühere Generationen nicht genehmigter Werkzeuge beteiligen sich diese Systeme jedoch aktiv an der Entwicklung.cisIonen. Sie generieren Code, wählen Abhängigkeiten aus, interagieren mit der Infrastruktur und treffen zunehmend operative Entscheidungen im Namen der Entwickler.
Sam Stepanyan hob eine weitere entscheidende Herausforderung hervor: die Zuordnung von Aktionen. Mit der zunehmenden Verbreitung von KI-generiertem Code verlieren Organisationen die Fähigkeit, eindeutig festzustellen, wer (oder was) eine bestimmte Aktion ausgelöst hat.
Dieser Verlust der Nachverfolgbarkeit führt sowohl zu Problemen in der Unternehmensführung als auch im operativen Bereich. Wenn Teams nicht zuverlässig zwischen menschlichem und KI-generiertem Verhalten unterscheiden können, werden die Reaktion auf Sicherheitsvorfälle, Audits und Sicherheitsüberprüfungen deutlich komplizierter.
Die Diskussion berührte auch die zunehmende Tendenz, KI-generierten Ergebnissen übermäßig zu vertrauen. Entwickler gehen oft davon aus, dass KI-generierter Code, weil er zuverlässig und funktionsfähig erscheint, auch sicher sein muss. Wie Sam jedoch betonte, werden diese Systeme häufig mit unsicheren, öffentlich zugänglichen Beispielen trainiert und können mit hoher Wahrscheinlichkeit anfällige oder völlig absurde Ergebnisse generieren. Dadurch entsteht eine gefährliche Kombination: eingeschränkte Transparenz, geringere Zuordnungsmöglichkeiten und zunehmendes Vertrauen in Systeme, die Organisationen nicht vollständig verstehen.
Die Branche bewegt sich stillschweigend in Richtung Agentic. SDLCs
Ein zentraler Diskussionspunkt war der Übergang von Kopiloten zu autonomen Systemen. Die Diskussionsteilnehmer waren sich einig, dass sich die Branche rasant in Richtung eines Systems entwickelt, das zunehmend als agentenbasierte Technologie bezeichnet werden kann. SDLCUmgebungen, in denen KI-Systeme nicht mehr nur Code vorschlagen, sondern aktiv über den gesamten Softwarelebenszyklus hinweg Maßnahmen ergreifen.
KI-Systeme beginnen sich zu öffnen pull requestsSie führt Tests aus, ruft externe Tools auf, modifiziert die Infrastruktur, interagiert mit APIs und arbeitet autonom in verschiedenen Entwicklungsumgebungen. Mit anderen Worten: KI wandelt sich vom Assistenten zum Bediener.
Diese Umstellung verändert das Sicherheitsmodell grundlegend. Wie die Diskussion gezeigt hat, werden Organisationen wahrscheinlich völlig neue Governance-Ansätze benötigen, die sich auf die Identität von KI-Agenten, das Prinzip der minimalen Berechtigungen, die Nachvollziehbarkeit, die menschliche Aufsicht, signierte Aktionen und die kontinuierliche Transparenz des KI-Verhaltens konzentrieren.
Ein besonders eindrucksvolles Beispiel, das während der Sitzung besprochen wurde, betraf ein KI-System, das versuchte, die Endpunktsicherheitsvorkehrungen auf einer Entwickler-Workstation zu deaktivieren, um sein zugewiesenes Ziel zu erreichen.
Dieses Beispiel verdeutlicht eine wichtige Realität in Bezug auf KI-gesteuerte Umgebungen: Diese Systeme optimieren auf Ziele, nicht unbedingt auf Sicherheitsgrenzen. Traditionelle Anwendungssicherheit basierte auf der Überwachung menschlicher Fehler. Die nächste Generation der Anwendungssicherheit wird zunehmend autonomes Verhalten steuern müssen.
Warum KI-gestützte Anwendungssicherheit einen Zero-Trust-Ansatz erfordert
Viele der im SafeDev Talk diskutierten Themen decken sich weitgehend mit dem breiteren Trend hin zu dem, was Xygeni definiert als Zero Trust für das KI-Zeitalter SDLCVertraue nichts, überprüfe alles, auch die KI selbst. Wie im Plattformansatz von Xygeni dargelegt, erweitert KI die Angriffsfläche gleichzeitig über mehrere Ebenen hinweg:
- Erstanbietercode,
- Abhängigkeiten,
- CI/CD pipelines,
- KI-Modelle und -Agenten
- und Entwicklerumgebungen.
Viele dieser Bereiche bleiben für herkömmliche AppSec-Tools weitgehend unsichtbar. Die Herausforderung besteht nicht mehr nur darin, Code auf Schwachstellen zu überprüfen. Unternehmen benötigen zunehmend Einblick in KI-generierte Abhängigkeiten, KI-Aktivitäten in Entwicklungsumgebungen, das Verhalten von Agenten, KI-verbundene Infrastruktur und Interaktionen in der Software-Lieferkette, die in Maschinengeschwindigkeit ablaufen.
Deshalb sind auch Konzepte wie KI-Inventar, KI-bewusst ASPMKI-gestütztes SPM und die Governance von Entwicklerumgebungen rücken immer mehr in den Mittelpunkt moderner AppSec-Diskussionen.
Das SDLC Hat sich bereits geändert
Der SafeDev Talk hat eines ganz deutlich gemacht: KI ist bereits integriert SDLC. Die Branche diskutiert nicht mehr darüber, ob KI-gestützte Entwicklung Realität wird. Dieser Wandel ist in Ingenieursorganisationen jeder Größe bereits im Gange.
Die eigentliche Herausforderung besteht nun darin, Transparenz, Governance, Zuordnung und operative Kontrolle in zunehmend autonomen Entwicklungsumgebungen aufrechtzuerhalten.
Mit der zunehmenden Verbreitung von KI werden die traditionellen Annahmen zur Anwendungssicherheit in Bezug auf Vertrauensgrenzen, menschliche Urheberschaft, Softwareherkunft und statische Governance-Modelle immer mehr an Bedeutung verlieren.
Die Organisationen, die sich am schnellsten anpassen, werden nicht zwangsläufig diejenigen sein, die die Einführung von KI verlangsamen. Sie werden vielmehr diejenigen sein, die in der Lage sind, die KI-gestützte Softwareentwicklung in dem bereits rasanten Tempo zu verstehen, zu steuern und abzusichern.
Setzen Sie die Diskussion bei OWASP Global AppSec EU Wien fort.
Die Diskussion um KI-gesteuerte SDLC Die Sicherheit steht erst am Anfang. Xygeni wird diese Themen auf der OWASP Global AppSec EU in Wien weiter erforschen, wo das Team über KI-gestützte Anwendungssicherheit diskutieren wird. software supply chain security, KI-Governance und die entstehenden Risiken agentenbasierter Entwicklungsumgebungen.
Wenn Sie teilnehmen OWASP Global AppSec EUBesuchen Sie das Xygeni-Team in Wien an Stand G-08!
