Ein Finanzangestellter des Ingenieurbüros Arup nahm an einem Videoanruf teil. Mit mehreren Kollegen, darunter dem Finanzchef des Unternehmens. Jeder von ihnen war ein KI-generierter Deepfake. Das Gespräch endete mit der Überweisung von 25 Millionen Dollar an die Angreifer. Keine Malware, kein Phishing-Link, keine ausgenutzte Sicherheitslücke: nur KI, so überzeugend eingesetzt, dass das Vertrauen den Rest erledigte. Dieser Vorfall verdeutlicht, warum KI in der Cybersicherheit zum bestimmenden Thema des Fachgebiets geworden ist. Dieselbe Technologie, die diesen Deepfake ermöglichte, deckt andernorts in der Branche die Anomalie auf, die ihn hätte stoppen können. Dieser Leitfaden zur KI-Sicherheit beleuchtet beide Seiten: wie KI angreift, wie KI sich verteidigt und was das für die zukünftigen Schwerpunkte von Sicherheitsteams bedeutet.
KI in der Cybersicherheit, in einem Absatz
KI in der Cybersicherheit bezeichnet den Einsatz von maschinellem Lernen, natürlicher Sprachverarbeitung und großen Sprachmodellen auf beiden Seiten desselben Kampfes: zum Starten von Angriffen und zum Erkennen und Stoppen dieser Angriffe. Angreifer nutzen KI, um überzeugende Phishing-Inhalte zu generieren, Stimmen und Gesichter zu klonen und Systeme schneller zu scannen als ein menschliches Team. Verteidiger verwenden dieselben grundlegenden Techniken (Mustererkennung in riesigen Datenmengen, Verarbeitung natürlicher Sprache, Verhaltensmodellierung), um Anomalien zu erkennen, Fehlalarme auszublenden und zu reagieren, bevor der Schaden sich vergrößert. Das Ergebnis ist eine Technologie mit doppeltem Verwendungszweck innerhalb einer einzigen Branche. Deshalb lässt sich KI in der Cybersicherheit nicht eindeutig in „gut“ und „schlecht“ einteilen. Sie ist eine Fähigkeit, und wer sie schneller und effektiver einsetzt, ist im Vorteil.cisEly hat derzeit den Vorteil.
KI als Angriffsvektor
- KI-generiertes Phishing im industriellen Maßstab. Früher konnte man Phishing anhand bestimmter Merkmale erkennen: ungeschickte Formulierungen, allgemeine Begrüßungen, offensichtlich gefälschte Domains. Künstliche Intelligenz hat die meisten dieser Merkmale beseitigt. Laut Hoxhunts Phishing-Trendbericht 2026KI-generiertes Phishing stieg von 4 % aller gemeldeten Phishing-Versuche im November 2025 auf 56 % im Dezember 2025 – eine Vervierzehnfachung innerhalb eines Monats – und lag bis Mitte 2026 bei rund 40 % aller gemeldeten Phishing-Versuche. Die Effektivitätslücke ist ebenso eklatant: Studie mit menschlichen Probanden von Forschern der Harvard Kennedy School Eine Studie ergab, dass vollautomatisierte Spear-Phishing-E-Mails mit KI eine Klickrate von 54 % erzielten. Damit erreichten sie die Ergebnisse erfahrener menschlicher Experten und übertrafen die Klickrate von 12 % der generischen Phishing-E-Mails der Kontrollgruppe deutlich. KI schreibt also nicht einfach nur mehr Phishing-E-Mails, sondern solche, die funktionieren.
- Deepfakes, die auf Vertrauen abzielen, nicht auf Infrastruktur. Das Arup-Fall Das oben Genannte ist kein Einzelfall mehr, sondern ein Musterbeispiel. KI-generierte Sprach- und Videoaufnahmen sind so überzeugend, dass sie in einem Live-Anruf als echte Führungskraft durchgehen könnten. Social Engineering wandelt sich so von „jemanden zum Klicken verleiten“ zu „jemanden glauben lassen, er sähe seinen Finanzchef“. Das ist ein grundlegend schwierigeres Problem für Schulungen zur Sensibilisierung für IT-Sicherheit, da die Täuschung auf der Wahrnehmungsebene und nicht auf der technischen Ebene stattfindet.
- Schnellere Aufklärung und adaptive Malware. Über Social Engineering hinaus verkürzt KI die Distanz zwischen „Angreifer hat eine Idee“ und „Angreifer hat einen funktionierenden Exploit“. Große Sprachmodelle können die Schwachstellensuche im öffentlich zugänglichen Code und der Infrastruktur eines Ziels beschleunigen, und adaptive Malware kann ihr eigenes Verhalten während der Ausführung ändern, wenn sie erkennt, dass sie in einer Sandbox analysiert wird – eine Fähigkeit, die früher einen erfahrenen menschlichen Bediener erforderte, der in Echtzeit überwachte.
- Angriffe auf Anmeldeinformationen in Maschinengeschwindigkeit. Indem man geleakte Zugangsdaten in ein Modell einspeist, um die Muster zu lernen, die Menschen tatsächlich verwenden, wenn sie glauben, bei einem Passwort besonders clever zu sein, wird das Ausprobieren von Passwörtern zu einer Methode, die der Vorhersage näherkommt. In Kombination mit automatisiertem Credential Stuffing komprimiert dies einen ehemals langsamen und unauffälligen Angriff in einen schnellen und unauffälligen.
KI als Verteidigungsinstrument
- Anomalieerkennung in einem Umfang, den Menschen nicht erreichen können. Der zentrale defensive Nutzen von KI liegt in der Verarbeitung großer Mengen an Netzwerkverkehr. login Aktivitäts- und Systemprotokolle, die kein Analystenteam manuell überprüfen könnte, werden erfasst und Abweichungen von einer festgelegten Basislinie gekennzeichnet. Dadurch werden Angriffe ohne bekannte Signatur aufgedeckt, darunter Zero-Day-Exploits und Insider-Missbrauch, die keine regelbasierte Warnung auslösen würden.
- Die Alarmwarteschlange wird verkürzt, anstatt sie zu verlängern. Hier liegt auch der unmittelbarste operative Nutzen von KI in der Cybersicherheit, und hier hat die Branche noch echte Arbeit zu leisten. Vectra AIs Forschung für 2026 Die Studie ergab, dass Organisationen durchschnittlich 2,992 Sicherheitswarnungen pro Tag erhalten, von denen 63 % nicht untersucht werden, und Microsoft und Omdia Lage des SOC: Jetzt vereinheitlichen oder später zahlen berichten Es wurde festgestellt, dass 46 % aller Warnmeldungen Fehlalarme sind und 42 % gar nicht untersucht werden. KI-gestützte Triage fügt diesem Problem nicht einfach nur einen weiteren Detektor hinzu. Richtig eingesetzt, ordnet sie zusammengehörige Warnmeldungen einem einzigen Vorfall zu, bewertet, welche Meldungen tatsächlich menschliche Aufmerksamkeit erfordern, und ermöglicht es Analysten, ihre Zeit auf die Warnmeldungen zu konzentrieren, die ein echtes Risiko darstellen, anstatt die übrigen manuell zu schließen.
- Malware- und Verhaltensklassifizierung jenseits bekannter Signaturen. Der gleiche Verhaltensanalyseansatz, der anomale Netzwerkaktivitäten erkennt, funktioniert auch bei Dateien und Paketen: Anstatt mit einer Liste bekannter schädlicher Signaturen abzugleichen, kann die KI das Verhalten während der Installation, ungewöhnliche Systemaufrufe und Verschleierungsmuster bewerten, um Malware, die noch nie zuvor gesehen wurde, in dem Moment zu erkennen, in dem sie auftaucht, und nicht erst, nachdem sie identifiziert wurde.
- Automatisierte, begrenzte Antwort. Erkennung ohne Reaktion verzögert lediglich. KI-gestützte Reaktionen können ein betroffenes Gerät isolieren, verdächtigen Datenverkehr blockieren und die Eindämmung automatisch einleiten. So verkürzt sich die Zeitspanne zwischen „Wir haben es gesehen“ und „Wir haben es gestoppt“ in den wichtigsten Fällen von Stunden auf Sekunden.
Warum können dieselben Techniken in beide Richtungen schneiden?
Die unbequeme Wahrheit dieses Leitfadens zur KI-Sicherheit ist, dass Angreifer und Verteidiger häufig dieselbe Basistechnologie für gegensätzliche Zwecke nutzen. Die Technologie zur Erstellung überzeugender Phishing-E-Mails mittels natürlicher Sprachmodellierung ist dieselbe, die verdächtige E-Mails erkennt und korrekt als solche klassifiziert. Die Mustererkennung, die es Schadsoftware ermöglicht, sich anzupassen und eine Sandbox zu umgehen, ist architektonisch ähnlich der Mustererkennung, die das Verhalten der Schadsoftware überhaupt erst als anomal kennzeichnet. Keine der beiden Seiten besitzt ein Monopol auf diese Technologie. Der Vorteil liegt also bei demjenigen, der sie am umfassendsten in seinen Arbeitsablauf integriert, nicht bei demjenigen, der Zugriff auf ein fortschrittlicheres Modell hat.
Diese Symmetrie ist auch der Grund, warum KI in der Cybersicherheit eigene Risiken auf der defensiven Seite birgt. Schlecht konfigurierte KI-Systeme können Fehlalarme auslösen, die das eigentliche Signal im Rauschen untergehen lassen. Sie übernehmen Verzerrungen aus unvollständigen Trainingsdaten und übersehen dadurch ganze Bedrohungsklassen. Zudem können sie selbst Ziel von Angriffen werden, bei denen ein Angreifer ein Erkennungsmodell absichtlich mit irreführenden Daten füttert, um dessen Warnmeldungen zu manipulieren. All das ist jedoch kein Grund, KI in der Verteidigung zu meiden. Vielmehr ist es wichtig, menschliche Expertise für Beurteilungsentscheidungen einzubeziehen und das KI-System selbst als etwas zu betrachten, das überwacht werden muss – nicht als etwas, das man einmalig implementiert und dann unbegrenzt vertraut.
Was dieser Leitfaden zur KI-Sicherheit für Ihr Team bedeutet
Fünf Faktoren unterscheiden Teams, die echten Nutzen aus KI in der Cybersicherheit ziehen, von Teams, die lediglich ein weiteres Tool hinzugefügt haben:
- Warten Sie nicht, bis KI-gestützte Angriffe die Mehrheit bilden, bevor Sie in Ihre Verteidigung investieren. Die obigen Phishing-Daten zeigen, wie schnell eine Minderheitstaktik zur dominanten werden kann. Bauen Sie Ihre Erkennungskapazitäten vor dem Anstieg der Angriffe auf, nicht erst währenddessen.
- Richten Sie die KI zuerst auf Ihre Triage-Warteschlange, nicht nur auf Ihren Perimeter. Der schnellste und messbarste Erfolg für die meisten Teams besteht darin, die Anzahl der Fehlalarme zu reduzieren, die ein Analyst manuell löschen muss, und nicht darin, eine neue Erkennungsebene hinzuzufügen.
- Das Risiko von Deepfakes und Stimmklonen sollte als Prozessproblem und nicht als Technologieproblem betrachtet werden. Kein Erkennungstool kann die Lücke im Arup-Stil vollständig schließen. Eine separate Überprüfung ist für jede Anfrage erforderlich, die Geldtransfers oder Änderungen von Zugangsdaten betrifft.
- Erweitere das gleiche KI-gesteuerte Verhaltensdenken auf den Code und pipelines, nicht nur Netzwerkverkehr. Angreifer nehmen zunehmend die Software-Lieferkette direkt ins Visier (bösartige Pakete, halluzinierte Abhängigkeiten, ungeprüfte Agentenanweisungen), eine Risikokategorie mit eigener Dynamik, die in unserem Leitfaden zur Sicherheit der KI-Lieferkette ausführlich behandelt wird.
- Die Entscheidungen der KI müssen von einem Menschen getragen werden. Automatisierte Reaktionen sind gerade deshalb wertvoll, weil sie schnell sind. Deshalb benötigt man auch einen klaren Eskalationsweg, wenn etwas schiefgeht.
Wohin führt die Entwicklung der KI in der Cybersicherheit?
Zwei Entwicklungen werden die nächsten Jahre prägen. Erstens: Angreifer konzentrieren sich auf weniger, aber überzeugendere Taktiken anstatt auf zahlreiche, plumpe: KI-generierte Phishing-Angriffe und Deepfakes streuen nicht, sondern fangen Angriffe gezielter ein. Zweitens: Verteidiger wandeln sich von „Erkennen und Alarmieren“ hin zu „Erkennen, Bewerten und Handeln, bevor ein Ticket erstellt wird“. Genau diese Entwicklung schließt die Lücke zwischen den 2,992 täglichen Warnmeldungen, mit denen die meisten SOCs konfrontiert sind, und dem Bruchteil davon, der tatsächlich untersucht wird. Die führenden Unternehmen setzen diese Entwicklung überall dort um, wo KI bereits in ihrer Umgebung zum Einsatz kommt – also nicht nur im Netzwerkverkehr, sondern auch im Code ihrer Entwickler.
Xygenis Standpunkt: KI-Sicherheit muss den Code umfassen, nicht nur den Posteingang.
Die meisten Berichte über KI in der Cybersicherheit enden beim SOC: Phishing, Malware, Netzwerkanomalien. Das ist notwendig, aber auch unvollständig, denn ein wachsender Anteil KI-bedingter Risiken liegt mittlerweile direkt im Softwareentwicklungszyklus, wo die SOC-Tools nicht hinschauen.
Xygenis CoreAI wendet das gleiche verhaltensbasierte, anomaliebasierte Denken, das in diesem Leitfaden beschrieben wird, speziell auf die Anwendungssicherheit an: Korrelation der Ergebnisse über Ihre bestehenden Scanner hinweg (nicht nur Xygenis eigene), Bewertung dessen, was tatsächlich ausnutzbar ist, anstatt Teams mit einer unkontrollierten Anzahl von Warnmeldungen zu überfluten, Erläuterung der Relevanz eines bestimmten Risikos und Generierung einer Abhilfemaßnahme. pull request statt eines weiteren Tickets aus dem Backlog. DevAI Diese defensive Haltung wird auf den neuesten Teil der Angriffsfläche ausgeweitet: KI-Programmierung von Agenten und Assistenten, Validierung von Skill-Dateien und Agentenanweisungen sowie Blockierung einer schädlichen Installation, bevor ein Agent darauf zugreifen kann. Das Ziel ist dasselbe, für das dieser Leitfaden auf SOC-Ebene plädiert, angewendet auf die KI-gestützte Programmierung von Agenten und Assistenten. pipeline: Den Vorteil der KI in Bezug auf Lautstärke und Geschwindigkeit in einen Vorteil für den Verteidiger anstatt für den Angreifer verwandeln.
Kostenlos starten. Sign up with GitHubMelden Sie sich bei GitLab oder Google an und erhalten Sie Einblick in bis zu 25 Repositories und 50 KI-Scans pro Monat kostenlos und ohne Kreditkarte.
FAQ
Was ist KI in der Cybersicherheit?
Künstliche Intelligenz (KI) in der Cybersicherheit bezeichnet den Einsatz von maschinellem Lernen, natürlicher Sprachverarbeitung und großen Sprachmodellen sowohl auf der Angreifer- als auch auf der Verteidigungsseite. Angreifer nutzen sie, um überzeugende Phishing-Inhalte, Deepfakes und adaptive Malware zu erstellen; Verteidiger verwenden dieselben grundlegenden Techniken zur Anomalieerkennung, Alarmpriorisierung und automatisierten Reaktion.
Ist KI als Angriffswerkzeug gefährlicher oder als Verteidigungswerkzeug nützlicher?
Keine der beiden Seiten hat einen dauerhaften Vorteil, da beide auf derselben grundlegenden Technologie basieren. Die Organisationen, die KI noch nicht im gleichen Tempo defensiv eingesetzt haben wie Angreifer offensiv, sind stärker gefährdet – nicht diejenigen, die einen technologischen Rückstand nicht aufholen können.
Kann KI menschliche Analysten in einem SOC vollständig ersetzen?
Nein, und die Risiken eines solchen Versuchs (falsch-positive Ergebnisse durch schlecht abgestimmte Modelle, Verzerrungen durch unvollständige Trainingsdaten und die Manipulation des Erkennungssystems selbst) sind genau der Grund, warum menschliche Aufsicht weiterhin notwendig ist. Der eigentliche Wert von KI liegt darin, die Warteschlange zu verkürzen, sodass sich Analysten auf die Beurteilungen konzentrieren können, die noch menschliche Expertise erfordern.
Inwiefern unterscheidet sich das Risiko KI-gesteuerter Angriffe speziell für Softwareentwicklungsteams?
Neben Phishing und Deepfakes sind Entwicklungsteams innerhalb der KI-Umgebung mit spezifischen Risiken konfrontiert. SDLC KI-Programmierer installieren irreführende oder bösartige Abhängigkeiten, ungeprüfte Agentenanweisungen in Skill-Dateien und KI-generierter Code reproduziert fest codierte Geheimnisse. Dieser Aspekt der KI in der Cybersicherheit wird in unserem ausführlicheren Artikel behandelt. Leitfaden zur KI-gestützten Lieferkettensicherheit.
