Kategorie: KI

GitHub Copilot-Sicherheit

GitHub Copilot-Sicherheit: Die realen Risiken von KI-generiertem Code und wie man sie kontrolliert

GitHub Copilot schreibt einen immer größeren Teil Ihres Codes und führt jetzt auch Befehle aus und öffnet… pull requests und installiert Pakete. Hier sind die tatsächlichen Sicherheitsrisiken von GitHub Copilot, von der sofortigen Einschleusung und durchgesickerten Geheimnissen bis hin zu fehlerhaften Paketen, was die integrierten Kontrollmechanismen von GitHub abdecken und sieben Schritte, um KI-generierten Code unter Kontrolle zu halten.
9 min gelesen
Sicherheitsvorfall im Zusammenhang mit Umarmungen

Sicherheitsvorfall bei Hugging Face: Wie ein KI-Agent die Plattform kompromittiert hat und was Sie in Ihrem Unternehmen beheben sollten Pipeline

Ein KI-Agent nutzte einen manipulierten Datensatz, um sich Zugang zu den internen Clustern von Hugging Face zu verschaffen – ganz ohne menschliches Zutun. Hier erfahren Sie, was bei dem Sicherheitsvorfall bei Hugging Face geschah und warum er für jedes Team, das KI einsetzt, relevant ist. pipelines oder KI-Agenten und sechs Schritte, um dieselben Lücken in Ihrer eigenen Umgebung zu schließen.
10 min gelesen
Sicherheit von KI-Agenten

Sicherheit von KI-Agenten: Jeden Agenten kennen, Risiken erkennen, Installationen schützen.

KI-Agenten antworten nicht nur, sie handeln: Sie rufen Tools auf, verwalten Anmeldeinformationen und installieren selbstständig Pakete. Hier erfahren Sie in vier Schritten, wie die Sicherheit von KI-Agenten funktioniert – von der Erfassung aller Agenten in Ihrem Code bis hin zum Schutz der von ihnen installierten Pakete.
10 min gelesen
Xygeni auf der ENISE 2026: Sicherheit von KI-Codierungsagenten

Wer hat die Veröffentlichung freigegeben? Sicherheitslektionen für KI-Codierungsagenten von ENISE 2026

Auf der ENISE 2026 zeigte Xygeni-CEO Jesús Cuadrado, wie ein einziger Satz in einem GitHub-Issue zu einer unautorisierten Veröffentlichung führte, und hinterließ CISOs mit vier Fragen zu KI-Codierungsagenten.
8 min gelesen
OWASP Agentic AI Top 10

OWASP Agentic AI Top 10 erklärt: ASI01–ASI10

Die OWASP Agentic AI Top 10 benennt die zehn häufigsten Fehlerquellen von KI-Agenten. Hier erfahren Sie, was ASI01 bis ASI10 konkret bedeuten. pipeline, wo die einzelnen Risiken entstehen und welche man vor dem Einsatz verhindern kann.
11 min gelesen
Modellextraktionsangriff

Modellextraktionsangriff: Warum die Bestandsaufnahme an erster Stelle steht

Bei einem Modellextraktionsangriff kann ein Angreifer Ihr Modell Abfrage für Abfrage kopieren, ohne dass dabei Sicherheitslücken entstehen oder Dateien gestohlen werden. Im Folgenden wird erklärt, wie Modelldiebstahl funktioniert und warum die erste Verteidigung darin besteht, jeden von Ihnen offengelegten Inferenz-Endpunkt zu kennen.
8 min gelesen
Agentisches KI-Risiko und Explosionsradius

Agenten-KI-Risiko und Wirkungsradius: Agent begrenzen oder schnellere Erholung?

Den Agenten einschränken, schneller erholen oder ihn von unten eindämmen? Drei Praktiker, drei Antworten und ein Minimum, auf das sie sich alle geeinigt haben.
13 min gelesen
Agenten-Harness-Engineering

Agentengeschirr-Engineering: Das Modell ist nicht die Angriffsfläche, das Geschirr ist

Die Entwicklung von Agenten-Harnesses wandelt Modelle in nützliche Agenten um. Sie liefert Angreifern aber auch ein neues Ziel: die Dateien, die Ihrem Agenten seine Fähigkeiten beschreiben.
7 min gelesen
KI-Anwendungssicherheit

KI-Anwendungssicherheit: Was wir auf der OWASP-Konferenz in Porto und Karlsruhe gehört haben

Die Sicherheit von KI-Anwendungen dominierte die OWASP-Konferenzen in Porto und Karlsruhe. ASPM Das ist es wirklich, wie es sich von SASTund wo KI-gestützte Triage und Problembehebung helfen.
8 min gelesen
KI-Risikomanagement

KI-Risikomanagement: Zwei Disziplinen, ein Inventar

Vier Suchbegriffe, zwei völlig unterschiedliche Aufgaben. Das Management von KI-Risiken ist nicht dasselbe wie die Nutzung von KI für das Risikomanagement, und die meisten Unternehmen beschäftigen Personal für das eine, während ihnen das andere verkauft wird. Interessant wird es erst, wenn man erkennt, dass es sich um ein und dasselbe Programm handelt.
9 min gelesen
KI-Risikokennzahlen

KI-Risiko: Die Kennzahlen, die Ihnen zeigen, ob Ihre agentenbasierte KI-Strategie funktioniert

Jedes Management stellt sich heute dieselbe Frage: Wie hoch ist unser KI-Risiko? Die meisten Teams antworten mit Adjektiven. Hier sind die Kennzahlen für KI-Risiken, die einen Zahlenwert liefern, ihre Herkunft und was eine handlungsfähige KI-Strategie berücksichtigen muss, damit diese Kennzahlen aussagekräftig sind.
9 min gelesen
Sicherheitsbedrohungen für KI

Die 10 größten KI-Sicherheitsbedrohungen und wie man sie kartiert

Zwei Dinge werden unter derselben Überschrift zusammengefasst, obwohl sie nicht dasselbe Problem darstellen. Angriffe auf KI-Systeme und KI-gestützte Angriffe erfordern unterschiedliche Kontrollmechanismen, unterschiedliche Verantwortliche und unterschiedliche Beweismittel. Zehn Bedrohungen, aufgeteilt in zwei Hälften, und der eine Schritt, der allen vorausgeht.
10 min gelesen