Kategorie: AI

Zabezpečení Copilota na GitHubu

Zabezpečení GitHubu Copilot: Skutečná rizika kódu psaného umělou inteligencí a jak je kontrolovat

GitHub Copilot píše stále větší podíl vašeho kódu a nyní také spouští příkazy, otevírá pull requests a instaluje balíčky. Zde jsou skutečná bezpečnostní rizika GitHub Copilot, od promptního vkládání a úniků tajných informací až po falešné balíčky, co pokrývají vestavěné ovládací prvky GitHubu a sedm kroků, jak udržet kód psaný umělou inteligencí pod kontrolou.
9 min čtení
bezpečnostní incident objímající obličej

Bezpečnostní incident Hugging Face: Jak agent umělé inteligence narušil platformu a co je třeba opravit ve svém vlastním systému Pipeline

Agent umělé inteligence proměnil jednu škodlivou datovou sadu v přístup k interním clusterům Hugging Face, aniž by za tím stál lidský útočník. Zde je to, co se stalo při bezpečnostním incidentu Hugging Face a proč je to důležité pro každý tým, který používá umělou inteligenci. pipelinenebo agenty s umělou inteligencí a šest kroků k odstranění stejných mezer ve vašem vlastním prostředí.
10 min čtení
Zabezpečení agentů umělé inteligence

Zabezpečení agentů s umělou inteligencí: znát každého agenta, zachytit riziko, chránit, co instaluje

Agenti umělé inteligence nejen odpovídají, ale také jednají: volají nástroje, uchovávají přihlašovací údaje a sami instalují balíčky. Zde je návod, jak funguje zabezpečení agentů umělé inteligence ve čtyřech krocích, od inventáře každého agenta ve vašem kódu až po ochranu toho, co agenti instalují.
10 min čtení
Xygeni na ENISE 2026 AI kódovací agent bezpečnost

Kdo rozhodl, že tato verze může být vydána? Bezpečnostní ponaučení agentů s umělou inteligencí z ENISE 2026

Na konferenci ENISE 2026 generální ředitel společnosti Xygeni Jesús Cuadrado ukázal, jak jedna věta v problému na GitHubu vedla k neoprávněnému vydání, a odešel CISOs se čtyřmi otázkami ohledně kódovacích agentů s umělou inteligencí.
8 min čtení
OWASP Agentic AI Top 10

Vysvětlení top 10 OWASP Agentic AI: ASI01–ASI10

Žebříček OWASP Agentic AI Top 10 uvádí deset způsobů, jakými agenti s umělou inteligencí selhávají. Zde je to, co ASI01 až ASI10 ve skutečnosti znamenají v reálném životě. pipeline, kde se jednotlivé rizikové faktory objevují a která z nich můžete před nasazením zastavit.
11 min čtení
Útok na extrakci modelu

Útok na extrakci modelu: Proč je inventář na prvním místě

Útok zaměřený na extrakci modelu umožňuje útočníkovi kopírovat váš model jeden dotaz po druhém, bez narušení bezpečnosti a krádeže souboru. Zde je návod, jak funguje krádež modelu a proč je první obranou znalost každého inferenčního koncového bodu, který zveřejníte.
8 min čtení
Riziko a poloměr výbuchu způsobené umělou inteligencí agenta

Riziko agenta s umělou inteligencí a poloměr výbuchu: omezit agenta, nebo se zotavit rychleji?

Omezit agenta, rychlejší zotavení nebo ho zadržet zdola? Tři odborníci, tři odpovědi a jedno minimum, na kterém se všichni shodli.
13 min čtení
Inženýrství postrojů agentů

Inženýrství postrojů agentů: model není útočnou plochou, ale postroj

Díky inženýrství agentů se modely stávají užitečnými agenty. Útočníkům se tak dostává nový cíl: soubory, které agentovi sdělují, co dokáže.
7 min čtení
Zabezpečení aplikací s umělou inteligencí

Zabezpečení aplikací s umělou inteligencí: Co jsme slyšeli na OWASP Porto a Karlsruhe

Bezpečnost aplikací umělé inteligence dominovala v OWASP Porto a Karlsruhe. ASPM jak se to vlastně liší od SASTa kde pomáhá třídění a náprava pomocí umělé inteligence.
8 min čtení
Řízení rizik AI

Řízení rizik AI: dvě disciplíny, jeden inventář

Čtyři hledané výrazy, dvě zcela odlišné práce. Řízení rizik umělé inteligence není totéž co používání umělé inteligence pro řízení rizik a většina organizací obsazuje jeden program, zatímco druhý je jim prodáván. Zajímavé je, co se stane, když si uvědomíte, že se jedná o stejný program.
9 min čtení
Metriky rizik umělé inteligence

Riziko umělé inteligence: Metriky, které vám prozradí, zda vaše strategie agentní umělé inteligence funguje

Každá správní rada si nyní klade stejnou otázku: jaké je naše riziko spojené s umělou inteligencí? Většina týmů odpovídá přídavnými jmény. Zde jsou metriky rizika umělé inteligence, které produkují číslo, odkud každá z nich pochází a co musí agentní strategie umělé inteligence zahrnovat, než kterákoli z nich začne něco znamenat.
9 min čtení
Bezpečnostní hrozby umělé inteligence

10 největších bezpečnostních hrozeb v oblasti umělé inteligence a jak je zmapovat

Dvě věci se skládají pod jeden nadpis a nejedná se o stejný problém. Útoky na systémy umělé inteligence a útoky poháněné umělou inteligencí vyžadují různé kontroly, různé vlastníky a různé důkazy. Deset hrozeb rozdělených na dvě poloviny a jeden krok, který jim všem předchází.
10 min čtení