Блог на Xygeni

Агентите на вештачката интелигенција не само што одговараат, туку дејствуваат: тие повикуваат алатки, чуваат акредитиви и инсталираат пакети сами. Еве како функционира безбедноста на агентите на вештачката интелигенција во четири чекори, од попис на секој агент во вашиот код до заштита на она што агентите го инсталираат.

На ENISE 2026, извршниот директор на Xygeni, Хесус Куадрадо, покажа како една реченица во едно прашање на GitHub довела до неовластено објавување и си заминал CISОС со четири прашања за агенти за кодирање со вештачка интелигенција.

Топ 10 на OWASP за агентска вештачка интелигенција ги наведува десетте начини на кои агентите за вештачка интелигенција не успеваат. Еве што всушност значат ASI01 до ASI10 во реална смисла pipeline, каде се појавува секој ризик и кои можете да ги спречите пред распоредување.

Нападот со екстракција на модел му овозможува на напаѓачот да го копира вашиот модел, едно по едно барање, без прекршување и без украдена датотека. Еве како функционира кражбата на модел и зошто првата одбрана е познавањето на секоја крајна точка на инференција што ја откривате.

Да се ​​ограничи агентот, да се опорави побрзо или да се ограничи одоздола? Тројца практичари, три одговори и еден минимум за кој сите се согласија.

Инженерството за искористување на агенти ги претвора моделите во корисни агенти. Исто така, им дава на напаѓачите нова цел: датотеките што му кажуваат на вашиот агент што може да направи.