Kategoria: AI

Lista OWASP Agentic AI Top 10 wymienia dziesięć przyczyn, dla których agenci AI zawodzą. Oto, co tak naprawdę oznaczają ASI01 do ASI10 w rzeczywistości. pipeline, gdzie pojawia się każde ryzyko i którym z nich można zapobiec przed wdrożeniem.

Atak polegający na ekstrakcji modelu pozwala atakującemu kopiować model po jednym zapytaniu, bez naruszenia prywatności i bez kradzieży pliku. Oto, jak działa kradzież modelu i dlaczego pierwszą obroną jest znajomość każdego punktu końcowego wnioskowania, który ujawniasz.

Ograniczyć agenta, szybciej się zregenerować czy powstrzymać go od dołu? Trzech praktyków, trzy odpowiedzi i jedno minimum, na które wszyscy się zgodzili.

Inżynieria uprzęży agenta zmienia modele w użytecznych agentów. Daje też atakującym nowy cel: pliki, które informują agenta o jego możliwościach.

Bezpieczeństwo aplikacji AI zdominowało OWASP Porto i Karlsruhe. Co ASPM naprawdę jest, czym się różni od SASTi gdzie sztuczna inteligencja pomaga w selekcji i naprawie.

Cztery hasła wyszukiwania, dwa zupełnie różne zadania. Zarządzanie ryzykiem związanym ze sztuczną inteligencją to nie to samo, co wykorzystywanie sztucznej inteligencji do zarządzania ryzykiem, a większość organizacji zatrudnia jedną osobę, a sprzedaje drugą. Ciekawe jest to, co się dzieje, gdy uświadomisz sobie, że to ten sam program.

Każdy zarząd zadaje teraz to samo pytanie: jakie jest nasze ryzyko związane ze sztuczną inteligencją? Większość zespołów odpowiada przymiotnikami. Oto wskaźniki ryzyka związanego ze sztuczną inteligencją, które generują liczbę, skąd się biorą i co musi uwzględnić strategia agentowa sztucznej inteligencji, zanim którakolwiek z nich będzie miała jakiekolwiek znaczenie.

Dwie rzeczy zaliczają się do tej samej kategorii i nie stanowią tego samego problemu. Ataki na systemy sztucznej inteligencji i ataki oparte na sztucznej inteligencji wymagają różnych mechanizmów kontroli, różnych właścicieli i różnych dowodów. Dziesięć zagrożeń, podzielonych na dwie części i jeden krok, który je wszystkie poprzedza.

Poznaj szczegóły kampanii 24712-pl i pakietów o zerowej zależności wykorzystanych podczas incydentu bezpieczeństwa.

Narzędzia do testów penetracyjnych AI to cztery różne formy produktu. Co zmienia się w testach penetracyjnych z udziałem agentów, siedem kryteriów oceny i czego nie można dzięki nim zrobić.

Agenci teraz planują, kodują, sprawdzają, wysyłają i obsługują. Czym zajmuje się agent? SDLC zmiany w każdej fazie, a które stery cicho przestają działać.

Twój ostatni test penetracyjny kodu. Zachowanie testów penetracyjnych AI: przejęte monity, nadużywane narzędzia, wycieki danych. Co testować i jak często.