Blog Xygeni

A engenharia de agentes transforma modelos em agentes úteis. Ela também oferece aos atacantes um novo alvo: os arquivos que informam ao seu agente o que ele pode fazer.

A segurança de aplicações de IA dominou os eventos OWASP Porto e Karlsruhe. O quê? ASPM é realmente assim, e como difere de SASTE onde a triagem e a remediação por IA ajudam.

Quatro termos de pesquisa, duas funções completamente diferentes. Gerenciar o risco da IA ​​não é a mesma disciplina que usar IA para gerenciamento de riscos, e a maioria das organizações está contratando para uma função enquanto são convencidas a usar a outra. O interessante é o que acontece quando você percebe que se trata do mesmo programa.

Todas as diretorias agora fazem a mesma pergunta: qual é o nosso risco em relação à IA? A maioria das equipes responde com adjetivos. Aqui estão as métricas de risco de IA que geram um número, a origem de cada uma e o que uma estratégia de IA orientada a agentes precisa abranger para que qualquer uma delas faça sentido.

Duas coisas são classificadas sob o mesmo título, mas não se tratam do mesmo problema. Ataques a sistemas de IA e ataques impulsionados por IA exigem controles diferentes, responsáveis ​​diferentes e evidências diferentes. Dez ameaças, divididas em duas metades, e a etapa que precede todas elas.

Descubra os detalhes da campanha 24712-pl e os pacotes de dependência zero explorados durante um incidente de segurança.