Categoria: IA

Segurança do GitHub Copilot

Segurança do GitHub Copilot: Os riscos reais do código escrito por IA e como controlá-los

O GitHub Copilot escreve uma parte crescente do seu código e agora também executa comandos e abre... pull requests e instala pacotes. Aqui estão os riscos reais de segurança do GitHub Copilot, desde injeção imediata e vazamento de segredos até pacotes alucinados, o que os controles integrados do GitHub abrangem e sete etapas para manter o código escrito por IA sob controle.
9 min read
incidente de segurança de abraço facial

Incidente de segurança na Hugging Face: como um agente de IA invadiu a plataforma e o que corrigir na sua própria infraestrutura. Pipeline

Um agente de IA transformou um conjunto de dados maliciosos em acesso aos clusters internos da Hugging Face, sem nenhum ataque humano por trás disso. Veja o que aconteceu no incidente de segurança da Hugging Face e por que isso é importante para todas as equipes que trabalham com IA. pipelines ou agentes de IA, e seis etapas para preencher as mesmas lacunas em seu próprio ambiente.
10 min read
Segurança do agente de IA

Segurança de agentes de IA: conheça cada agente, identifique os riscos e proteja o que ele instala.

Os agentes de IA não apenas respondem, eles agem: acionam ferramentas, armazenam credenciais e instalam pacotes por conta própria. Veja como a segurança de agentes de IA funciona em quatro etapas, desde um inventário de todos os agentes em seu código até a proteção do que os agentes instalam.
10 min read
Xygeni na ENISE 2026: Segurança do agente de codificação de IA

Quem decidiu que a versão poderia ser lançada? Lições de segurança para agentes de codificação de IA da ENISE 2026

Na ENISE 2026, o CEO da Xygeni, Jesús Cuadrado, mostrou como uma única frase em uma issue do GitHub levou a uma publicação não autorizada, e deixou CISOs com quatro perguntas sobre agentes de codificação de IA.
8 min read
OWASP Agentic AI Top 10

OWASP Agentic AI Top 10 explicado: ASI01–ASI10

A lista OWASP Agentic AI Top 10 descreve as dez maneiras pelas quais os agentes de IA falham. Veja o que ASI01 a ASI10 realmente significam na prática. pipeline, onde cada risco se instala e quais podem ser eliminados antes da implementação.
11 min read
Ataque de Extração de Modelo

Ataque de Extração de Modelo: Por que o Inventário Vem em Primeiro Lugar

Um ataque de extração de modelo permite que um invasor copie seu modelo uma consulta por vez, sem que haja violação de segurança ou roubo de arquivos. Veja como funciona o roubo de modelos e por que a primeira defesa é conhecer todos os endpoints de inferência que você expõe.
8 min read
Risco e raio de impacto da IA ​​agente

Risco e raio de impacto da IA ​​agente: limitar o agente ou recuperar mais rapidamente?

Restringir o agente, recuperar mais rapidamente ou contê-lo por baixo? Três profissionais, três respostas e um mínimo em que todos concordaram.
13 min read
Engenharia de aproveitamento de agentes

Engenharia de suporte do agente: o modelo não é a superfície de ataque, o suporte é

A engenharia de agentes transforma modelos em agentes úteis. Ela também oferece aos atacantes um novo alvo: os arquivos que informam ao seu agente o que ele pode fazer.
7 min read
Segurança de aplicativos de IA

Segurança de aplicações de IA: o que ouvimos na OWASP Porto e Karlsruhe

A segurança de aplicações de IA dominou os eventos OWASP Porto e Karlsruhe. O quê? ASPM é realmente assim, e como difere de SASTE onde a triagem e a remediação por IA ajudam.
8 min read
gerenciamento de risco de IA

Gestão de riscos em IA: duas disciplinas, um inventário

Quatro termos de pesquisa, duas funções completamente diferentes. Gerenciar o risco da IA ​​não é a mesma disciplina que usar IA para gerenciamento de riscos, e a maioria das organizações está contratando para uma função enquanto são convencidas a usar a outra. O interessante é o que acontece quando você percebe que se trata do mesmo programa.
9 min read
Métricas de risco de IA

Riscos da IA: As métricas que indicam se sua estratégia de IA ativa está funcionando.

Todas as diretorias agora fazem a mesma pergunta: qual é o nosso risco em relação à IA? A maioria das equipes responde com adjetivos. Aqui estão as métricas de risco de IA que geram um número, a origem de cada uma e o que uma estratégia de IA orientada a agentes precisa abranger para que qualquer uma delas faça sentido.
9 min read
Ameaças à segurança da IA

As 10 principais ameaças à segurança da IA ​​e como mapeá-las.

Duas coisas são classificadas sob o mesmo título, mas não se tratam do mesmo problema. Ataques a sistemas de IA e ataques impulsionados por IA exigem controles diferentes, responsáveis ​​diferentes e evidências diferentes. Dez ameaças, divididas em duas metades, e a etapa que precede todas elas.
10 min read