Categoria: AI

Seguretat del copilot de GitHub

Seguretat del copilot de GitHub: els riscos reals del codi escrit per IA i com controlar-los

El Copilot de GitHub escriu una part creixent del vostre codi i ara també executa ordres, obre pull requests i instal·la paquets. Aquests són els riscos de seguretat reals de GitHub Copilot, des de la injecció ràpida i els secrets filtrats fins als paquets al·lucinats, què cobreixen els controls integrats de GitHub i set passos per mantenir el codi escrit per IA sota control.
9 min llegir
incident de seguretat de la cara abraçada

Incident de seguretat de Hugging Face: com un agent d'IA va violar la plataforma i què cal solucionar pel vostre compte Pipeline

Un agent d'IA va convertir un conjunt de dades maliciós en accés als clústers interns de Hugging Face, sense cap atacant humà al darrere. Això és el que va passar en l'incident de seguretat de Hugging Face i per què és important per a tots els equips que executen IA. pipelineo agents d'IA, i sis passos per tancar les mateixes llacunes en el vostre propi entorn.
10 min llegir
Seguretat dels agents d'IA

Seguretat dels agents d'IA: coneix cada agent, detecta el risc, protegeix el que instal·la

Els agents d'IA no només responen, sinó que actuen: criden eines, tenen credencials i instal·len paquets pel seu compte. A continuació s'explica com funciona la seguretat dels agents d'IA en quatre passos, des d'un inventari de tots els agents del vostre codi fins a la protecció del que instal·len els agents.
10 min llegir
Xygeni a l'ENISE 2026 Seguretat de l'agent de codificació d'IA

Qui va decidir que aquesta versió es podria enviar? Lliçons de seguretat d'agents de codificació d'IA de l'ENISE 2026

A l'ENISE 2026, el CEO de Xygeni, Jesús Cuadrado, va mostrar com una frase en un problema de GitHub va provocar una publicació no autoritzada i va deixar... CISOS amb quatre preguntes sobre agents de codificació d'IA.
8 min llegir
Els 10 millors de la IA agentica d'OWASP

Explicació dels 10 millors exemples d'IA agentica d'OWASP: ASI01–ASI10

El Top 10 d'OWASP Agentic AI enumera les deu maneres en què els agents d'IA fallen. Això és el que realment signifiquen de l'ASI01 a l'ASI10 en un cas real. pipeline, on entra cada risc i quins podeu aturar abans del desplegament.
11 min llegir
Atac d'extracció de models

Atac d'extracció de models: per què l'inventari és el primer

Un atac d'extracció de models permet a un atacant copiar el vostre model consulta per consulta, sense cap violació ni cap fitxer robat. A continuació s'explica com funciona el robatori de models i per què la primera defensa és conèixer tots els extrems d'inferència que exposeu.
8 min llegir
Risc d'IA agentiva i radi d'explosió

Risc d'IA agentiva i radi d'explosió: limitar l'agent o recuperar-se més ràpidament?

Restringir l'agent, recuperar-se més ràpidament o contenir-lo des de baix? Tres professionals, tres respostes i un mínim en què tots estaven d'acord.
13 min llegir
Enginyeria d'arnès d'agents

Enginyeria d'arnès d'agents: el model no és la superfície d'atac, sinó l'arnès.

L'enginyeria d'arnès d'agents converteix els models en agents útils. També proporciona als atacants un nou objectiu: els fitxers que indiquen al vostre agent què pot fer.
7 min llegir
Seguretat d'aplicacions d'IA

Seguretat de les aplicacions d'IA: què hem sentit a l'OWASP de Porto i Karlsruhe

La seguretat de les aplicacions d'IA va dominar l'OWASP de Porto i Karlsruhe. Què ASPM realment és, com es diferencia de SAST, i on el triatge i la remediació de la IA ajuden.
8 min llegir
Gestió del risc de la IA

Gestió de riscos d'IA: dues disciplines, un inventari

Quatre termes de cerca, dues feines completament diferents. Gestionar el risc de la IA no és la mateixa disciplina que utilitzar la IA per a la gestió de riscos, i la majoria d'organitzacions contracten personal per a una mentre els venen l'altra. La part interessant és què passa quan t'adones que són el mateix programa.
9 min llegir
Mètriques de risc d'IA

Risc d'IA: les mètriques que us indiquen si la vostra estratègia d'IA agentiva està funcionant

Ara totes les juntes es fan la mateixa pregunta: quin és el nostre risc d'IA? La majoria dels equips responen amb adjectius. Aquí teniu les mètriques de risc d'IA que produeixen un número, d'on prové cadascuna i què ha de cobrir una estratègia d'IA agentiva abans que cap d'elles tingui cap significat.
9 min llegir
Amenaces de seguretat de la IA

Les 10 principals amenaces de seguretat de la IA i com cartografiar-les

Dues coses s'enumeren sota el mateix encapçalament i no són el mateix problema. Els atacs a sistemes d'IA i els atacs impulsats per la IA necessiten controls diferents, propietaris diferents i proves diferents. Deu amenaces, dividides en dues meitats, i el pas que les precedeix a totes.
10 min llegir