Categoría: IA

Seguridad de GitHub Copilot

Seguridad de GitHub Copilot: Los riesgos reales del código escrito por IA y cómo controlarlos.

GitHub Copilot escribe una parte cada vez mayor de tu código y ahora también ejecuta comandos y abre pull requests e instala paquetes. Estos son los riesgos reales de seguridad de GitHub Copilot, desde la inyección de comandos y la filtración de Secretos hasta paquetes ficticios, qué cubren los controles integrados de GitHub y siete pasos para mantener bajo control el código escrito por IA.
9 minutos de lectura
incidente de seguridad con rostro abrazo

Incidente de seguridad de Hugging Face: cómo un agente de IA violó la plataforma y qué debe solucionar en la suya propia. Pipeline

Un agente de IA convirtió un conjunto de datos maliciosos en acceso a los clústeres internos de Hugging Face, sin la intervención de ningún atacante humano. Esto es lo que sucedió en el incidente de seguridad de Hugging Face y por qué es importante para todos los equipos que utilizan IA. pipelineagentes de IA y seis pasos para cerrar las mismas brechas en su propio entorno.
10 minutos de lectura
Seguridad del agente de IA

Seguridad de los agentes de IA: conozca a cada agente, detecte el riesgo, proteja lo que instala.

Los agentes de IA no solo responden, sino que actúan: llaman a herramientas, almacenan credenciales e instalan paquetes por sí mismos. A continuación, se explica cómo funciona la seguridad de los agentes de IA en cuatro pasos, desde un inventario de todos los agentes en su código hasta la protección de lo que instalan.
10 minutos de lectura
Xygeni en ENISE 2026: Seguridad de agentes de codificación de IA

¿Quién decidió que se podía lanzar la versión? Lecciones de seguridad de agentes de codificación de IA de ENISE 2026

En ENISE 2026, el CEO de Xygeni, Jesús Cuadrado, mostró cómo una frase en un problema de GitHub condujo a una publicación no autorizada y dejó CISOs con cuatro preguntas sobre agentes de codificación de IA.
8 minutos de lectura
Los 10 principales problemas de IA agencial de OWASP

Explicación de los 10 principales problemas de IA agencial de OWASP: ASI01–ASI10

El Top 10 de IA Agentic de OWASP enumera las diez formas en que fallan los agentes de IA. Aquí te explicamos qué significan realmente ASI01 a ASI10 en un contexto real. pipeline, dónde entra cada riesgo y cuáles se pueden detener antes de la implementación.
11 minutos de lectura
Ataque de extracción de modelos

Ataque de extracción de modelos: por qué el inventario es lo primero.

Un ataque de extracción de modelos permite a un atacante copiar tu modelo consulta por consulta, sin infringir la seguridad ni robar ningún archivo. A continuación, te explicamos cómo funciona el robo de modelos y por qué la primera medida de defensa consiste en conocer todos los puntos de inferencia que expones.
8 minutos de lectura
Riesgo y radio de explosión de la IA agente

Riesgo y radio de explosión de la IA con agentes: ¿limitar al agente o recuperarse más rápido?

¿Restringir al agente, recuperarlo más rápido o contenerlo desde abajo? Tres expertos, tres respuestas y un mínimo en el que todos coincidieron.
13 minutos de lectura
Ingeniería de arneses de agentes

Ingeniería de arnés de agente: el modelo no es la superficie de ataque, el arnés sí lo es.

La ingeniería de agentes transforma los modelos en agentes útiles. Además, ofrece a los atacantes un nuevo objetivo: los archivos que le indican a tu agente qué puede hacer.
7 minutos de lectura
Seguridad de aplicaciones de IA

Seguridad de las aplicaciones de IA: Lo que escuchamos en OWASP Porto y Karlsruhe

La seguridad de las aplicaciones de IA dominó OWASP Porto y Karlsruhe. ¿Qué? ASPM Realmente es, en qué se diferencia de SASTy donde la IA ayuda en la clasificación y remediación de problemas.
8 minutos de lectura
Gestión de riesgos de IA

Gestión de riesgos de la IA: dos disciplinas, un inventario

Cuatro términos de búsqueda, dos trabajos completamente distintos. Gestionar el riesgo de la IA no es lo mismo que usar la IA para la gestión de riesgos, y la mayoría de las organizaciones contratan personal para una disciplina mientras les venden la otra. Lo interesante es lo que sucede cuando te das cuenta de que se trata del mismo programa.
9 minutos de lectura
Métricas de riesgo de IA

Riesgo de la IA: Las métricas que indican si su estrategia de IA con agentes está funcionando.

Ahora todos los consejos de administración se hacen la misma pregunta: ¿cuál es nuestro riesgo en materia de IA? La mayoría de los equipos responden con adjetivos. Aquí presentamos las métricas de riesgo de IA que generan un valor numérico, su origen y los requisitos que debe cumplir una estrategia de IA con agentes para que tengan algún sentido.
9 minutos de lectura
amenazas a la seguridad de la IA

Las 10 principales amenazas a la seguridad de la IA y cómo identificarlas.

Dos cosas se clasifican bajo el mismo epígrafe, pero no representan el mismo problema. Los ataques a sistemas de IA y los ataques impulsados ​​por IA requieren controles, responsables y evidencias diferentes. Diez amenazas, divididas en dos partes, y el paso previo a todas ellas.
10 minutos de lectura