Un empleado del departamento de finanzas de la empresa de ingeniería. Arup se unió a una videollamada. Con varios colegas, incluido el director financiero de la empresa. Cada una de las llamadas era un deepfake generado por IA. La llamada terminó con la transferencia de 25 millones de dólares a los atacantes. Sin malware, sin enlaces de phishing, sin vulnerabilidades explotadas: solo IA, utilizada con la suficiente convicción como para generar confianza. Este único incidente ilustra por qué la IA en ciberseguridad se ha convertido en el tema central del sector. La misma tecnología que creó el deepfake se está utilizando en otros ámbitos de la industria para detectar la anomalía que lo habría detenido. Esta guía de seguridad de IA abarca ambas caras: cómo ataca la IA, cómo se defiende y qué implica esto para los equipos de seguridad en qué deberían centrarse a continuación.
La IA en la ciberseguridad, en un párrafo
La IA en ciberseguridad se refiere al uso del aprendizaje automático, el procesamiento del lenguaje natural y los grandes modelos lingüísticos en ambos lados de una misma lucha: para lanzar ataques y para detectarlos y detenerlos. Los atacantes utilizan la IA para generar contenido de phishing convincente, clonar voces y rostros, y sondear sistemas más rápido que un equipo humano. Los defensores utilizan las mismas técnicas subyacentes (reconocimiento de patrones en enormes volúmenes de datos, comprensión del lenguaje natural, modelado de comportamiento) para detectar anomalías, filtrar el ruido de las alertas y responder antes de que el daño se agrave. El resultado es una tecnología genuinamente de doble uso dentro de una misma industria, razón por la cual la IA en ciberseguridad no es una categoría con un lado claramente "bueno" y "malo". Es una capacidad, y quien la aplique más rápido y con mayor eficacia...cisActualmente, Ely tiene la ventaja.
La IA como vector de ataque
- Suplantación de identidad generada por IA a escala industrial. El phishing solía detectarse por sus señales: frases incómodas, saludos genéricos, dominios falsificados obvios. La IA eliminó la mayoría de esas señales. Según De Hoxhunt Informe sobre las tendencias de phishing de 2026El phishing generado por IA pasó del 4% de todos los intentos de phishing reportados en noviembre de 2025 al 56% en diciembre de 2025, un aumento de 14 veces en un solo mes, y se ha mantenido alrededor del 40% de todos los intentos de phishing reportados hasta mediados de 2026. La brecha de efectividad es igual de marcada: Estudio con sujetos humanos realizado por investigadores de la Escuela Kennedy de Harvard Se descubrió que los correos electrónicos de spear phishing totalmente automatizados con IA lograron una tasa de clics del 54 %, igualando a expertos humanos y superando con creces la tasa de clics del 12 % de los correos electrónicos de phishing genéricos del grupo de control. La IA no solo escribe más correos electrónicos de phishing, sino que escribe correos que funcionan.
- Los deepfakes atacan la confianza, no la infraestructura. El El caso Arup Lo anterior ya no es una excepción; es la norma. La voz y el vídeo generados por IA son lo suficientemente convincentes como para hacerse pasar por un ejecutivo real en una llamada en directo, transformando la ingeniería social de «engañar a alguien para que haga clic» a «engañar a alguien para que crea que está hablando con su director financiero». Este es un problema fundamentalmente más difícil de resolver para la formación en concienciación sobre seguridad, porque el engaño se produce a nivel perceptivo, no técnico.
- Reconocimiento más rápido y malware adaptativo. Más allá de la ingeniería social, la IA acorta la distancia entre "el atacante tiene una idea" y "el atacante tiene un exploit funcional". Los modelos de lenguaje complejos pueden acelerar la investigación de vulnerabilidades en el código y la infraestructura pública de un objetivo, y el malware adaptativo puede modificar su propio comportamiento durante la ejecución si detecta que está siendo analizado en un entorno aislado (sandbox), una capacidad que antes requería la supervisión en tiempo real de un operador humano cualificado.
- Ataques de credenciales a velocidad de máquina. Al introducir conjuntos de credenciales filtradas en un modelo para aprender los patrones que la gente usa cuando cree que está siendo "ingeniosa" con una contraseña, el método de prueba y error se asemeja más a la predicción. Combinado con el relleno automatizado de credenciales, esto transforma un ataque lento y ruidoso en uno rápido y silencioso.
La IA como herramienta de defensa
- Detección de anomalías a una escala que los humanos no pueden igualar. El valor defensivo fundamental de la IA es el procesamiento de grandes volúmenes de tráfico de red, login Se analizan la actividad y los registros del sistema que ningún equipo de analistas podría revisar manualmente, señalando cualquier desviación de la línea base establecida. Esto permite detectar ataques sin firma conocida, incluyendo vulnerabilidades de día cero y el uso indebido por parte de personal interno que no activarían una alerta basada en reglas.
- Se trata de agilizar el proceso de reducción de alertas, no de aumentarlas. Es también aquí donde la IA en ciberseguridad ofrece el beneficio operativo más inmediato, y donde la industria todavía tiene mucho trabajo por hacer. Investigación de Vectra AI para 2026 Se descubrió que las organizaciones reciben un promedio de 2,992 alertas de seguridad al día, de las cuales el 63% no se investigan, y Microsoft y Omdia Estado del SOC: Unifícate ahora o paga después. (reporte) Se descubrió que el 46 % de todas las alertas resultan ser falsos positivos y el 42 % no se investigan en absoluto. El triaje impulsado por IA no se limita a añadir otro detector a la pila. Bien implementado, correlaciona las alertas relacionadas en un único incidente, clasifica lo que realmente merece la atención de un humano y permite a los analistas dedicar su tiempo a la fracción de alertas que representan un riesgo real en lugar de cerrar manualmente el resto.
- Clasificación de malware y comportamiento más allá de las firmas conocidas. El mismo enfoque de análisis de comportamiento que detecta actividad de red anómala también funciona con archivos y paquetes: en lugar de compararlo con una lista de firmas maliciosas conocidas, la IA puede evaluar el comportamiento durante la instalación, las llamadas al sistema inusuales y los patrones de ofuscación para detectar malware nunca antes visto, en el momento en que aparece, en lugar de después de que se haya identificado su huella digital.
- Respuesta automatizada y controlada. La detección sin acción solo retrasa el proceso. La respuesta basada en IA puede aislar un dispositivo afectado, bloquear el tráfico sospechoso e iniciar la contención automáticamente, reduciendo el tiempo entre "lo vimos" y "lo detuvimos" de horas a segundos en los casos más importantes.
¿Por qué las mismas técnicas funcionan en ambos sentidos?
La incómoda verdad que se desprende de esta guía de seguridad de IA es que atacantes y defensores suelen utilizar la misma capacidad subyacente con fines opuestos. El modelado del lenguaje natural que redacta un correo electrónico de phishing convincente es la misma tecnología que lee un correo electrónico sospechoso y lo clasifica correctamente como tal. El reconocimiento de patrones que permite al malware adaptarse para evadir un entorno aislado (sandbox) es arquitectónicamente similar al reconocimiento de patrones que, en primer lugar, señala el comportamiento del malware como anómalo. Ninguna de las partes tiene el monopolio de la tecnología, lo que significa que la ventaja recae en quien la integre de forma más completa en su flujo de trabajo real, no en quien tenga acceso a un modelo más avanzado.
Esa simetría también explica por qué la IA en ciberseguridad introduce sus propios riesgos en el ámbito defensivo. Los sistemas de IA pueden generar falsos positivos que ocultan señales reales entre el ruido si no están bien configurados, heredan sesgos de datos de entrenamiento incompletos y, como resultado, pasan por alto clases enteras de amenazas, y pueden ser atacados mediante técnicas adversarias, donde un atacante alimenta deliberadamente un modelo de detección con datos engañosos para manipular sus alertas. Nada de esto justifica evitar la IA en la defensa. Justifica la necesidad de mantener la intervención humana para la toma de decisiones y de tratar el sistema de IA como algo que requiere supervisión, no como algo que se implementa una vez y en lo que se confía indefinidamente.
Qué significa esta guía de seguridad de IA para su equipo.
Cinco factores distinguen a los equipos que obtienen un valor real de la IA en ciberseguridad de aquellos que simplemente han añadido otra herramienta:
- No espere a que los ataques impulsados por IA se conviertan en la mayoría antes de invertir en medidas de protección. Los datos de phishing anteriores demuestran la rapidez con la que una táctica minoritaria puede convertirse en la dominante. Desarrolle la capacidad de detección antes del aumento, no durante él.
- Dirige la IA primero a tu cola de triaje, no solo a tu perímetro. La solución más rápida y cuantificable para la mayoría de los equipos consiste en reducir el volumen de falsos positivos que un analista tiene que corregir manualmente, no en añadir una nueva capa de detección.
- Trate el riesgo de las falsificaciones profundas y la clonación de voz como un problema de proceso, no como un problema tecnológico. Ninguna herramienta de detección cierra completamente la brecha al estilo Arup. Verificación fuera de banda para cualquier solicitud que implique movimiento de dinero o cambios de credenciales.
- Extienda el mismo pensamiento conductual impulsado por IA al código y pipelines, no solo tráfico de red. Los atacantes se dirigen cada vez más directamente a la cadena de suministro de software (paquetes maliciosos, dependencias ficticias, instrucciones de agentes no revisadas), una categoría de riesgo con su propia dinámica, que se trata en profundidad en nuestra guía de seguridad de la cadena de suministro de IA.
- Que un ser humano sea responsable de las decisiones de la IA. La respuesta automatizada es valiosa precisamente por su rapidez, razón por la cual necesita un procedimiento de escalamiento claro en caso de que cometa algún error.
Hacia dónde se dirige la IA en la ciberseguridad.
Dos cambios definirán los próximos años. Primero, los atacantes se están centrando en menos tácticas, pero más convincentes, en lugar de recurrir a tácticas más numerosas y rudimentarias: el phishing y los deepfakes generados por IA no amplían el alcance, sino que ofrecen una estrategia más efectiva. Segundo, los defensores están pasando de la detección y alerta a un humano a la detección, la evaluación y la actuación antes de que se genere un ticket. Este cambio es precisamente el que reduce la brecha entre las 2,992 alertas diarias que reciben la mayoría de los SOC y la pequeña fracción de las que llegan a ser analizadas. Las organizaciones que lideran el sector son aquellas que aplican este cambio en todos los ámbitos donde la IA ya está presente en su entorno, incluyendo el código que desarrollan sus programadores, no solo el tráfico que atraviesa su perímetro de red.
Opinión de Xygeni: La seguridad de la IA debe abarcar el código, no solo la bandeja de entrada.
La mayoría de los análisis sobre IA en ciberseguridad se limitan al SOC: phishing, malware, anomalías de red. Esto es necesario, pero también incompleto, porque una proporción cada vez mayor del riesgo derivado de la IA reside ahora en el propio ciclo de vida del desarrollo de software, donde las herramientas del SOC no lo detectan.
xygenis CoreAI Aplica el mismo pensamiento conductual y basado en anomalías descrito en esta guía específicamente a la seguridad de las aplicaciones: correlacionar los hallazgos en sus escáneres existentes (no solo xygenis propio), calificar lo que realmente es explotable en lugar de inundar a los equipos con un volumen bruto de alertas, explicar por qué un riesgo determinado importa y generar una remediación. pull request en lugar de otro ticket pendiente. DevAI extiende esa misma postura defensiva a la parte más reciente de la superficie de ataque: agentes y asistentes de codificación de IA, validación de archivos de habilidades e instrucciones de agentes, y bloqueo de una instalación maliciosa antes de que un agente actúe sobre ella. El objetivo es el mismo que defiende esta guía a nivel del SOC, aplicado a la pipeline: convertir la ventaja de la IA sobre el volumen y la velocidad en una ventaja para el defensor en lugar de para el atacante.
Empieza gratis. Sign up with GitHubRegístrate en GitLab o Google y obtén visibilidad de hasta 25 repositorios y 50 escaneos de IA al mes sin costo alguno y sin necesidad de tarjeta de crédito.
Preguntas Frecuentes
¿Qué es la IA en la ciberseguridad?
La IA en ciberseguridad consiste en el uso del aprendizaje automático, el procesamiento del lenguaje natural y los modelos lingüísticos complejos tanto en el lado atacante como en el defensor. Los atacantes la utilizan para generar contenido de phishing convincente, deepfakes y malware adaptativo; los defensores emplean las mismas técnicas subyacentes para la detección de anomalías, la clasificación de alertas y la respuesta automatizada.
¿La IA es más peligrosa como herramienta de ataque o más útil como herramienta de defensa?
Ninguna de las partes tiene una ventaja duradera, ya que ambas se basan en la misma capacidad subyacente. Las organizaciones que corren mayor riesgo son aquellas que aún no han aplicado la IA de forma defensiva al mismo ritmo que los atacantes la han aplicado de forma ofensiva, no aquellas que se enfrentan a una brecha tecnológica que no pueden cerrar.
¿Puede la IA reemplazar por completo a los analistas humanos en un SOC?
No, y los riesgos de intentarlo (falsos positivos por modelos mal ajustados, sesgos por datos de entrenamiento incompletos y manipulación maliciosa del propio sistema de detección) son precisamente la razón por la que la supervisión humana sigue siendo necesaria. El verdadero valor de la IA reside en agilizar el proceso para que los analistas puedan centrarse en las decisiones que aún requieren la intervención humana.
¿En qué se diferencia el riesgo de ataques impulsados por IA para los equipos de desarrollo de software específicamente?
Más allá del phishing y los deepfakes, los equipos de desarrollo se enfrentan a riesgos específicos de la IA dentro de la SDLC En sí mismo: agentes de codificación de IA que instalan dependencias ilusorias o maliciosas, instrucciones de agente no revisadas en archivos de habilidades y código generado por IA que reproduce Secretos codificados. Ese aspecto de la IA en la ciberseguridad se trata con mayor profundidad en nuestro Guía de seguridad de la cadena de suministro basada en IA.
