类别:人工智能

GitHub Copilot 安全

GitHub Copilot 安全性:人工智能编写代码的真正风险及其控制方法

GitHub Copilot 会编写你越来越多的代码,现在它还会运行命令、打开文件等。 pull requests 并安装软件包。以下是 GitHub Copilot 真正的安全风险,从提示符注入和密钥泄露到伪造的软件包,GitHub 内置的控制措施涵盖哪些内容,以及控制 AI 编写代码的七个步骤。
拥抱脸部安全事件

Hugging Face 安全事件:人工智能代理如何入侵平台,以及您应该如何修复自身安全问题 Pipeline

一个人工智能代理利用一个恶意数据集,获得了对 Hugging Face 内部集群的访问权限,而幕后并无人类攻击者。以下是 Hugging Face 安全事件的始末,以及它为何对所有运行人工智能的团队都至关重要。 pipeline或 AI 代理,以及在您自己的环境中弥合相同差距的六个步骤。
人工智能代理安全性

AI代理安全:了解每个代理,发现风险,保护其安装的内容。

AI 代理不仅会回答问题,还会采取行动:它们会调用工具、持有凭证并自行安装软件包。以下是 AI 代理安全工作的四个步骤,从清点代码中的每个代理到保护代理安装的内容。
Xygeni 在 ENISE 2026 人工智能编码代理安全方面表现出色

谁决定发布该版本?来自 ENISE 2026 的 AI 编码代理安全经验教训

在2026年ENISE大会上,Xygeni首席执行官Jesús Cuadrado展示了GitHub issue中的一句话如何导致未经授权的发布,并离开了公司。 CIS操作系统有四个关于人工智能编码代理的问题。
OWASP Agentic AI Top 10

OWASP Agentic AI Top 10 详解:ASI01–ASI10

OWASP Agentic AI Top 10 列出了人工智能代理失败的十种方式。以下是 ASI01 到 ASI10 在实际应用中的含义。 pipeline每种风险从哪里进入,以及在部署之前可以阻止哪些风险。
模型提取攻击

模型提取攻击:为什么库存信息至关重要

模型提取攻击允许攻击者一次复制一个查询,而无需入侵系统或窃取任何文件。以下解释了模型窃取的原理,以及为什么第一道防线是了解你暴露的每个推理端点。
智能体人工智能风险和爆炸半径

智能体人工智能的风险和影响范围:限制智能体,还是加快恢复速度?

限制智能体、加快其恢复速度,还是从下方遏制它?三位实践者,三种答案,以及他们一致认同的最低标准。
代理线束工程

代理框架工程:模型不是攻击面,框架才是。

代理框架工程将模型转化为有用的代理。但它也为攻击者提供了一个新的攻击目标:那些告诉代理它能做什么的文件。
人工智能应用安全

人工智能应用安全:我们在OWASP波尔图和卡尔斯鲁厄大会上听到的内容

AI应用安全在OWASP波尔图和卡尔斯鲁厄会议上占据主导地位。 ASPM 确实如此,它与……有何不同? SAST以及人工智能进行分类和补救措施发挥作用的地方。
人工智能风险管理

人工智能风险管理:两门学科,一份清单

四个搜索词,却对应着两个截然不同的职位。管理人工智能的风险与利用人工智能进行风险管理是两码事,而大多数组织却在为前者配备人员,同时又被推销后者。有趣的是,当你意识到它们其实是同一个项目时,会发生什么。
人工智能风险指标

人工智能风险:衡量您的智能体人工智能策略是否有效的指标

现在每个董事会都会问同一个问题:我们的人工智能风险是什么?大多数团队的回答都基于形容词。以下列出了能够得出具体数值的人工智能风险指标,并解释了每个指标的来源,以及在任何一个指标真正发挥作用之前,智能体人工智能战略必须涵盖哪些内容。
人工智能安全威胁

十大人工智能安全威胁及其映射方法

两件事被归入同一类别,但它们并非同一问题。针对人工智能系统的攻击和由人工智能驱动的攻击需要不同的控制措施、不同的责任方和不同的证据。十种威胁,分为两部分,以及所有威胁的前因后果。