Категория: ИИ

Безопасность GitHub Copilot

Безопасность GitHub Copilot: реальные риски кода, написанного с помощью ИИ, и способы их контроля.

GitHub Copilot пишет всё большую часть вашего кода, а теперь ещё и выполняет команды, открывает репозитории. pull requests и устанавливает пакеты. Вот реальные риски безопасности GitHub Copilot: от внедрения подсказок и утечки секретов до мнимых пакетов, что охватывают встроенные средства контроля GitHub и семь шагов для контроля кода, написанного ИИ.
инцидент с объятием лица в целях безопасности

Инцидент с уязвимостью «обнимающего лица»: как ИИ-агент взломал платформу и что нужно исправить в вашей собственной системе. Pipeline

Искусственный интеллект преобразовал один вредоносный набор данных в доступ к внутренним кластерам Hugging Face, при этом за этим не стоял ни один человек-злоумышленник. Вот что произошло в результате инцидента с безопасностью Hugging Face и почему это важно для каждой команды, использующей ИИ. pipelineили агентов ИИ, а также шесть шагов для устранения аналогичных пробелов в вашей собственной среде.
безопасность агентов ИИ

Безопасность агентов ИИ: знание каждого агента, выявление рисков, защита устанавливаемого ими программного обеспечения.

Агенты ИИ не просто отвечают, они действуют: они вызывают инструменты, хранят учетные данные и самостоятельно устанавливают пакеты. Вот как работает безопасность агентов ИИ в четыре этапа: от инвентаризации каждого агента в вашем коде до защиты того, что агенты устанавливают.
Компания Xygeni на конференции ENISE 2026: безопасность агентов ИИ-кодирования

Кто принял решение о возможности выпуска этой версии? Уроки безопасности для агентов ИИ, полученные на конференции ENISE 2026.

На конференции ENISE 2026 генеральный директор Xygeni Хесус Куадрадо продемонстрировал, как одно предложение в сообщении об ошибке на GitHub привело к несанкционированному релизу, и оставил после себя... CISОпросник с четырьмя вопросами об агентах программирования ИИ.
Топ-10 OWASP Agentic AI

OWASP Agentic AI Top 10: ASI01–ASI10

В списке OWASP Agentic AI Top 10 перечислены десять причин, по которым агенты ИИ терпят неудачу. Вот что на самом деле означают ASI01–ASI10 в реальной ситуации. pipelineгде возникает каждый из рисков и какие из них можно предотвратить до начала развертывания.
Атака извлечения модели

Атака с использованием извлечения модели: почему инвентаризация на первом месте.

Атака с использованием извлечения модели позволяет злоумышленнику копировать вашу модель по одному запросу за раз, без взлома и кражи файлов. Вот как работает кража модели и почему первая линия защиты — это знание каждой точки вывода, которую вы предоставляете.
Риск применения ИИ-агента и радиус поражения

Риск и масштаб последствий применения ИИ-агента: ограничить действия агента или быстрее восстановиться?

Ограничить воздействие агента, ускорить восстановление или сдержать его снизу? Три специалиста, три ответа и один минимальный уровень, по которым все они сошлись.
Инженерная разработка агентской проводки

Разработка системы управления агентом: модель — это не поверхность атаки, а сама система управления.

Инженерное проектирование с использованием готовых моделей превращает модели в полезных агентов. Оно также предоставляет злоумышленникам новую цель: файлы, которые сообщают вашему агенту, на что он способен.
Безопасность приложений ИИ

Безопасность приложений ИИ: что мы услышали на OWASP в Порту и Карлсруэ

В области безопасности приложений ИИ на конференциях OWASP в Порту и Карлсруэ доминировали эксперты. Что же произошло? ASPM В чем же на самом деле разница между ними? SASTи где помогают методы сортировки и устранения проблем, основанные на искусственном интеллекте.
Управление рисками ИИ

Управление рисками в сфере ИИ: две дисциплины, один перечень рисков

Четыре поисковых запроса, две совершенно разные вакансии. Управление рисками, связанными с ИИ, — это не та же дисциплина, что и использование ИИ для управления рисками, и большинство организаций нанимают специалистов по одному направлению, одновременно получая предложение по другому. Интересно то, что происходит, когда понимаешь, что это одна и та же программа.
Метрики рисков ИИ

Риски, связанные с ИИ: показатели, которые говорят о том, работает ли ваша стратегия использования агентного ИИ.

Сегодня на каждом заседании совета директоров задают один и тот же вопрос: каков наш риск, связанный с ИИ? Большинство команд отвечают прилагательными. Вот метрики риска, связанного с ИИ, которые дают числовые значения, откуда берется каждая из них и что должна охватывать стратегия агентного ИИ, прежде чем любая из них начнет иметь значение.
Угрозы безопасности ИИ

10 главных угроз безопасности ИИ и способы их выявления.

Две вещи попадают под одну и ту же категорию, но это не одна и та же проблема. Атаки на системы искусственного интеллекта и атаки, осуществляемые с помощью ИИ, требуют разных средств контроля, разных владельцев и разных доказательств. Десять угроз, разделенных на две части, и один шаг, предшествующий каждой из них.