Сотрудник финансового отдела инженерной фирмы. Аруп присоединился к видеозвонку. Звонок был совершен нескольким коллегам, включая финансового директора компании. Каждый из них представлял собой созданный с помощью ИИ дипфейк. Разговор закончился переводом 25 миллионов долларов злоумышленникам. Никакого вредоносного ПО, никакой фишинговой ссылки, никакой использованной уязвимости: только ИИ, использованный достаточно убедительно, чтобы доверие сделало все остальное. Этот единственный инцидент наглядно демонстрирует, почему ИИ в кибербезопасности стал определяющей темой в этой области. Та же технология, на основе которой был создан этот дипфейк, в других областях отрасли обнаруживает аномалию, которая могла бы его остановить. Это руководство по безопасности с использованием ИИ охватывает обе стороны: как ИИ атакует, как ИИ защищается и что это означает для того, на чем должны сосредоточиться команды безопасности в дальнейшем.
Искусственный интеллект в кибербезопасности: в одном абзаце
Искусственный интеллект в кибербезопасности подразумевает использование машинного обучения, обработки естественного языка и больших языковых моделей обеими сторонами одной и той же борьбы: для осуществления атак, а также для их обнаружения и предотвращения. Злоумышленники используют ИИ для генерации убедительного фишингового контента, клонирования голосов и лиц, а также для исследования систем быстрее, чем это могла бы сделать команда людей. Специалисты по защите используют те же базовые методы (распознавание образов в огромных массивах данных, понимание естественного языка, поведенческое моделирование) для обнаружения аномалий, отсеивания информационного шума и реагирования до того, как ущерб начнет накапливаться. В результате получается действительно технология двойного назначения в рамках одной отрасли, поэтому ИИ в кибербезопасности — это не категория с четко выраженными «хорошими» и «плохими» сторонами. Это возможность, и тот, кто применяет ее быстрее и эффективнее, становится тем, кто ее использует.cisВ настоящее время Эли имеет преимущество.
Искусственный интеллект как вектор атаки
- Фишинг, генерируемый искусственным интеллектом, в промышленных масштабах. Раньше фишинг можно было распознать по характерным признакам: неуклюжие формулировки, общие приветствия, очевидные поддельные домены. Искусственный интеллект устранил большинство этих признаков. Согласно Хоксхант Отчет о тенденциях фишинга в 2026 годуДоля фишинговых атак, сгенерированных ИИ, подскочила с 4% от всех зарегистрированных фишинговых попыток в ноябре 2025 года до 56% в декабре 2025 года, увеличившись в 14 раз за один месяц, и до середины 2026 года составляла около 40% от всех зарегистрированных фишинговых попыток. Разница в эффективности столь же разительна: Исследование с участием людей, проведенное исследователями из Гарвардской школы Кеннеди. Исследование показало, что полностью автоматизированные с помощью ИИ фишинговые электронные письма достигли 54% показателя кликабельности, что соответствует результатам опытных специалистов и значительно превосходит 12% показатель кликабельности обычных фишинговых писем в контрольной группе. ИИ не просто создает больше фишинговых писем. Он создает те, которые работают.
- Дипфейки, нацеленные на доверие, а не на инфраструктуру. Дело Арупа Приведенный выше пример уже не исключение, а образец. Голосовые и видеоизображения, сгенерированные ИИ, достаточно убедительны, чтобы сойти за голос настоящего руководителя во время прямого телефонного разговора, превращая социальную инженерию из «обмануть кого-то, чтобы заставить кликнуть» в «обмануть кого-то, чтобы заставить поверить, что он смотрит на своего финансового директора». Это принципиально более сложная задача для обучения основам информационной безопасности, поскольку обман происходит на уровне восприятия, а не на техническом.
- Более быстрая разведка и адаптивное вредоносное ПО. Помимо социальной инженерии, ИИ сокращает расстояние между «у злоумышленника есть идея» и «у злоумышленника есть работающий эксплойт». Большие языковые модели могут ускорить исследование уязвимостей в общедоступном коде и инфраструктуре цели, а адаптивное вредоносное ПО может изменять свое поведение в процессе выполнения, если обнаружит, что его анализируют в песочнице, — возможность, которая раньше требовала квалифицированного оператора, наблюдающего за процессом в режиме реального времени.
- Атаки на учетные данные на скорости работы машины. Использование утечек учетных данных для обучения модели, позволяющей выявлять закономерности, которые люди используют, когда считают, что «хитро» обращаются с паролем, превращает метод проб и ошибок в нечто, более близкое к прогнозированию. В сочетании с автоматическим подбором учетных данных это сжимает медленную и шумную атаку в быструю и тихую.
Искусственный интеллект как инструмент защиты
- Обнаружение аномалий в масштабах, недоступных человечеству. Основная защитная функция ИИ заключается в обработке больших объемов сетевого трафика. login Анализ активности и системных журналов, которые ни одна аналитическая группа не смогла бы просмотреть вручную, позволяет выявлять отклонения от установленного базового уровня. Именно это помогает обнаруживать атаки, для которых пока нет известных сигнатур, включая атаки нулевого дня и злоупотребления со стороны инсайдеров, которые не вызвали бы срабатывания оповещений на основе правил.
- Устранение оповещений, а не их увеличение. Именно здесь ИИ в кибербезопасности приносит наибольшую непосредственную практическую выгоду, и именно здесь отрасли еще предстоит проделать большую работу. Исследование Vectra AI 2026 года Исследование показало, что организации получают в среднем 2,992 оповещения о безопасности в день, при этом 63% из них остаются без расследования. Microsoft и Omdia Состояние SOC: Объединяйтесь сейчас или платите потом. докладе Исследование показало, что 46% всех оповещений оказываются ложными срабатываниями, а 42% остаются без расследования. Система сортировки на основе ИИ не просто добавляет еще один детектор к этому списку. При правильном подходе она объединяет связанные оповещения в один инцидент, определяет, что действительно заслуживает внимания человека, и позволяет аналитикам тратить время на ту часть оповещений, которая представляет реальный риск, вместо того, чтобы вручную закрывать остальные.
- Классификация вредоносного ПО и поведения, выходящая за рамки известных сигнатур. Тот же подход к поведенческому анализу, который выявляет аномальную сетевую активность, работает и с файлами и пакетами: вместо сопоставления со списком известных вредоносных сигнатур, ИИ может оценивать поведение во время установки, необычные системные вызовы и шаблоны обфускации, чтобы обнаружить ранее не встречавшееся вредоносное ПО в момент его появления, а не после того, как оно было идентифицировано.
- Автоматизированный, локализованный ответ. Обнаружение без принятия мер лишь откладывает решение проблемы. Реагирование с помощью ИИ может изолировать затронутое устройство, заблокировать подозрительный трафик и автоматически начать локализацию, сокращая разрыв между «мы это обнаружили» и «мы это остановили» с часов до секунд в наиболее важных случаях.
Почему одни и те же методы работают в обе стороны?
Неприятная правда, содержащаяся в этом руководстве по безопасности на основе ИИ, заключается в том, что злоумышленники и защитники часто используют одну и ту же базовую функцию в противоположных целях. Моделирование естественного языка, которое создает убедительное фишинговое письмо, — это та же технология, которая считывает подозрительное письмо и правильно классифицирует его. Распознавание образов, позволяющее вредоносному ПО адаптироваться и обходить песочницу, архитектурно схоже с распознаванием образов, которое изначально указывает на аномальное поведение вредоносного ПО. Ни одна из сторон не обладает монополией на эту технологию, а это значит, что преимущество получает тот, кто более полно интегрирует ее в свой рабочий процесс, а не тот, кто имеет доступ к более совершенной модели.
Эта симметрия также объясняет, почему ИИ в кибербезопасности создает свои собственные риски с точки зрения защиты. Системы ИИ могут генерировать ложные срабатывания, которые заглушают реальный сигнал шумом, если они плохо настроены, наследуют предвзятость из-за неполных обучающих данных и в результате пропускают целые классы угроз, а также сами могут стать целью атак с использованием методов противодействия, когда злоумышленник намеренно передает модели обнаружения вводящие в заблуждение данные, чтобы манипулировать тем, что она помечает. Ничто из этого не является причиной избегать использования ИИ в целях защиты. Это причина для того, чтобы привлекать человека к принятию решений и рассматривать саму систему ИИ как нечто, требующее мониторинга, а не как нечто, что можно развернуть и доверять бесконечно.
Что означает это руководство по безопасности ИИ для вашей команды
Пять шагов отличают команды, которые действительно извлекают пользу из ИИ в кибербезопасности, от команд, которые просто добавили еще один инструмент:
- Не ждите, пока атаки с использованием искусственного интеллекта станут преобладающими, прежде чем инвестировать в защиту. Приведенные выше данные о фишинге показывают, как быстро тактика, используемая меньшинством, может стать доминирующей. Создавайте возможности обнаружения до всплеска активности, а не во время него.
- Направьте ИИ в первую очередь на очередь сортировки пациентов, а не только на периметр. Для большинства команд наиболее быстрая и ощутимая победа заключается в сокращении количества ложных срабатываний, которые аналитику приходится обрабатывать вручную, а не в добавлении нового уровня обнаружения.
- Риски, связанные с дипфейками и клонированием голоса, следует рассматривать как проблему процесса, а не как проблему технологии. Ни один инструмент обнаружения полностью не устраняет уязвимость, подобную той, что используется в Arup. Внеполосная проверка для любого запроса, связанного с перемещением денежных средств или изменением учетных данных.
- Расширьте применение того же поведенческого мышления, основанного на искусственном интеллекте, на программирование и кодирование. pipelineа не только сетевой трафик. Злоумышленники все чаще атакуют непосредственно цепочку поставок программного обеспечения (вредоносные пакеты, вымышленные зависимости, непроверенные инструкции агентов), что представляет собой категорию риска со своей собственной динамикой, подробно рассмотренную в нашем руководстве по безопасности цепочки поставок ИИ.
- Необходимо обеспечить подотчетность человека за решения, принимаемые искусственным интеллектом. Автоматизированные ответы ценны именно потому, что они быстрые, и именно поэтому им необходим четкий механизм эскалации в случае возникновения проблем.
Куда движется искусственный интеллект в кибербезопасности
В ближайшие несколько лет определяющими станут два изменения. Во-первых, злоумышленники сосредоточатся на меньшем количестве более убедительных тактик, а не на большем числе грубых: фишинг и дипфейки, созданные с помощью ИИ, не расширяют сеть, а лишь усиливают её. Во-вторых, защитники переходят от подхода «обнаружить и оповестить человека» к подходу «обнаружить, оценить и принять меры до того, как появится заявка», что как раз и сокращает разрыв между 2,992 ежедневными оповещениями, с которыми сталкивается большинство центров мониторинга безопасности (SOC), и долей тех, которые действительно получают реальное рассмотрение. Организации, которые вырываются вперёд, — это те, кто применяет этот подход везде, где ИИ уже взаимодействует с их средой, включая код, который выпускают их разработчики, а не только трафик, пересекающий периметр их сети.
Мнение Xygeni: безопасность ИИ должна охватывать не только почтовый ящик, но и сам код.
Большинство обзоров кибербезопасности, посвященных ИИ, ограничиваются областями ответственности SOC: фишинг, вредоносное ПО, сетевые аномалии. Это необходимо, но и неполно, поскольку все большая часть рисков, связанных с ИИ, теперь находится внутри самого жизненного цикла разработки программного обеспечения, куда инструменты SOC не обращают внимания.
Ксигени CoreAI Применяется тот же поведенческий подход, основанный на анализе аномалий, описанный в этом руководстве, к безопасности приложений: сопоставление результатов, полученных с помощью существующих сканеров (а не только...). Ксигени (собственный), оценивая то, что действительно можно использовать в своих целях, вместо того, чтобы заваливать команды огромным количеством оповещений, объясняя, почему тот или иной риск важен, и разрабатывая план устранения. pull request вместо еще одной задачи из списка отложенных. DevAI Эта же защитная стратегия распространяется и на новейшую часть поверхности атаки: агенты и помощники, использующие искусственный интеллект для кодирования, проверяющие файлы навыков и инструкции агентов, а также блокирующие установку вредоносного ПО до того, как агент начнет действовать. Цель та же, что и на уровне SOC, описанная в этом руководстве, но примененная к... pipeline: превратить преимущество ИИ в количестве и скорости в преимущество защитника, а не нападающего.
Начните бесплатно. Sign up with GitHubПодключитесь к GitLab или Google и получите доступ к информации о 25 репозиториях и выполните 50 сканирований с помощью ИИ в месяц совершенно бесплатно, без необходимости указывать данные кредитной карты.
FAQ
Что такое ИИ в кибербезопасности?
Искусственный интеллект в кибербезопасности — это использование машинного обучения, обработки естественного языка и больших языковых моделей как со стороны атакующих, так и со стороны защищающихся. Злоумышленники используют его для создания убедительного фишингового контента, дипфейков и адаптивного вредоносного ПО; защитники используют те же базовые методы для обнаружения аномалий, сортировки оповещений и автоматического реагирования.
Искусственный интеллект опаснее в качестве инструмента нападения или полезнее в качестве инструмента защиты?
Ни одна из сторон не обладает устойчивым преимуществом, поскольку обе опираются на одни и те же базовые возможности. Большему риску подвергаются организации, которые еще не внедрили ИИ в качестве средства защиты с той же скоростью, с какой злоумышленники применяют его в наступлении, а не те, которые сталкиваются с технологическим разрывом, который они не могут устранить.
Может ли ИИ полностью заменить аналитиков-людей в центре мониторинга безопасности (SOC)?
Нет, и риски, связанные с попытками этого (ложные срабатывания из-за плохо настроенных моделей, предвзятость из-за неполных обучающих данных и враждебное манипулирование самой системой обнаружения), — это именно то, почему человеческий контроль остается необходимым. Реальная ценность ИИ заключается в разгрузке очереди, чтобы аналитики могли сосредоточиться на решениях, которые все еще требуют участия человека.
Чем отличается риск атак, вызванных искусственным интеллектом, именно для команд разработчиков программного обеспечения?
Помимо фишинга и дипфейков, команды разработчиков сталкиваются со специфическими рисками, связанными с ИИ, внутри компании. SDLC Сам по себе: агенты ИИ, занимающиеся кодированием, устанавливают вымышленные или вредоносные зависимости, непроверенные инструкции агентов в файлах навыков и сгенерированный ИИ код, воспроизводящий жестко закодированные секреты. Эта сторона применения ИИ в кибербезопасности более подробно рассматривается в нашей статье. Руководство по обеспечению безопасности цепочки поставок с помощью ИИ.
