エンジニアリング会社の財務担当者 Arupがビデオ通話に参加しました 同社のCFOを含む数名の同僚と電話で話したが、全員がAIが生成したディープフェイクだった。電話は25万ドルが攻撃者に送金されるという結果に終わった。マルウェアもフィッシングリンクも脆弱性の悪用も一切なく、ただAIが巧妙に利用され、信頼が残りの部分を導いただけだった。この一件だけでも、サイバーセキュリティにおけるAIがなぜこの分野の決定的なトピックになったのかがわかる。ディープフェイクを生み出したのと同じ技術が、業界の他の分野では、ディープフェイクを阻止するはずだった異常を検知するために使われている。このAIセキュリティガイドでは、AIの攻撃方法、AIの防御方法、そしてセキュリティチームが次にどこに注力すべきかという点について、両面から解説する。
サイバーセキュリティにおけるAIについて、1段落で説明します。
サイバーセキュリティにおけるAIとは、機械学習、自然言語処理、大規模言語モデルを、攻撃の実行と、攻撃の検知と阻止という、同じ戦いの両面で活用することを指す。 攻撃者はAIを使って、説得力のあるフィッシングコンテンツを作成したり、声や顔をクローンしたり、人間のチームよりも速くシステムを調査したりします。防御側は、同じ基盤となる技術（膨大なデータに対するパターン認識、自然言語理解、行動モデリング）を使って異常を検知し、アラートノイズを排除し、被害が拡大する前に対応します。その結果、単一の業界内で真にデュアルユースの技術が生まれ、サイバーセキュリティにおけるAIは明確な「良い」面と「悪い」面を持つカテゴリーではないのです。それは能力であり、それをより速く、より適切に適用する者が優位に立ちます。cis現時点ではelyが優位に立っている。
攻撃手段としてのAI
- 産業規模でのAIによるフィッシング攻撃。 フィッシング詐欺は以前は、不自然な言い回し、ありきたりな挨拶、明らかに偽装されたドメインといった兆候で見破ることができた。AIはそれらの兆候のほとんどを取り除いた。 ホックスハントの 2026年フィッシング詐欺動向レポートAI 生成のフィッシングは、2025 年 11 月の報告されたフィッシング試行全体の 4% から 2025 年 12 月には 56% に急増し、1 か月で 14 倍に増加し、2026 年半ばまで報告されたフィッシング試行全体の約 40% を占めています。効果のギャップも同様に顕著です。 ハーバード大学ケネディ・スクールの研究者による人体実験 完全AI自動化されたスピアフィッシングメールは、クリック率が54%に達し、熟練した人間の専門家と同等の成果を上げ、対照群の一般的なフィッシングメールのクリック率12%をはるかに上回ったことが判明した。AIは単にフィッシングメールを増やすだけでなく、効果的なフィッシングメールを作成するのだ。
- インフラではなく、信頼を標的とするディープフェイク。 その アラップ事件 上記の事例はもはや例外ではなく、テンプレートと言えるでしょう。AIが生成した音声と動画は、まるで本物の経営幹部が生放送で話しているかのように説得力があり、ソーシャルエンジニアリングは「クリックさせる」ことから「CFOと話していると信じ込ませる」へと変化しています。これは、セキュリティ意識向上トレーニングで解決するには根本的に難しい問題です。なぜなら、欺瞞は技術的なレベルではなく、知覚的なレベルで行われるからです。
- 偵察速度の向上と適応型マルウェア。 ソーシャルエンジニアリングにとどまらず、AIは「攻撃者がアイデアを思いついた」時点から「攻撃者が動作するエクスプロイトを手に入れた」時点までの時間を短縮します。大規模な言語モデルは、標的の公開コードやインフラストラクチャに対する脆弱性調査を加速させることができ、適応型マルウェアは、サンドボックス内で分析されていることを検出すると、実行中に自身の動作を変更することができます。これは、かつては熟練した人間のオペレーターがリアルタイムで監視する必要があった機能です。
- 機械速度で実行される認証情報攻撃。 漏洩した認証情報セットをモデルに入力し、人々がパスワードを「巧妙に」使っているつもりで実際に使用しているパターンを学習させることで、推測と検証を繰り返す従来の攻撃手法が、より予測に近いものへと進化します。自動化された認証情報スタッフィングと組み合わせることで、従来は時間がかかりノイズも多かった攻撃手法が、高速かつ静かな攻撃へと圧縮されます。
防衛ツールとしてのAI
- 人間には到底及ばない規模での異常検知。 AI の核となる防御的価値は、大量のネットワーク トラフィックを処理することです。 login アクティビティやシステムログなど、アナリストチームが手動で確認できないものを監視し、確立された基準値からの逸脱を検知します。これにより、ルールベースのアラートでは検知されないゼロデイ攻撃や内部不正使用など、まだシグネチャが不明な攻撃を検出できます。
- アラートキューを増やすのではなく、不要なアラートを遮断する。 これは、サイバーセキュリティにおけるAIが最も即効性のある運用上の成果をもたらす分野であり、同時に業界がまだ真に取り組むべき課題を抱えている分野でもある。 Vectra AIの2026年研究 調査によると、組織は1日に平均2,992件のセキュリティ警告を受け取っており、そのうち63%は調査されずに放置されている。 マイクロソフトとオムディアの SOCの現状：今すぐ統合するか、後で代償を払うか レポート 調査の結果、アラート全体の46%が誤検知であり、42%は全く調査されないことが判明しました。AIによるトリアージは、単に検出器を一つ追加するだけではありません。適切に実施すれば、関連するアラートを単一のインシデントにまとめ、人間の注意を実際に必要とするものをスコアリングし、アナリストが残りのアラートを手動でクローズするのではなく、真のリスクを示すアラートに時間を費やすことができるようになります。
- 既知のシグネチャを超えたマルウェアおよび挙動の分類。 異常なネットワークアクティビティを検出するのと同じ行動分析手法は、ファイルやパッケージにも適用できます。既知の悪質なシグネチャのリストと照合する代わりに、AIはインストール時の動作、異常なシステムコール、難読化パターンを評価し、これまで確認されたことのないマルウェアを、フィンガープリントが確立された後ではなく、出現した瞬間に検出できます。
- 自動化された、限定的な対応。 検知しても何もしなければ、ただ時間が過ぎるだけです。AIを活用した対応は、影響を受けたデバイスを隔離し、不審なトラフィックをブロックし、封じ込めを自動的に開始することで、最も重要なケースにおいて、「異常を検知した」から「阻止した」までの時間を数時間から数秒に短縮します。
なぜ同じ手法が両刃の剣となるのか？
このAIセキュリティガイドにおける不都合な真実は、攻撃者と防御者がしばしば同じ基盤機能を正反対の目的で使用しているということだ。説得力のあるフィッシングメールを作成する自然言語モデリングは、不審なメールを読み取って正しく分類する技術と同じである。マルウェアがサンドボックスを回避するために適応することを可能にするパターン認識は、そもそもマルウェアの挙動を異常としてフラグ付けするパターン認識とアーキテクチャ的に類似している。どちらの側もこの技術を独占しているわけではないため、より高度なモデルにアクセスできる側ではなく、それを実際のワークフローにさらに完全に統合できる側が優位に立つことになる。
その対称性こそが、サイバーセキュリティにおけるAIが防御側で独自のリスクをもたらす理由でもある。AIシステムは、調整が不十分だと、ノイズの中に真の信号を埋もれさせてしまう誤検知を生成したり、不完全なトレーニングデータからバイアスを受け継ぎ、結果として脅威のクラス全体を見逃したりする可能性がある。また、攻撃者が意図的に誤ったデータを検出モデルに与えて、検出対象を操作する敵対的攻撃によって、AI自体が標的になる可能性もある。しかし、これらは防御においてAIを避ける理由にはならない。むしろ、判断を下すために人間を関与させ、AIシステム自体を一度導入すれば永久に信頼できるものではなく、監視が必要なものとして扱うべき理由となる。
このAIセキュリティガイドがあなたのチームにとって意味すること
サイバーセキュリティ分野でAIから真の価値を得ているチームと、単にツールを一つ追加しただけのチームを分ける5つのポイントは以下のとおりです。
- 「AIを活用した」攻撃が主流になるまで防御策への投資を待つべきではない。 上記のフィッシングデータは、少数派の手口がいかに急速に主流になり得るかを示しています。急増する前に検知能力を構築すべきであり、急増中に構築すべきではありません。
- AIをまずはトリアージキューに向け、単に周辺部だけを対象とするべきではない。 ほとんどのチームにとって、最も迅速かつ測定可能な成果は、アナリストが手動でクリアしなければならない誤検出の量を減らすことであり、新たな検出レイヤーを追加することではありません。
- ディープフェイクや音声クローンのリスクは、技術的な問題ではなく、プロセス上の問題として捉えるべきである。 検出ツールはどれも、Arup方式のギャップを完全に埋めることはできません。資金移動や認証情報の変更を伴うあらゆるリクエストに対して、帯域外検証を実施する必要があります。
- 同じAI駆動型の行動思考をコードと pipelineネットワークトラフィックだけでなく、 攻撃者はソフトウェアサプライチェーンを直接標的にするケースが増えており（悪意のあるパッケージ、偽の依存関係、未検証のエージェント命令など）、これは独自の動向を持つリスクカテゴリです。詳細については、当社のAIサプライチェーンセキュリティガイドをご覧ください。
- AIが下した決定に対して、人間が責任を負うようにすべきだ。 自動応答は、その速さゆえに価値がある。だからこそ、何らかの誤りがあった場合に備え、明確なエスカレーション経路が必要となるのだ。
サイバーセキュリティにおけるAIの未来
今後数年間は、2つの変化によって特徴づけられるでしょう。まず、攻撃側は、より多く粗雑な戦術を用いるのではなく、より少なく、より説得力のある戦術に集約しつつあります。AIによるフィッシングやディープフェイクは、網を広げるのではなく、より鋭いフックとなるのです。次に、防御側は、「検知して人間に警告する」ことから、「チケットが発生する前に検知、評価、対応を行う」へと移行しつつあります。これはまさに、ほとんどのSOCが日々直面する2,992件のアラートと、実際に確認されるアラートのごく一部との間のギャップを埋める変化です。この変化を先取りしている組織は、ネットワーク境界を通過するトラフィックだけでなく、開発者が出荷するコードなど、AIが既に環境に影響を与えているあらゆる箇所にこの変化を適用している組織です。
Xygeniの見解：AIセキュリティは、受信トレイだけでなく、コードも対象とする必要がある
サイバーセキュリティにおけるAIの活用事例のほとんどは、SOC（セキュリティオペレーションセンター）におけるフィッシング、マルウェア、ネットワーク異常といった対策にとどまっています。これは必要な対策ではありますが、同時に不十分でもあります。なぜなら、AIが引き起こすリスクの多くは、SOCツールではカバーできないソフトウェア開発ライフサイクル自体の中に存在しているからです。
ザイジェニの コアAI このガイドで説明されているのと同じ行動的、異常ベースの考え方をアプリケーションセキュリティに具体的に適用します。既存のスキャナー間で検出結果を相関させます（ ザイジェニの （自社で）実際に悪用可能なものをスコアリングし、チームに大量の生の警告を流すのではなく、特定のリスクがなぜ重要なのかを説明し、修復策を生成する。 pull request 別のバックログチケットの代わりに。 開発AI 同じ防御姿勢を攻撃対象領域の最新の部分、つまりAIコーディングエージェントとアシスタントにまで拡張し、スキルファイルとエージェントの指示を検証し、エージェントが実際に動作する前に悪意のあるインストールをブロックします。目標は、このガイドがSOCレベルで主張しているものと同じで、 pipelineAIのボリュームとスピードにおける優位性を、攻撃側ではなく防御側の優位性へと転換する。
無料で始めましょう。 Sign up with GitHubGitLab、またはGoogleに登録すると、最大25のリポジトリと50のAIスキャンを無料で利用でき、クレジットカードも不要です。
FAQ
サイバーセキュリティにおけるAIとは何か？
サイバーセキュリティにおけるAIとは、機械学習、自然言語処理、大規模言語モデルを、セキュリティの攻撃側と防御側の両方で活用することを指します。攻撃側は、これを利用して説得力のあるフィッシングコンテンツ、ディープフェイク、適応型マルウェアを生成します。一方、防御側は、同じ基盤技術を異常検知、アラートのトリアージ、自動対応に利用します。
AIは攻撃ツールとして危険なのか、それとも防御ツールとして有用なのか？
どちらの側にも永続的な優位性はない。なぜなら、両者とも同じ基盤となる能力に基づいて構築されているからだ。より大きなリスクを抱えているのは、攻撃側が攻撃にAIを応用しているペースと同じペースで防御にAIを応用できていない組織であり、埋められない技術的ギャップに直面している組織ではない。
AIはSOC（セキュリティオペレーションセンター）において、人間のアナリストを完全に代替できるのか？
いいえ、そうではありません。AIによる検出を試みる際のリスク（調整不良のモデルによる誤検出、不完全なトレーニングデータによるバイアス、検出システム自体への敵対的操作など）こそが、人間の監視が依然として必要な理由なのです。AIの真の価値は、キューを空にして、アナリストが依然として人間の判断を必要とする重要な判断に集中できるようにすることです。
AIを活用した攻撃リスクは、特にソフトウェア開発チームにとって、どのような点で異なるのでしょうか？
フィッシングやディープフェイク以外にも、開発チームは内部でAI特有のリスクに直面しています。 SDLC それ自体：AIコーディングエージェントが架空のまたは悪意のある依存関係をインストールしたり、スキルファイル内の未検証のエージェント命令、ハードコードされた秘密を再現するAI生成コードなど。サイバーセキュリティにおけるAIのこの側面については、当社の記事でより詳しく解説しています。 AIサプライチェーンセキュリティガイド
