カテゴリ:AI

GitHub Copilot セキュリティ

GitHub Copilotのセキュリティ:AIが書いたコードの真のリスクと、その制御方法

GitHub Copilot はコードの大部分を生成し、今ではコマンドを実行したり、ファイルを開いたりもします。 pull requests そしてパッケージをインストールします。ここでは、プロンプトの注入や機密情報の漏洩、偽のパッケージなど、GitHub Copilotの実際のセキュリティリスク、GitHubの組み込み制御でカバーされる範囲、そしてAIが生成したコードを管理下に置くための7つのステップについて説明します。
顔面を抱きしめるセキュリティ事件

Hugging Faceのセキュリティインシデント:AIエージェントがプラットフォームに侵入した方法と、自社で修正すべき点 Pipeline

AIエージェントが、悪意のあるデータセットをハギングフェイスの内部クラスターへのアクセス権へと悪用したが、その背後に人間の攻撃者はいなかった。ハギングフェイスのセキュリティインシデントで何が起こったのか、そしてなぜそれがAIを運用するすべてのチームにとって重要なのかを以下に説明する。 pipelineまたはAIエージェント、そして自分の環境で同じギャップを埋めるための6つのステップ。
AIエージェントのセキュリティ

AIエージェントのセキュリティ:すべてのエージェントを把握し、リスクを検知し、インストールされるものを保護する

AIエージェントは単に応答するだけでなく、自ら行動します。ツールを呼び出し、認証情報を保持し、パッケージを自動的にインストールします。ここでは、コード内のすべてのエージェントのインベントリ作成から、エージェントがインストールするパッケージの保護まで、AIエージェントのセキュリティがどのように機能するかを4つのステップで説明します。
Xygeni社によるENISE 2026におけるAIコーディングエージェントのセキュリティ

リリースを承認したのは誰?ENISE 2026から学ぶAIコーディングエージェントのセキュリティに関する教訓

ENISE 2026で、XygeniのCEOであるJesús Cuadrado氏は、GitHubのイシューにある1つの文章がどのようにして無許可のリリースにつながり、 CISAIコーディングエージェントに関する4つの質問。
OWASPエージェントAIトップ10

OWASPエージェントAIトップ10解説:ASI01~ASI10

OWASP Agentic AI Top 10は、AIエージェントが失敗する10の要因を挙げています。ASI01からASI10が実際に何を意味するのかを以下に説明します。 pipelineそれぞれのリスクがどこから侵入してくるのか、そして展開前にどのリスクを阻止できるのか。
モデル抽出攻撃

モデル抽出攻撃:なぜ在庫が最優先されるのか

モデル抽出攻撃とは、攻撃者がデータ漏洩やファイルの盗難を起こさずに、クエリごとにモデルをコピーできる攻撃手法です。ここでは、モデル窃盗の仕組みと、公開しているすべての推論エンドポイントを把握することがなぜ最初の防御策となるのかを説明します。
エージェント型AIのリスクと爆発範囲

エージェント型AIのリスクと影響範囲:エージェントを制限するか、それともより迅速な復旧を図るか?

エージェントを制約するか、より迅速に回復させるか、それとも下から封じ込めるか?3人の実務家が3つの答えを出し、全員が同意した最低限の結論は1つだった。
エージェントハーネスエンジニアリング

エージェントハーネスエンジニアリング:モデルは攻撃対象ではなく、ハーネスは

エージェントハーネスエンジニアリングは、モデルを実用的なエージェントへと変換します。しかし同時に、攻撃者にとって新たな標的、つまりエージェントの動作を指示するファイルを与えることにもなります。
AIアプリケーションセキュリティ

AIアプリケーションセキュリティ:OWASPポルト&カールスルーエで私たちが耳にした内容

OWASPポルトとカールスルーエでは、AIアプリケーションセキュリティが主流となった。 ASPM 実際、それはどのように異なるのか SASTそして、AIによるトリアージと修復が役立つ場面。
AIリスク管理

AIリスク管理:2つの分野、1つのインベントリ

検索キーワードは4つだが、仕事内容は全く異なる2つ。AIのリスク管理は、リスク管理にAIを活用することとは全く異なる分野であり、多くの組織は一方の分野に人材を配置しながら、もう一方の分野については売り込まれている。興味深いのは、これらが同じプログラムであることに気づいた時に何が起こるかということだ。
AIリスク指標

AIリスク:エージェント型AI戦略が機能しているかどうかを示す指標

今やどの取締役会も同じ質問をします。「AIリスクはどの程度か?」と。ほとんどのチームは形容詞で答えます。ここでは、数値化できるAIリスク指標、それぞれの指標の由来、そしてそれらが意味を持つようになるために、エージェント型AI戦略がカバーしなければならない内容について説明します。
AIのセキュリティ脅威

AIセキュリティにおけるトップ10の脅威とそのマッピング方法

同じ見出しで分類される2つの事柄は、同じ問題ではありません。AIシステムへの攻撃とAIを利用した攻撃は、それぞれ異なる制御、異なる所有者、そして異なる証拠を必要とします。10の脅威を2つのグループに分けて解説し、それらすべてに先行する1つのステップを示します。