コース概要
モジュール1 セキュリティエンジニア向けAIシステムの基礎
演習:ラボ01 導入編
アーキテクチャの理解方法を学びます。
主な内容:
- LLMと通常のアプリケーションの違い
- AI推論パイプライン
- プロンプトフロー
- RAGアーキテクチャ
- エンベディング/ベクトルデータベース
- エージェント型ワークフロー
- ツール呼び出しの仕組み
- AIゲートウェイの機能
- コパイロットの役割
- MCPやエージェント用プロトコル
- WAFによる可視性が確保できる範囲
- 可視性が失われるポイント
重要な知見: 従来のWAFはプロンプトがモデルに到達した後では可視性を失いがちです。
モジュール2 OWASP GenAI Top 10
演習:なし 対話式の復習・ディスカッション
主なAI攻撃種別について学びます。
主な内容:
- プロンプトインジェクション
- 不適切な出力処理
- 訓練データの汚染
- モデルDoS攻撃
- サプライチェーン脆弱性
- 機密情報漏洩
- 過剰な自律権限の持ち込み
- ベクトル/エンベディングの脆弱性
- 偽情報の生成・拡散
- 無制限なリソース消費
取り上げるポイント:
- 従来のOWASPとの違い
- WAF、ゲートウェイ、アプリケーション層での防御制御の対応方法
- 各制御機構が有効な場面
- 機能しにくい箇所
モジュール3 プロンプトインジェクションの検出方法
演習:ラボ02 プロンプトインジェクション対策
AI分野における「SQLインジェクション時期」について学びます。
主な内容:
- 直接的なプロンプトインジェクション
- 間接的なプロンプトインジェクション
- 隠された指示の存在
- 文書を利用した攻撃手法
- HTML/Markdownインジェクション
- ジレンブレイクパターン
- コンテキスト上書き攻撃
- 役割混同を狙った攻撃
検出手法:
- キーワードを用いたヒューリスティック分析
- 意味論的クラシフィケーション手法
- プロンプトリント検査方法
- 指示文境界の強制策
- 許可/禁止ポリシーの設定法
- AIにも対応した正規表現パターン作成法
実践演習:
- チャットボットへの攻撃手法の習得
- 単純なフィルタ機能をすり抜ける方法
- 多層検出体制の構築法
モジュール4 AI対応型WAFルールの設計
演習:ラボ03 WAF基礎技術
AIシステム向けにWAFルールがどう進化するかを学びます。
- 主な内容:
- LLMエンドポイントの保護策
- 推論用APIの防御手法
- トークン単位で制御するレート制限技術
- プロンプトサイズ検査法
- AI特有のシグネチャ定義方法
- 対話内容異常の検知手法
- 複数回にわたる悪用パターンの特定方法
- モデル列挙試みの防止策
- 推論情報の不正取得行為への対応法
- 費用爆発攻撃からの保護手法
具体例:
- /v1/chat/completionsエンドポイントの防御策
- ストリーミング型APIを守る方法
- 反復的なエージェント呼び出しのブロック法
モジュール5 RAGパイプラインのセキュリティ確保
演習:ラボ04 RAGセキュリティ対策
RAGは新たな攻撃対象領域の一つです。
主な内容:
- ベクトルデータベースの脅威要素
- エンベディングの汚染手法
- 悪意あるPDFや文書による攻撃法
- 検索プロセスを操作する方法
- 意味論的な情報汚染策
- 文書内に隠された指示の仕組み
- 複数文書間での情報伝播手法
- 検索機能を利用したデータ漏洩手順
防御策:
- 取り込み時のサニタイゼーション手法
- 信頼度スコア算出法
- メタデータ分離技術
- 文書出所の特定手法
- 検索制御ルールの設定方法
- 情報セグメンテーション技法
ケーススタディ:「悪意あるPDFをアップロードしてAIアシスタントを支配する」
モジュール6 エージェント型AIのセキュリティ対策
演習:ラボ05 エージェントセキュリティ対策
危険性が最も高まる領域です。
主な内容:
- 過剰な自律権限の付与状態
- ツール悪用手法
- API連鎖操作の方法
- 自己維持型ループの仕組み
- 権限エスカレーションの可能性
- メモリー情報汚染手法
- 間接的なツール実行法
- エージェントになりすます手順
- 認証情報漏洩の危険性
- 複数エージェント連携による攻撃手法
防御策:
- 各エージェントごとの最小権限原則の適用法
- 承認制御ゲート設置方法
- ランタイムポリシーエンジンの活用手法
- サンドボックス技術の利用法
- 限定された認証情報管理方法
- ツールホワイトリスト作成手順
- 人の確認プロセス導入法
本モジュールは、運用面やビジネスへの影響度を考える上で管理者が最も関心を持つ部分です。
モジュール7 AI向けAPIセキュリティ対策
演習:ラボ06 費用爆発攻撃の防止法
AIシステムは多くがAPIを利用します。
主な内容:
- APIゲートウェイの機能と役割
- GraphQLにおけるAI関連リスク要因
- MCPやAPI悪用手法
- JWTによる保護策
- AIプラグインのセキュリティ対応法
- エージェント認証機構の仕組み
- 委譲型承認処理の実装手法
- 秘密情報管理技術
- 署名付きプロンプト作成法
- AI向けAPIインベントリ作成手順
関連事項:OWASP API Security Top 10
モジュール8 検出エンジニアリングとSOC統合手法
演習:ラボ07 脅威検知手法
運用レベルでの防御策を学びます。
主な内容:
- AIテレメトリの収集法
- プロンプトログ記録技術
- トークン統計分析手法
- 異常検知実装方法
- 意味論的SIEMパイプライン構築法
- AI攻撃指標の特定手順
- LLM悪用行為を探る脅威ハンティング手法
- AIランタイム観測技術
具体例:
- ジレンブレイク攻撃の検出法
- 自動化されたエージェント悪用行為の発見手法
- モデル情報の不正取得行為特定法
モジュール9 クラウドWAFとAIセキュリティ対策
演習:なし 対話式の復習・ディスカッション
各ベンダーごとの実装内容を学びます。
主な内容:
- AWS WAFにおけるAI API保護法
- Azure WAFの機能概要
- Cloudflare AIゲートウェイ利用法
- 各種APIゲートウェイの役割
- Envoyを用いたAIフィルタリング手法
- Kong AIゲートウェイの機能
- NGINXによるAIセキュリティ対策法
比較検討:
- 従来型WAF、AIゲートウェイ、アプリケーション層ガードレールの違い
- プロキシベース手法と意味論的フィルタリング法の比較
モジュール10 多層的なAI防御体制の構築方法
演習:ラボ08 多層防衛設計法
本コースにおける重要な理念の一端です。
単一のレイヤーだけではAIを十分に守れない(特にWAFのみでは不十分)という事実です。
受講生は多層モデルを構築します:
- WAF
- APIゲートウェイ
- AIゲートウェイ
- ガードレール
- ランタイム監視体制
- 認証・承認機構
- サンドボックス環境
- 人の最終確認プロセス
- 可観測性実装法
- インシデント対応手順
この枠組みは「多層防御モデル」とも密接に結びついています。
モジュールと演習の対応関係
各演習はモジュール順に実施されます。
本コースでは10のモジュールがあるものの、実際の演習数は8つです:モジュール2と9が対話式復習・ディスカッションであり演習がありません。
以下に各演習が該当するモジュールを示します。
- ラボ01(モジュール1)
- フォルダ名: 01-Introduction
- 演習名称: AIシステムの仕組み確認および通信内容解析
- ラボ02(モジュール3)
- フォルダ名: 02-Prompt-Injection
- 演習名称: チャットボット攻撃と単純フィルタ機構の回避手法
- ラボ03(モジュール4)
- フォルダ名: 03-WAF-Basics
- 演習名称: AI対応型WAFルール作成法
- ラボ04(モジュール5)
- フォルダ名: 04-RAG-Security
- 演習名称: RAGパイプラインへの汚染行為実施法
- ラボ05(モジュール6)
- フォルダ名: 05-Agent-Security
- 演習名称: 自律型エージェントの安全確保手法
- ラボ06(モジュール7)
- フォルダ名: 06-Denial-of-Wallet
- 演習名称: 費用爆発攻撃の検知手法
- ラボ07(モジュール8)
- フォルダ名: 07-Detection
- 演習名称: ログ内からAI悪用パターンを探る手法
- ラボ08(モジュール10)
- フォルダ名: 08-Layered-Defense
- 演習名称: 多層AI防御アーキテクチャの設計法
最終課題
受講生は模擬的な企業用AIアシスタントを防御します。
攻撃者が試みる行為:
- プロンプトインジェクション
- ツール悪用行為
- 認証情報盗取手法
- RAG情報汚染操作
- 過剰なAPI利用誘発策
- エージェント権限の拡大試み
各チームが構築するもの:
- WAFルール群
- AIゲートウェイ制御ポリシー
- ランタイム検出手法
- ガードレール実装法
- インシデント対応手順
要求
- 受講生はHTTP/APIセキュリティやプロキシ/リバースプロキシ、認証機構、OWASP Top 10、REST API、そして基本的なクラウドネットワークについてすでに理解している必要があります。
対象者
- セキュリティエンジニアおよびAppSec担当者
- SOC分析官や検出エンジニア
- APIセキュリティエンジニア
- クラウド/API/プラットフォームのセキュリティ担当者
- DevSecOpsエンジニア
- セキュリティアーキテクト
- WAFやネットワークセキュリティの専門家
- AIプラットフォームエンジニア
お客様の声 (2)
AI攻撃とその実践に役立つツールの知識を学べたことは非常に有意義でした。セキュリティテストのために積極的に活用するにあたり、多くの新たな知見を得ることができました。この講座は私の期待を上回る内容であり、特に「Comet Browser」の機能には大きな感動を覚えました。今後はさらに掘り下げて調査したいと思っています。全体として大変優れた講座であり、OWASP GenAI Top 10の全項目を学ぶことができたことを嬉しく思います。
Patrick Collins - Optum
コース - OWASP GenAI Security
機械翻訳
彼が私たちの前で専門的な知識をどのように提示したか
Miroslav Nachev - PUBLIC COURSE
コース - Cybersecurity in AI Systems
機械翻訳