お問い合わせ

コース概要

基礎編:エージェント型AIの脅威モデル

  • エージェント型システムにおける脅威の種類:悪用、権限拡大、データ漏洩、サプライチェーンリスクなど
  • 自律型エージェント特有の攻撃者プロファイルおよび能力レベル
  • 資産の特定、信頼境界の把握、重要な制御ポイントの洗い出し方法

ガバナンス、ポリシー設計およびリスク管理

  • エージェント型システム向けのガバナンスフレームワーク:役割分担や承認プロセスの定義
  • ポリシー設計手法:利用許容範囲、権限昇格規則、データ取扱い基準、監査要件など
  • コンプライアンス対応および監査証跡の収集方法

エージェント向け非人間ID管理および認証手法

  • サービスアカウントやJWT、短期有効な資格情報を用いたエージェントのID設計方法
  • 最小権限原則に基づくアクセスパターンおよび即時的資格情報発行手法
  • IDライフサイクル管理、定期更新、委任機能の設計および無効化手順

アクセス制御、秘密情報保護およびデータ安全対策

  • エージェント向けのきめ細かなアクセス制御モデルや機能ベース制御手法
  • 秘密情報管理、通信時および保存時の暗号化、データ最小化の実践方法
  • 重要知識源や個人特定情報がエージェントによって不正利用されないための保護策

可観測性、監査およびインシデント対応手法

  • エージェント挙動を把握するためのテレメトリ設計:意図の追跡やコマンドログ、出所記録など
  • SIEM連携、警告基準の設定およびフォレンジック対応体制の整備方法
  • エージェント関連インシデントへの迅速な封じ込めと対処手順の策定手法

エージェント型システムに対するレッドチーム演習

  • レッドチーム活動の計画:範囲定義、作業ルールおよび安全なフォールバック機能設定
  • 攻撃手法例:プロンプトインジェクション、ツール悪用、思考過程の操作やAPI乱用など
  • 制御された環境での攻撃実施およびリスクの暴露度・影響範囲の評価方法

セキュリティ強化と脅威対策手法

  • エンジニアリング的制御:応答回数制限、機能制限設定やサンドボックス環境の利用など
  • ポリシーおよびオーケストレーションによる管理:承認フロー、人間介在型検証やガバナンス連携点の設計
  • モデルやプロンプト単位での防御策:入力内容の検証、標準化処理や出力フィルタリング手法

安全なエージェント導入のための運用面のポイント

  • 段階的導入手法:ステージング環境でのテストやカナリア配布、徐々に全ユーザへ展開する手順など
  • 変更管理プロセス、テストパイプライン構築および導入前チェック項目の整備方法
  • セキュリティ・法務・製品開発・運用部門間での連携フレームワーク策定手法

総仕上げ:レッドチーム/ブルーチーム演習

  • 隔離された環境においてレッドチームの攻撃シナリオを実践する。
  • ブルーチームとして各種制御機能や監視データを用いて防御・検出・修正処置を行う。
  • 得られた知見のまとめ、改善策およびポリシー改定案を提示する。

まとめおよび今後の取り組みの方向性

要求

  • セキュリティエンジニアリング、システム管理、クラウド運用に関する十分な知識があること
  • AI/MLの基本概念および大規模言語モデル(LLM)の特性に精通していること
  • ID管理・アクセス制御(IAM)および安全なシステム設計の経験があること

対象者

  • セキュリティエンジニアおよびレッドチーム担当者
  • AI運用・プラットフォームエンジニア
  • コンプライアンス責任者およびリスク管理担当者
  • エージェント導入を担う技術リーダー
 21 時間

参加者の人数


参加者1人あたりの価格

今後のコース

関連カテゴリー