お問い合わせを送信いただきありがとうございます!当社のスタッフがすぐにご連絡いたします。
予約を送信いただきありがとうございます!当社のスタッフがすぐにご連絡いたします。
期間 21 時間
コース概要
基礎:エージェント型AIの脅威モデル
- エージェント型脅威の種類:誤用、権限昇格、データ漏洩、サプライチェーンリスク
- 自律エージェントに固有の敵対者プロフィールと攻撃者の能力
- エージェントのアセット、信頼境界、重要管理ポイントのマッピング
ガバナンス、ポリシー、リスク管理
- エージェント型システムのガバナンスフレームワーク(役割、責任、承認ゲート)
- ポリシー設計:適正な使用、エスカレーションルール、データ取り扱い、監査可能性
- コンプライアンス上の考慮事項と監査のための証拠収集
エージェントの非人間アイデンティティと認証
- エージェント向けアイデンティティの設計:サービスアカウント、JWT、短期間有効な資格情報
- 最小権限アクセスパターンとジャストインタイム資格情報管理
- アイデンティティのライフサイクル、ローテーション、委譲、失効戦略
アクセス制御、シークレット、データ保護
- エージェント向けの細粒度アクセス制御モデルと能力ベースのパターン
- シークレット管理、転送中および保存時の暗号化、データ最小化
- 機密性の高い知識ソースとPII(個人識別可能情報)を不正なエージェントアクセスから保護する
オブザーバビリティ、監査、インシデント対応
- エージェントの行動のためのテレメトリ設計:意図の追跡、コマンドログ、プロベナンス
- SIEM統合、アラートしきい値、法医学的準備
- エージェント関連のインシデントと封じ込めのためのランブックとプレイブック
エージェント型システムのレッドチームテスト
- レッドチーム演習の計画:範囲、エンゲージメントルール、安全なフェイルオーバー
- 敵対技術:プロンプトインジェクション、ツール誤用、思考連鎖の操作、API乱用
- 制御下での攻撃の実行と暴露度・影響の測定
強化と軽減
- エンジニアリング制御:レスポンススロットリング、能力ゲーティング、サンドボックス
- ポリシーとオーケストレーション制御:承認フロー、人間による介入、ガバナンスフック
- モデルおよびプロンプトレベルの防御:入力バリデーション、正規化、出力フィルタ
安全なエージェントデプロイメントの実運用
- デプロイメントパターン:エージェント向けのステージング、カナリア、段階的ロールアウト
- 変更管理、テストパイプライン、デプロイ前安全检查
- クロスファンクショナルガバナンス:セキュリティ、法務、プロダクト、運用のプレイブック
課題:レッドチーム/ブルーチーム演習
- サンドボックスされたエージェント環境に対するシミュレーションレッドチーム攻撃を実行する
- ブルーチームとして、制御とテレメトリを使用して防御、検出、修復を行う
- 調査結果、修復計画、ポリシー更新を提示する
まとめと次のステップ
要求
- セキュリティエンジニアリング、システム管理、またはクラウドオペレーションに関する確かな基礎知識
- AI/MLの概念および大規模言語モデル(LLM)の挙動への慣れ
- アイデンティティとアクセス管理(IAM)および安全なシステム設計に関する経験
対象者
- セキュリティエンジニアおよびレッドテーマー
- AI運用エンジニアおよびプラットフォームエンジニア
- コンプライアンス担当者およびリスクマネージャー
- エージェントデプロイメントを担当するエンジニアリングリード
お客様の声 (1)
AI内の異なるリスクエクスポージャーを棚卸しし、特定する
Gary Cook - Cybersecurity and Information Technology Risk Division
コース - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
機械翻訳