安全で保護されたエージェント型AI：ガバナンス、アイデンティティ管理、レッドチーミングのトレーニングコース

基礎：エージェント型AIの脅威モデル

• エージェント型脅威の種類：誤用、権限昇格、データ漏洩、サプライチェーンリスク
• オートノマスなエージェントに特化した敵対者プロファイルと攻撃者の能力
• エージェントの資産、信頼境界、重要な制御ポイントのマッピング

ガバナンス、ポリシー、リスク管理

• エージェント型システムのガバナンスフレームワーク（役割、責任、承認ゲート）
• ポリシー設計：適正使用、エスカレーションルール、データ処理、監査可能性
• コンプライアンス上の考慮事項と監査のための証拠収集

エージェント用の非人間アイデンティティおよび認証

• エージェントのアイデンティティ設計：サービスアカウント、JWT、短期間有効な認証情報
• 最小権限アクセスパターンとジャストインタイム認証
• アイデンティティのライフサイクル、ローテーション、委譲、失効戦略

アクセス制御、シークレット、データ保護

• エージェント向けの細粒度のアクセス制御モデルと機能ベースのパターン
• シークレット管理、通信中および保存時の暗号化、データ最小化
• 機微なナレッジソースとPIIの不正アクセスからの保護

観察可能性、監査、インシデント対応

• エージェント行動のためのテレメトリ設計：意図の追跡、コマンドログ、起源
• SIEM統合、アラート閾値、フォレンジック対応準備
• エージェント関連インシデントと封鎖のためのランブックとプレイブック

エージェント型システムのレッドチーミング

• レッドチーム演習の計画：範囲、エンゲージメントルール、安全なフェイルオーバー
• 敵対的手法：プロンプトインジェクション、ツールの誤用、思考連鎖操作、API乱用
• 管理された攻撃の実施と、さらさら範囲および影響の測定

ハーデニングと緩和策

• エンジニアリング制御：レスポンススロットリング、機能ゲーティング、サンドボックス化
• ポリシーとオーケストレーション制御：承認フロー、人間による介入、ガバナンスフック
• モデルとプロンプトレベルの防御：入力検証、正規化、出力フィルタ

安全なエージェントデプロイメントの実運用

• デプロイメントパターン：ステージング、カナリア、プログレッシブロールアウト
• 変更制御、テストパイプライン、デプロイ前セーフティチェック
• クロスファンクショナルなガバナンス：セキュリティ、法務、プロダクト、運用のプレイブック

キャプストン：レッドチーム／ブルーチーム演習

• サンドボックス化されたエージェント環境に対するシミュレートされたレッドチーム攻撃を実行する
• ブルーチームとして、制御とテレメトリを使用して防御、検出、修復を行う
• 調査結果、修復計画、ポリシー更新を提示する

まとめと次のステップ