コース概要

基礎:エージェンシックAIの脅威モデル

  • エージェンシック脅威の種類:誤使用、権限昇格、データ漏洩、サプライチェーンリスク
  • 自動化されたエージェントに特有の対抗者プロファイルと攻撃者の能力
  • エージェント用の資産、信頼境界、重要な制御ポイントのマッピング

ガバナンス、ポリシー、リスク管理

  • エージェンシックシステムのガバナンスフレームワーク(役割、責任、承認ゲート)
  • ポリシー設計:適切な使用、エスカレーションルール、データハンドリング、監査可能性
  • 監査のためのコンプライアンス考慮事項と証拠収集

エージェント用の非人間アイデンティティ&認証

  • エージェント用のアイデンティティ設計:サービスアカウント、JWTs、短期クレデンシャル
  • 最小特権アクセスパターンと即時認証
  • アイデンティティライフサイクル、ローテーション、委任、無効化戦略

アクセス制御、シークレット管理、データ保護

  • エージェント用の細かいアクセス制御モデルと機能ベースパターン
  • シークレット管理、送信中および保存時の暗号化、データ最小化
  • 不正なエージェントアクセスから機密情報源と個人情報を保護する

可観測性、監査、インシデント対応

  • エージェントの行動に関するテレメトリ設計:意図トレース、コマンドログ、出自情報
  • SIEM統合、アラート閾値設定、フォレンジック準備
  • エージェント関連インシデントの対応と制御ためのランブックおよびプレイブック

エージェンシックシステムのレッドチームテスト

  • レッドチーム演習の計画:範囲、エンゲージメントルール、安全なフェイルオーバー
  • 対抗技術:プロンプト注入、ツールの誤使用、思考連鎖操作、API乱用
  • 制御された攻撃の実施と脆弱性および影響の測定

強化と軽減策

  • エンジニアリング制御:応答スロットル、機能ゲーティング、サンドボックス化
  • ポリシーとオーケストレーション制御:承認フロー、ヒューマンインザループ、ガバナンスフック
  • モデルおよびプロンプトレベルの防御:入力検証、正規化、出力フィルタ

安全なエージェント展開の実用化

  • 展開パターン:ステージング、カナリーリリース、進行展開
  • 変更管理、テストパイプライン、デプロイ前の安全性チェック
  • セキュリティ、法務、製品、運用のクロスファンクショナルガバナンス

キャップストーン:レッドチーム/ブルーチーム演習

  • サンドボックス化されたエージェント環境に対する模擬レッドチーム攻撃の実施
  • ブルーチームとして、制御とテレメトリを使用して防衛、検出、対処
  • 発見事項、対策計画、ポリシー更新の提示

要約と次なるステップ

要求

  • セキュリティエンジニアリング、システム管理、またはクラウド運用の確固たるバックグラウンド
  • AI/ML概念と大規模言語モデル(LLM)の行動に関する知識
  • アイデンティティ&アクセス管理(IAM)および安全なシステム設計の経験

対象者

  • セキュリティエンジニアとレッドチームメンバー
  • AI運用およびプラットフォームエンジニア
  • コンプライアンスオフィサーとリスクマネージャー
  • エージェント展開を担当するエンジニアリングのリーダー
 21 時間

参加者の人数


参加者1人あたりの価格

お客様の声 (1)

今後のコース

関連カテゴリー