AIシステムのレッドチーム演習：機械学習モデル向け攻撃的セキュリティのトレーニングコース

AAISMは、人工知能（AI）システムにおけるセキュリティリスクの評価、ガバナンス、および管理のために設計された高度なフレームワークです。

本コースは、オンラインまたはオンサイトでのインストラクター主導型のライブ研修であり、エンタープライズ環境でAIを運用する高度な専門家が、効果的なセキュリティコントロールとガバナンス実践を実装するために設計されています。

本プログラムの修了後、参加者は以下のことができるようになります：

• 業界で認識されている方法論を用いてAIセキュリティリスクを評価する。
• 責任あるAI導入のためのガバナンスモデルを実装する。
• 組織の目標や規制上の期待に沿ったAIセキュリティポリシーを整備する。
• AI駆動型の運用におけるレジリエンスと説明責任を強化する。

コース形式

• 専門家の分析によって補完された講師による講義。
• 実践的なワークショップおよび評価ベースのアクティビティ。
• 実際のAIガバナンスシナリオを用いた演習。

コースのカスタマイズオプション

• 貴社の組織AI戦略に合わせた特別なトレーニングをご希望の場合は、コースのカスタマイズについてお気軽にお問い合わせください。

本講座は日本にて実施されるインストラクター主導のライブトレーニング（オンラインまたはオフライン）で、中級レベルの企業リーダー向けです。参加者はEU AI法やGDPR、ISO/IEC 42001、米国のAIに関する大統領令といった新たな世界的枠組みを踏まえつつ、責任を持ってAIシステムを管理・保護する方法を学びます。

講座終了時には、参加者は以下のことを実現できるようになります：

• 各部門におけるAI利用に伴う法的・倫理的・規制上のリスクを理解する。
  
• EU AI法、NIST AI RMF、ISO/IEC 42001といった主要なAIガバナンス枠組みを解釈し適用できる。
  
• 企業内でのAI導入に際するセキュリティ対策や監査・管理方針を策定する。
  
• 外部提供業者製および社内開発のAIシステムに対する調達・利用ガイドラインを作成する。
  

人工知能（AI）の導入により、政府機関や各部局において運用上のリスク、ガバナンス課題、およびサイバーセキュリティ上の脆弱性が新たに生じています。

本講座は講師によるライブトレーニング（オンラインまたは対面）で、AIに関する事前知識が少ない公共部門のITおよびリスク管理担当者を対象としております。政府や規制環境下でのAIシステムの評価・監視・保護方法を理解したい方々に最適です。

受講を終了すると、参加者は以下の能力を身につけることができます：

• バイアス・予測不可能性・モデルの性能低下など、AIシステムに固有のリスク概念を解釈できる
  
• NIST AI RMFやISO/IEC 42001といったAI専用のガバナンスおよび監査フレームワークを適用できる
  
• AIモデルやデータパイプラインに対するサイバー攻撃の脅威を見分けられる
  
• 部局横断的なリスク管理計画およびAI導入に向けた政策調整体制を構築できる
  

講座の形式

• 公共部門における実用例題を用いた双方向型講義およびディスカッション
  
• AIガバナンスフレームワークの演習や関連方針の策定演習
  
• 具体的シナリオを基にした脅威モデリングおよびリスク評価
  

カスタマイズ対応の可能性

• 講座内容のカスタマイズをご希望の場合は、お問い合わせください。
  

本コースでは、現代のAI駆動型アプリケーションやAPI、コパイロット、自律型エージェントを安全に保つための実践的な基礎知識を提供します。受講生は、AIセキュリティが従来のウェブセキュリティとどのように異なるか、プロンプトインジェクションやRAGポイズニング、エージェント悪用といった一般的なAI特有の脅威を学びます。またWAF、AIゲートウェイ、APIセキュリティ、ガードレールなどを用いた多層的な防御手法についても理解します。実践演習や現場事例を通して、受講生はAI攻撃パターンの識別方法やLLMベースのアプリケーション保護技術、本番環境における効果的なランタイム防御策などを身につけることができます。

本講座は、日本（オンラインまたは会場開催）で実施されるインストラクター主導のライブトレーニングであり、自社においてAI TRiSMを理解し、適用したい初心者から中級レベルのIT専門家が対象となります。

講座終了時には、受講者は以下の能力を身につけることができます：

• AIにおける信頼性・リスク管理・セキュリティマネジメントの基本概念とその重要性を理解する。
• AIシステムに伴うリスクを特定し、適切に対処できるようになる。
• AIのためのセキュリティ対策のベストプラクティスを実践できるようになる。
• 規制要件やAIに関する倫理的課題について理解できるようになる。
• ​効果的なAIガバナンスおよびマネジメントの戦略を策定できるようになる。

本講座は日本にて開催されるインストラクターによるライブ研修（オンラインまたは対面）で、中級者から上級者のAI開発者、アーキテクト、製品マネージャーを対象としています。受講者はプロンプト注入やデータ漏洩、不適切な出力といったLLM駆動型アプリケーションにまつわるリスクの特定・軽減方法を学び、入力検証や人間の監視介入、出力制御機能などのセキュリティ対策も実装できるようになります。

研修終了時点で受講者は以下の能力を身につけられる予定です：

• LLMベースシステムにおける主要な脆弱性を理解する。
• 安全な設計原則に基づきLLMアプリケーションのアーキテクチャを構築できる。
• Guardrails AIやLangChainといったツールを用いた検証・フィルタリング・安全性確保が可能になる。
• サンドボックス化、レッドチーム評価、人間の監視介入などの技術を実用環境向けパイプラインに統合できる。

本コースでは、ソフトウェア開発者が設計段階から安全なAIアプリケーションの作成法を習得します。受講者はチャットボットやRAGパイプライン、AIエージェント等に対するプロンプトインジェクション防止策やデータ汚染対応、ツール利用制限方法など実践的な技術を学びます。またガードレイルの導入や自動化レッドチーミング検証手法も含まれ、リアルな環境下で堅牢かつ信頼性の高いAI機能が構築できるようになる内容です。

日本（オンラインまたは現地開催）で実施されるこのインストラクター主導型のライブトレーニングでは、特に金融業界やデータガバナンス、コンサルティングといった規制の厳しい分野においてAIモデルおよびシステム特有のセキュリティ課題を理解し対処したい中級レベルのAI専門家やサイバーセキュリティ担当者が対象となります。

修了時には以下の能力を習得できるようになります：

• AIシステムを狙う各種敵対的攻撃とその防御方法について把握する
• 機械学習パイプラインの安全確保のためモデル強化技術を実施できる
• 機械学習モデルにおけるデータ保護および完全性維持が可能になる
• AIセキュリティ関連の法規制要件に適切に対応できるようになる

本講座は日本で実施されるインストラクター主導の研修（オンラインまたは出張）であり、EXOのセキュリティ強化、モデルアクセス制御、そして完全に社内環境下で稼働するAIワークロードのガバナンスを担うセキュリティエンジニアおよびコンプライアンス担当者向けです。

本講座は日本（オンラインまたは対面）で開催されるインストラクター主導の実践型研修で、AIセキュリティの基礎知識や脅威要因、NIST AI RMFやISO/IEC 42001といった国際的なフレームワークを学びたい初心者レベルのITセキュリティ担当者、リスク管理・コンプライアンス専門家向けに企画されています。

研修終了時には、以下の能力が身につきます：

• AIシステム特有のセキュリティリスクを理解できるようになる
• 敵対的攻撃、データ汚染、モデル逆変換などの脅威要因を見極められるようになる
• NIST AI Risk Management Frameworkなどの基本的なガバナンスモデルを実際に適用できるようになる
• 新たに出現している規格やコンプライアンス基準、倫理原則と連携してAIの利用方法を調整できるようになる

日本にて開催されるこのインストラクター主導の実践研修（オンラインまたは会場開催）は、機械学習モデルやLLMベースのアプリケーションに対する攻撃を特定・検証し、防御策を講じる必要があるセキュリティエンジニアおよびMLエンジニア向けです。

最新のOWASP GenAI Security Projectのガイダンスに基づき、参加者はハンズオン演習と現実世界のシナリオを通じて、AI固有の脅威を特定し、評価し、軽減する方法を学びます。

本講座は、日本においてインストラクターによるライブ研修（オンラインまたは対面）として提供されます。現実世界の機械学習パイプラインで連合学習、安全な複数者間計算、準同型暗号、差分プライバシーといった技術を活用したい上級レベルの専門家向けです。

研修終了時点で受講者は以下の能力を習得できます：

• 機械学習における主要なプライバシー保護技術を理解し比較できる。
  
• オープンソースのフレームワークを用いて連合学習システムを実装できる。
  
• 安全なデータ共有やモデル学習のために差分プライバシー技術を応用できる。
  
• 暗号化や安全計算の手法を用いてモデルの入出力情報を保護できる。
  

本講座はインストラクター主導の実践形式で日本（オンラインまたは対面）実施され、エッジ環境に展開されたAIモデルを不正改変、データ漏洩、敵対的入力攻撃、物理的攻撃から守りたい中級レベルの技術者やセキュリティ担当者が対象です。

講座の終了時には、受講生は以下の能力を習得できるようになります：

• エッジAI環境におけるセキュリティリスクを特定・評価する
• 改ざん防止対策や暗号化推論技術を適用する
• エッジ環境で稼働するモデルとデータパイプラインの安全性を強化する
• 組み込み機器や資源が限られたシステム向けの脅威対策戦略を実装する

本講座は日本（オンラインまたは対面）で実施されるインストラクター主導のトレーニングで、中級レベルの機械学習およびサイバーセキュリティの専門家を対象としています。参加者は、概念的な枠組みやロバストな訓練法、差分プライバシーといった実践的な防御手法を用いて、AIモデルに対する新たな脅威の理解と対策を学びます。

このトレーニングを修了すると、以下のことができるようになります：

• 敵対的攻撃や逆変換攻撃、データ汚染など、AI特有の脅威を識別・分類する。
• Adversarial Robustness Toolbox（ART）などのツールを用いて攻撃シミュレーションやモデル検証を行う。
• 敵対的訓練、ノイズ付加、プライバシー保護技術といった具体的な防御策を実践する。
• 本番環境においても脅威を考慮したモデル評価戦略を設計できるようになる。