お問い合わせ

コース概要

LLMアーキテクチャと攻撃面の概要

  • LLMの構築、デプロイ、API経由でのアクセス方法
  • LLMアプリケーションスタックの主要コンポーネント(例:プロンプト、エージェント、メモリ、API)
  • 実際の使用場面においてセキュリティ上の問題がどのように発生するか

プロンプトインジェクションと Jailbreak(脱獄)攻撃

  • プロンプトインジェクションとは何か、およびその危険性
  • 直接型および間接型プロンプトインジェクションのシナリオ
  • セキュリティフィルタを回避するための Jailbreak 手法
  • 検出および軽減策

データ漏洩とプライバシーリスク

  • 応答を通じた意図しないデータ開示
  • PII(個人識別情報)の漏洩とモデルメモリの悪用
  • プライバシーに配慮したプロンプト設計および検索拡張生成(RAG)

LLM出力のフィルタリングと保護

  • Guardrails AIを使用したコンテンツフィルタリングと検証
  • 出力スキーマと制約条件の定義
  • 不安全な出力のモニタリングとログ記録

ヒューマン・イン・ザ・ループおよびワークフローアプローチ

  • 人間の監督をどこで、いつ導入すべきか
  • 承認キュー、スコアリング閾値、フォールバック処理
  • 信頼性の較正と説明可能性の役割

セキュアなLLMアプリケーション設計パターン

  • API呼び出しおよびエージェントに対する最小権限とサンドボックス化
  • レート制限、スロットリング、および不正利用の検出
  • LangChainを使用した堅牢なチェーンとプロンプトの分離

コンプライアンス、ログ記録、ガバナンス

  • LLM出力の監査可能性の確保
  • トレーサビリティとプロンプト/バージョン管理の維持
  • 内部セキュリティポリシーおよび規制要件への適合

まとめと次のステップ

要求

  • 大規模言語モデルとプロンプトベースのインターフェースに関する理解
  • Pythonを使用したLLMアプリケーション構築の経験
  • API連携およびクラウドベースのデプロイメントに関する知識

対象者

  • AI開発者
  • アプリケーションおよびソリューションアーキテクト
  • LLMツールを活用する技術系製品マネージャー
 14 時間

参加者の人数


参加者1人あたりの価格

今後のコース

関連カテゴリー