お問い合わせ

コース概要

オフライン環境でのEXO導入方法

  • EXO_OFFLINE設定を用いて実行時のインターネット接続を完全に遮断する
  • 信頼できる社内ミラーサーバからEXO_MODELS_READ_ONLY_DIRSへモデルファイルを事前転送する
  • SHA-256チェックサムおよび署名付きモデル情報を用いてモデルの整合性を検証する
  • HuggingFaceへの依存なしに、空気ギャップ環境においてEXOを稼働させる

ダッシュボードおよびAPIのアクセス制御方法

  • TLS終端機能を備えたリバースプロキシ(nginxやCaddy)の導入・設定を行う
  • EXOダッシュボードおよびREST APIに対してロールベースアクセス制御を適用する
  • macOS鍵束またはLinuxのpassツールを用いてAPI認証に必要な機密情報を安全に保管する
  • 管理用エンドポイントへのアクセス元IP範囲を限定設定することで不正接続を防止する

クラスターの分離およびネットワークセキュリティ対策

  • EXO_LIBP2P_NAMESPACEやVLANを用いてEXOクラスター間を論理的に分離する
  • macOSアプリケーションファイアウォールやiptables、nftablesを用いてEXO用ポートの保護を行う
  • 不正な端末発見防止策および不審なノード侵入を阻止する仕組みを構築する
  • RDMA利用不可時には各ノード間通信にlibp2p暗号化機能を適用し安全性を高める

モデルガバナンスおよび出所管理手法

  • 承認済みのモデルリストや関連メタ情報から成る社内モデルレジストリを構築する
  • 量子化処理された4ビット/8ビット版モデル重量データと元となるチェックポイントとのリンク管理も含めタグ付けおよびバージョン管理を行う
  • HuggingFace上の特定リポジトリまたは社内で作成された成果物のみを読み込めるよう制限設定する
  • 各モデルの出自情報、ライセンス条項および利用基準を記録した文書を用意する

監査ログ管理とコンプライアンス対応法

  • EXOのログ出力先として改ざん不可能な監査用ストレージ(SIEMやWORM記録媒体)を設定する
  • API呼び出し履歴に基づき実行ユーザーの身元情報およびタイムスタンプを紐付け分析する
  • モデル生成処理、削除操作、推論リクエストの各種イベントデータを記録する
  • 社内外監査対応用として定期的にコンプライアンス報告書の作成を行う

脅威モデル分析およびインシデント対応策

  • 想定される危険要因:推論結果による機密情報流出、不正プロンプトの入力、サイドチャネルを通じた漏洩などを特定する
  • 不審なプロンプト内容を検出し適切にフィルタリングする仕組みを構築する
  • クラスターが侵害された場合の緊急対応手順を事前に準備しておく
  • 被害発生ノードの隔離、法科学的調査用ログの保存およびクリーンな環境への復元作業を行う

物理的セキュリティとハードウェア保護対策

  • Thunderboltポートが不正RDMA接続用ケーブルに利用されないよう厳重管理する
  • 可能な環境ではApple Silicon専用のセキュリティエンクレーブやハードウェア認証機能を活用する
  • 複数台設置されたMac端末群および共有ストレージへの物理的アクセス権限管理を行う
  • 全ハードウェアのライフサイクル把握および廃棄手順に関する文書作成を実施する

法的・規制要件への対応方法

  • EXO導入内容がGDPR、HIPAA、SOC 2といった法規制要件に合致していることを確認する
  • 推論処理を完全自社環境下で実施することによりデータの所在地維持を実現する
  • MLXやEXO、モデル重量ファイルなどのサプライチェーンリスクに関する文書記録を行う
  • EU AI Act第53条をはじめとする今後のAIガバナンス制度へ対応準備も行っておく

要求

  • EXOまたは他のローカルLLM実行環境に関する実務経験があること
  • Unix系ファイルシステムのアクセス権管理およびネットワークACLの基礎知識を有すること
  • TLS/SSL証明書の取り扱いや暗号化技術に関する理解が求められます。

対象者

  • セキュリティエンジニア
  • コンプライアンス担当者
  • 機密情報を扱うAIインフラ管理者
 14 時間

参加者の人数


参加者1人あたりの価格

お客様の声 (1)

今後のコース

関連カテゴリー