お問い合わせ

コース概要

機械学習モデルの展開準備

  • Dockerを用いたモデルのパッケージ化
  • TensorFlowおよびPyTorchからのモデルエクスポート方法
  • バージョン管理とストレージに関する考慮点

Kubernetes上でのモデル提供

  • 推論サーバーの概要
  • TensorFlow ServingおよびTorchServeの展開手順
  • モデルエンドポイントの設定方法

推論処理の最適化手法

  • バッチ処理戦略の選定
  • 複数リクエストの並列処理技術
  • 応答時間とスループットの調整方法

機械学習ワークロードのオートスケーリング

  • 水平ポッドオートスケーラー(HPA)
  • 垂直ポッドオートスケーラー(VPA)
  • Kubernetesイベント駆動型オートスケーリング(KEDA)の仕組み

GPUのプロビジョニングとリソース管理

  • GPU対応ノードの構成方法
  • NVIDIAデバイスプラグインの概要説明
  • 機械学習ワークロード向けリソース要求値および制限の設定法

モデル導入とリリース戦略

  • ブルー/グリーン展開方式
  • カナリア展開パターンの実践方法
  • モデルの評価用A/Bテストの設計手順

本番環境における機械学習の監視と可観測性

  • 推論ワークロード用指標の選定基準
  • ログ管理および追跡手法の実践例
  • ダッシュボードやアラート設定の要領

セキュリティと信頼性確保に関するポイント

  • モデルエンドポイントの安全対策手法
  • ネットワークポリシーおよびアクセス制御の実施法
  • 高可用性を担保するための仕組み構築方法

総括と今後の取り組み方針

要求

  • コンテナ化されたアプリケーションのワークフローに関する知識
  • Pythonを用いた機械学習モデル開発の経験
  • Kubernetesの基本概念への理解

受講対象者

  • 機械学習エンジニア
  • DevOpsエンジニア
  • プラットフォームエンジニアリングチームのメンバー
 14 時間

参加者の人数


参加者1人あたりの価格

お客様の声 (4)

今後のコース

関連カテゴリー