お問い合わせ
 期間 14 時間

コース概要

デプロイのための機械学習モデルの準備

  • Dockerを使用したモデルのパッケージング
  • TensorFlowおよびPyTorchからのモデルエクスポート
  • バージョニングとストレージの考慮事項

Kubernetesでのモデルサービング

  • 推論サーバーの概要
  • TensorFlow ServingとTorchServeのデプロイ
  • モデルエンドポイントのセットアップ

推論の最適化手法

  • バッチング戦略
  • 並行リクエスト処理
  • レイテンシとスループットの手入れ

MLワークロードのオートスケーリング

  • Horizontal Pod Autoscaler (HPA)
  • Vertical Pod Autoscaler (VPA)
  • Kubernetes Event-Driven Autoscaling (KEDA)

GPUプロビジョニングとリソース管理

  • GPUノードの構成
  • NVIDIAデバイスプラグインの概要
  • MLワークロードのリソースリクエストと制限

モデルロールアウトとリリース戦略

  • ブルー/グリーンデプロイメント
  • カナリアロールアウトパターン
  • モデル評価のためのA/Bテスト

本番環境のML監視とオブザーバビリティ

  • 推論ワークロードのメトリクス
  • ロギングとトレーシングの実践
  • ダッシュボードとアラート

セキュリティと信頼性の考慮事項

  • モデルエンドポイントの保護
  • ネットワークポリシーとアクセス制御
  • 高可用性の確保

まとめと次のステップ

要求

  • コンテナ化されたアプリケーションのワークフローに関する理解
  • Pythonベースの機械学習モデルに関する経験
  • Kubernetesの基礎知識

対象者

  • MLエンジニア
  • DevOpsエンジニア
  • プラットフォームエンジニアリングチーム

参加者の人数


参加者1人あたりの価格

お客様の声 (4)

今後のコース

関連カテゴリー