お問い合わせを送信いただきありがとうございます!当社のスタッフがすぐにご連絡いたします。
予約を送信いただきありがとうございます!当社のスタッフがすぐにご連絡いたします。
期間 14 時間
コース概要
デプロイのための機械学習モデルの準備
- Dockerを使用したモデルのパッケージング
- TensorFlowおよびPyTorchからのモデルエクスポート
- バージョニングとストレージの考慮事項
Kubernetesでのモデルサービング
- 推論サーバーの概要
- TensorFlow ServingとTorchServeのデプロイ
- モデルエンドポイントのセットアップ
推論の最適化手法
- バッチング戦略
- 並行リクエスト処理
- レイテンシとスループットの手入れ
MLワークロードのオートスケーリング
- Horizontal Pod Autoscaler (HPA)
- Vertical Pod Autoscaler (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
GPUプロビジョニングとリソース管理
- GPUノードの構成
- NVIDIAデバイスプラグインの概要
- MLワークロードのリソースリクエストと制限
モデルロールアウトとリリース戦略
- ブルー/グリーンデプロイメント
- カナリアロールアウトパターン
- モデル評価のためのA/Bテスト
本番環境のML監視とオブザーバビリティ
- 推論ワークロードのメトリクス
- ロギングとトレーシングの実践
- ダッシュボードとアラート
セキュリティと信頼性の考慮事項
- モデルエンドポイントの保護
- ネットワークポリシーとアクセス制御
- 高可用性の確保
まとめと次のステップ
要求
- コンテナ化されたアプリケーションのワークフローに関する理解
- Pythonベースの機械学習モデルに関する経験
- Kubernetesの基礎知識
対象者
- MLエンジニア
- DevOpsエンジニア
- プラットフォームエンジニアリングチーム
お客様の声 (1)
今回のトレーニングではKubernetesの部分が特に良かったです。K8sのポッドやポートに関するタスクがありましたが、理解が深まったので大変助かりました。ありがとうございました!
Laura Miron - Betfair
コース - Docker and Kubernetes
機械翻訳