お問い合わせを送信いただきありがとうございます!当社のスタッフがすぐにご連絡いたします。
予約を送信いただきありがとうございます!当社のスタッフがすぐにご連絡いたします。
コース概要
デプロイメント向けの機械学習モデルの準備
- Dockerによるモデルのパッケージ化
- TensorFlowおよびPyTorchからのモデルエクスポート
- バージョニングとストレージの考慮事項
Kubernetesでのモデル提供
- 推論サーバーの概要
- TensorFlow ServingおよびTorchServeのデプロイメント
- モデルエンドポイントの設定
推論の最適化技法
- バッチ処理戦略
- 同時リクエストの処理
- レイテンシーとスループットの調整
MLワークロードのオートスケーリング
- Horizontal Pod Autoscaler (HPA)
- Vertical Pod Autoscaler (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
GPUのプロビジョニングとリソース管理
- GPUノードの設定
- NVIDIAデバイスプラグインの概要
- MLワークロード向けのリソース要求と制限
モデル展開およびリリース戦略
- ブルー/グリーンデプロイメント
- カナリア展開パターン
- モデル評価のためのA/Bテスト
プロダクションでのMLにおける監視と観測性
- 推論ワークロードのメトリクス
- ログ記録とトレーシングのプラクティス
- ダッシュボードとアラート
セキュリティと信頼性の考慮事項
- モデルエンドポイントのセキュリティ確保
- ネットワークポリシーとアクセス制御
- 高可用性の確保
まとめと次のステップ
要求
- コンテナ化されたアプリケーションのワークフローに関する知識
- Pythonベースの機械学習モデルの経験
- Kubernetesの基本原理に関する理解
対象者
- MLエンジニア
- DevOpsエンジニア
- プラットフォームエンジニアリングチーム
14 時間
お客様の声 (3)
About the microservices and how to maintenance kubernetes
Yufri Isnaini Rochmat Maulana - Bank Indonesia
コース - Advanced Platform Engineering: Scaling with Microservices and Kubernetes
講師がどのように効果的に知識を伝えるか
Vu Thoai Le - Reply Polska sp. z o. o.
コース - Certified Kubernetes Administrator (CKA) - exam preparation
機械翻訳
トレーナーが私たちの質問に答える際の知識と忍耐力。
Calin Avram - REGNOLOGY ROMANIA S.R.L.
コース - Deploying Kubernetes Applications with Helm
機械翻訳