コース概要

Huawei CloudMatrixの紹介

  • CloudMatrixエコシステムとデプロイメントフロー
  • サポートされるモデル、フォーマット、およびデプロイメントモード
  • 典型的なユースケースとサポートされるチップセット

デプロイメント向けのモデル準備

  • トレーニングツール(MindSpore、TensorFlow、PyTorch)からのモデルエクスポート
  • ATC(Ascend Tensor Compiler)を使用したフォーマット変換
  • 静的形状モデルと動的形状モデル

CloudMatrixへのデプロイ

  • サービスの作成とモデル登録
  • UIまたはCLIを使用した推論サービスのデプロイ
  • ルーティング、認証、およびアクセス制御

推論リクエストの提供

  • バッチ推論フローと実時間推論フロー
  • 事前処理および後処理パイプライン
  • 外部アプリからCloudMatrixサービスの呼び出し

モニタリングとパフォーマンステューニング

  • デプロイメントログとリクエスト追跡
  • リソーススケーリングとロードバランシング
  • レンシィ調整とスループット最適化

エンタープライズツールとの統合

  • CloudMatrixをOBSおよびModelArtsと接続する
  • ワークフローとモデルバージョニングの使用
  • CI/CDによるモデルデプロイメントとロールバック

エンドツーエンド推論パイプライン

  • 完全な画像分類パイプラインのデプロイ
  • ベンチマークと精度検証
  • 故障転送とシステムアラートのシミュレーション

まとめと次の一歩

要求

  • AIモデルのトレーニングワークフローの理解
  • PythonベースのMLフレームワークを使用した経験
  • クラウドデプロイメント概念の基本的な知識

対象者

  • AIオペレーションチーム
  • 機械学習エンジニア
  • Huaweiインフラストラクチャを使用するクラウドデプロイメント専門家
 21 時間

参加者の人数


参加者1人当たりの料金

お客様の声 (1)

今後のコース

関連カテゴリー