お問い合わせを送信いただきありがとうございます！当社のスタッフがすぐにご連絡いたします。
予約を送信いただきありがとうございます！当社のスタッフがすぐにご連絡いたします。
コース概要
パフォーマンス概念と指標
- レイテンシ、スループット、電力消費、リソース利用率
- システムレベル vs モデルレベルのボトルネック
- 推論用 vs トレーニング用のプロファイリング
Huawei Ascend でのプロファイリング
- CANN Profiler と MindInsight の使用
- カーネルおよび演算子の診断
- オフロードパターンとメモリマッピング
Biren GPU でのプロファイリング
- Biren SDK のパフォーマンス監視機能
- カーネル融合、メモリアライメント、実行キュー
- 電力および温度を考慮したプロファイリング
Cambricon MLU でのプロファイリング
- BANGPy と Neuware パフォーマンスツール
- カーネルレベルの可視性とログの解釈
- MLUプロファイラーのデプロイメントフレームワークとの統合
グラフおよびモデルレベルの最適化
- グラフプルーニングと量子化戦略
- 演算子融合と計算グラフの再構築
- 入力サイズの一貫性とバッチチューニング
メモリおよびカーネルの最適化
- メモリレイアウトと再利用の最適化
- チップセット全体での効率的なバッファ管理
- プラットフォームごとのカーネルレベルチューニング技術
クロスプラットフォームのベストプラクティス
- パフォーマンスの移植性：抽象化戦略
- マルチチップ環境のための共有チューニングパイプラインの構築
- 例：Ascend、Biren、MLU 間でオブジェクト検出モデルのチューニング
まとめと次のステップ
要求
- AIモデルのトレーニングまたはデプロイメントパイプラインに関する経験
- GPU/MLUの計算原理およびモデル最適化に関する理解
- パフォーマンスプロファイリングツールおよび指標の基礎的な知識
対象読者
- パフォーマンスエンジニア
- 機械学習インフラストラクチャチーム
- AIシステムアーキテクト
21 時間
