お問い合わせを送信いただきありがとうございます!当社のスタッフがすぐにご連絡いたします。
予約を送信いただきありがとうございます!当社のスタッフがすぐにご連絡いたします。
コース概要
CANNによる最適化機能の概要
- CANNにおける推論パフォーマンスの取り扱い方法
- エッジや組み込み型AIシステム向けの最適化目標
- AIコアの利用状況およびメモリ割り当ての理解
グラフエンジンを用いた分析手法
- グラフエンジンの概要と実行パイプラインについて
- 演算子グラフやランタイム指標の可視化方法
- 最適化目的に応じた計算グラフの変更手法
プロファイリングツールとパフォーマンス評価指標
- CANNプロファイラーを用いたワークロード分析方法
- カーネルの実行時間やボトルネック箇所の特定手法
- メモリアクセスのプロファイリングおよびチリング戦略について
TIKを活用したカスタム演算子開発
- TIKおよびその演算子プログラミングモデルの概要
- TIK DSLを用いたカスタム演算子の実装手順
- 演算子性能を検証・ベンチマークする方法
TVMを用いた高度な演算子最適化手法
- CANNとTVMの連携方法に関する基礎知識
- 計算グラフに対して自動チューニングを行う戦略
- TVMとTIKを使い分けるタイミングおよび方法論
メモリ最適化テクニック
- メモリ配置やバッファ設計の管理手法
- チップ上メモリ使用量を減らすためのテクニック
- 非同期処理およびデータ再利用時の最適化ベストプラクティス
実際の導入事例とケーススタディ
- ケース1:スマートシティ向けカメラ処理パイプラインのチューニング例
- ケース2:自動運転車の推論フレームワーク最適化事例
- 反復的なプロファイリングと継続的改善を実現するガイドライン
まとめおよび次のステップについて
要求
- 深層学習モデルの構造およびトレーニングフローに関する十分な知識
- CANN、TensorFlow、またはPyTorchを用いたモデル導入経験
- Linuxのコマンドライン操作やシェルスクリプト、Pythonプログラミングの基礎知識
対象者
- AIパフォーマンスエンジニア
- 推論最適化の専門家
- エッジAIやリアルタイムシステム開発に携わる技術者
14 時間