お問い合わせ

コース概要

CANNによる最適化機能の概要

  • CANNにおける推論パフォーマンスの取り扱い方法
  • エッジや組み込み型AIシステム向けの最適化目標
  • AIコアの利用状況およびメモリ割り当ての理解

グラフエンジンを用いた分析手法

  • グラフエンジンの概要と実行パイプラインについて
  • 演算子グラフやランタイム指標の可視化方法
  • 最適化目的に応じた計算グラフの変更手法

プロファイリングツールとパフォーマンス評価指標

  • CANNプロファイラーを用いたワークロード分析方法
  • カーネルの実行時間やボトルネック箇所の特定手法
  • メモリアクセスのプロファイリングおよびチリング戦略について

TIKを活用したカスタム演算子開発

  • TIKおよびその演算子プログラミングモデルの概要
  • TIK DSLを用いたカスタム演算子の実装手順
  • 演算子性能を検証・ベンチマークする方法

TVMを用いた高度な演算子最適化手法

  • CANNとTVMの連携方法に関する基礎知識
  • 計算グラフに対して自動チューニングを行う戦略
  • TVMとTIKを使い分けるタイミングおよび方法論

メモリ最適化テクニック

  • メモリ配置やバッファ設計の管理手法
  • チップ上メモリ使用量を減らすためのテクニック
  • 非同期処理およびデータ再利用時の最適化ベストプラクティス

実際の導入事例とケーススタディ

  • ケース1:スマートシティ向けカメラ処理パイプラインのチューニング例
  • ケース2:自動運転車の推論フレームワーク最適化事例
  • 反復的なプロファイリングと継続的改善を実現するガイドライン

まとめおよび次のステップについて

要求

  • 深層学習モデルの構造およびトレーニングフローに関する十分な知識
  • CANN、TensorFlow、またはPyTorchを用いたモデル導入経験
  • Linuxのコマンドライン操作やシェルスクリプト、Pythonプログラミングの基礎知識

対象者

  • AIパフォーマンスエンジニア
  • 推論最適化の専門家
  • エッジAIやリアルタイムシステム開発に携わる技術者
 14 時間

参加者の人数


参加者1人あたりの価格

今後のコース

関連カテゴリー