お問い合わせ
 期間 14 時間

コース概要

CANNの最適化機能の概要

  • CANNにおける推論性能の処理方法
  • エッジAIおよび組み込みAIシステムの最適化目標
  • AI Coreの活用とメモリ割り当ての理解

Graph Engineを用いた分析

  • Graph Engineと実行パイプラインの紹介
  • オペレータグラフとランタイムメトリクスの可視化
  • 最適化のための計算グラフの修正

プロファイリングツールと性能メトリクス

  • CANNプロファイリングツール(profiler)によるワークロード分析
  • カーネル実行時間とボトルネックの分析
  • メモリアクセスのプロファイリングとタイルリング戦略

TIKを用いたカスタムオペレータ開発

  • TIKとオペレータプログラミングモデルの概要
  • TIK DSLによるカスタムオペレータの実装
  • オペレータ性能のテストとベンチマーク

TVMを用いた高度なオペレータ最適化

  • TVMとCANNの統合の紹介
  • 計算グラフのオートチューニング戦略
  • TVMとTIKの切り替えタイミングと方法

メモリ最適化テクニック

  • メモリレイアウトとバッファ配置の管理
  • オンチップメモリ消費量の削減テクニック
  • 非同期実行と再利用に関するベストプラクティス

実環境でのデプロイとケーススタディ

  • ケーススタディ:スマートシティ用カメラパイプラインの性能チューニング
  • ケーススタディ:自動運転車両用推論スタックの最適化
  • 反復プロファイリングと継続的改善のためのガイドライン

まとめと次のステップ

要求

  • 深層学習モデルのアーキテクチャとトレーニングワークフローに対する十分な理解
  • CANN、TensorFlow、またはPyTorchを使用したモデルデプロイの経験
  • Linux CLI、シェルスクリプト、Pythonプログラミングへの習熟

対象者

  • AI性能エンジニア
  • 推論最適化専門家
  • エッジAIまたはリアルタイムシステムで開発を行うエンジニア

参加者の人数


参加者1人あたりの価格

今後のコース

関連カテゴリー