お問い合わせを送信いただきありがとうございます！当社のスタッフがすぐにご連絡いたします。
予約を送信いただきありがとうございます！当社のスタッフがすぐにご連絡いたします。
コース概要
カスタムオペレータ開発入門
- なぜカスタムオペレータを作成するのか？使用ケースや制約事項について
- CANNランタイムの仕組みとオペレータ統合に関するポイント
- Huawei AIエコシステムにおけるTBE、TIK、およびTVMの役割概要
TIKによる低レベルオペレータプログラミングの実践
- TIKプログラミングモデルとサポートされているAPIについて理解する
- TIKにおけるメモリ管理手法およびタイリング戦略の基本事項
- カスタムオペレータを作成・コンパイルし、CANNへ登録する方法
カスタムオペレータのテストおよび検証方法
- グラフ内でのオペレータ単体や複数組み合わせた際のユニットテスト・統合テスト手法
- カーネルレベルで発生する性能問題のデバッグ技法
- オペレータ実行状態やメモリバッファ挙動を可視化する手段
TVMによるスケジューリングと最適化の実現方法
- テンソル演算向けコンパイラとしてのTVM概要
- カスタムオペレータに対するスケジュール記述方法とその実装手順
- Ascend向けに適したTVMチューニング手法、ベンチマーク分析およびコード生成手順
フレームワークおよびモデルとの連携方法
- MindSporeやONNX向けにカスタムオペレータを登録する仕方
- モデルの整合性確認方法および異常時のフォールバック挙動検証法
- 複数種類のオペレータが混在するグラフ構造における混合精度処理対応例
ケーススタディと特殊な最適化事例紹介
- 小規模入力データ向けの高効率畳み込み演算の実現方法例
- メモリ消費量を抑えたアテンションモジュール最適化法例
- 様々なデバイス環境下でカスタムオペレータを安定運用するためのベストプラクティス事例
まとめおよび今後の取り組みへの指針紹介
要求
- AIモデルの内部構造およびオペレータ単位での計算処理に関する深い知識
- PythonおよびLinux開発環境の使用経験
- ニューラルネットワークコンパイラやグラフ単位での最適化ツールに関する知識・実務経験
受講対象者
- AI用開発環境の構築に携わるコンパイラエンジニア
- 低レベルなAI最適化業務に取り組むシステム開発者
- カスタムオペレータの構築や新規AIワークロードへの対応を目指す開発者
14 時間
