お問い合わせを送信いただきありがとうございます！当社のスタッフがすぐにご連絡いたします。
予約を送信いただきありがとうございます！当社のスタッフがすぐにご連絡いたします。
期間 14 時間
コース概要
カスタムオペレータ開発の入門
- なぜカスタムオペレータを構築するのか？ユースケースと制約
- CANNランタイムの構造とオペレータ統合ポイント
- Huawei AIエコシステムにおけるTBE、TIK、TVMの概要
TIKによる低レベルオペレータプログラミング
- TIKプログラミングモデルとサポートされているAPIの理解
- TIKにおけるメモリ管理とタイルリング戦略
- CANNでのカスタムオペレータの作成、コンパイル、登録
カスタムオペレータのテストと検証
- グラフ内でのオペレータのユニットテストと統合テスト
- カーネルレベルのパフォーマンス問題のデバッグ
- オペレータの実行とバッファ挙動の可視化
TVMベースのス케ジューリングと最適化
- テンソルオペレータのコンパイラとしてのTVMの概要
- TVMでカスタムオペレータのスケジューリングを記述する
- Ascend向けTVMチューニング、ベンチマーキング、コード生成
フレームワークおよびモデルとの統合
- MindSporeおよびONNX向けのカスタムオペレータの登録
- モデルの完全性とフォールバック挙動の検証
- 混合精度を持つマルチオペレータグラフのサポート
ケーススタディと専門的な最適化
- ケーススタディ：小規模入力形状向けの高効率コンボリューション
- ケーススタディ：メモリ配慮型のアテンションオペレータ最適化
- デバイス間でのカスタムオペレータデプロイのベストプラクティス
まとめと次のステップ
要求
- AIモデルの内部構造およびオペレータレベルの計算に関する十分な知識
- PythonおよびLinux開発環境での経験
- ニューラルネットワークコンパイラまたはグラフレベルのオプティマイザーへの慣れ
対象者
- AIツールチェーンに取り組んでいるコンパイラエンジニア
- 低レベルのAI最適化に注力しているシステム開発者
- カスタムオペレータの構築または新しいAIワークロードを対象とする開発者
