LLM向けパラメータ効率型ファインチューニング(PEFT)技術のトレーニングコース
パラメータ効率型ファインチューニング(PEFT)とは、少数のパラメータのみを変更することで、大規模言語モデル(LLM)を効率的に適応させるための技術群です。
このインストラクター主導のライブ研修(オンラインまたはオンサイト)は、LoRA、Adapter Tuning、Prefix Tuningなどの手法を活用し、LLMのファインチューニングをより低コストかつ効率的に行いたい中級レベルのデータサイエンティストやAIエンジニアを対象としています。
本研修の終了後、参加者は以下のことを実現できるようになります:
- パラメータ効率型ファインチューニングのアプローチ背後にある理論を理解する。
- Hugging Face PEFTを用いて、LoRA、Adapter Tuning、Prefix Tuningを実装する。
- PEFT手法とフルファインチューニングのパフォーマンスとコストのトレードオフを比較する。
- 計算リソースとストレージ要件を削減しながら、ファインチューニング済みLLMをデプロイしスケーリングする。
コース形式
- 対話型の講義とディスカッション。
- 多数の実習と演習。
- ライブラボ環境でのハンズオン実装。
コースのカスタマイズオプション
- 本コースのカスタマイズされた研修をご希望の場合は、手配のために私たちにご連絡ください。
コース概要
パラメータ効率型ファインチューニング(PEFT)の紹介
- フルファインチューニングの動機と限界
- PEFTの概要:目標と利点
- 業界における応用とユースケース
LoRA(Low-Rank Adaptation)
- LoRAの概念と直感的な理解
- Hugging FaceとPyTorchを用いたLoRAの実装
- ハンズオン:LoRAによるモデルのファインチューニング
Adapter Tuning
- アダプタモジュールの動作原理
- トランスフォーマーベースのモデルとの統合
- ハンズオン:トランスフォーマーモデルへのAdapter Tuningの適用
Prefix Tuning
- ソフトプロンプトを用いたファインチューニング
- LoRAやアダプタと比較した場合の強みと限界
- ハンズオン:LLMタスクへのPrefix Tuning
PEFT手法の評価と比較
- パフォーマンスと効率性を評価するための指標
- トレーニング速度、メモリ使用量、精度におけるトレードオフ
- ベンチマーク実験と結果の解釈
ファインチューニング済みモデルのデプロイ
- ファインチューニング済みモデルの保存と読み込み
- PEFTベースモデルのデプロイ時の考慮事項
- アプリケーションおよびパイプラインへの統合
ベストプラクティスと拡張
- PEFTの量子化や蒸留との組み合わせ
- 低リソース環境や多言語設定における活用
- 今後の方向性とアクティブな研究分野
要求
- 機械学習の基礎知識の理解
- 大規模言語モデル(LLM)の取り扱い経験
- PythonとPyTorchの習熟
対象者
- データサイエンティスト
- AIエンジニア
オープントレーニングコースには5人以上が必要です。
LLM向けパラメータ効率型ファインチューニング(PEFT)技術のトレーニングコース - 予約
LLM向けパラメータ効率型ファインチューニング(PEFT)技術のトレーニングコース - お問い合わせ
LLM向けパラメータ効率型ファインチューニング(PEFT)技術 - コンサルティングお問い合わせ
今後のコース
関連コース
高度なLangGraph: 複雑なグラフの最適化、デバッグ、および監視
35 時間Devstralを用いたコーディングエージェントの構築:エージェント設計からツール活用まで
14 時間日本で開催される本ライブトレーニングでDevstralを習得してください。アーキテクチャ、エージェントワークフローの設計、ツール統合をカバーします。上級エンジニア向けの本コースでは、ハンズオンラボを通じて、モダンな開発環境において生産性とセキュリティを強化するコーディングエージェントを構築します。
オープンソースModel Ops:DevstralとMistralモデルによるセルフホスティング、ファインチューニング、ガバナンス
14 時間このインストラクター主導の研修は日本であり、DevstralとMistralモデルのセルフホスティングとファインチューニングを習得したいMLエンジニアを対象としています。参加者は、本番環境でオープンソースAIを自信を持ってデプロイするための実用的なガバナンス、モニタリング、コンプライアンス技術を学びます。
金融におけるLangGraphアプリケーション
35 時間LangGraphの基礎: グラフベースのLLMプロンプト設計とチェイニング
14 時間ヘルスケアにおけるLangGraph:規制環境向けのワークフローオーケストレーション
35 時間LangGraph for Legal Applications
35 時間LangGraphとLLMエージェントによる動的ワークフローの構築
14 時間マーケティングオートメーションのためのLangGraph
14 時間Le Chat Enterprise:プライベートChatOps、インテグレーションおよび管理制御
14 時間この日本におけるライブトレーニングでは、安全でガバナンスの行き届いた会話型AI向けのプライベートChatOpsソリューションであるLe Chat Enterpriseを扱います。受講者は、エンタープライズアプリとの統合を実行し、RBAC、SSO、およびコンプライアンス駆動型コントロールを有効化することで、スケーラブルかつ安全なAIワークフローを実現できます。
費用対効果の高いLLMアーキテクチャ:スケーラブルなMistral(パフォーマンス/コストエンジニアリング)
14 時間日本でのこの14時間のライブトレーニングにより、費用対効果の高いMistral LLMアーキテクチャを習得しましょう。Mistral Medium 3のデプロイ、最適化、スケーリングを学び、バッチ処理、量子化、効率的なサービング戦略を用いて、エンタープライズワークロードにおいて最大のスループットと最小のコストを実現する方法を身につけます。
Mistralコネクタとインテグレーションを活用した対話型アシスタントのプロダクト化
14 時間本ライブ研修では、日本においてMistralの対話型アシスタントをエンタープライズワークフローに統合する方法について学習します。参加者は、SaaSツールへの接続、検索拡張生成の実装、そして顧客対応および社内チャットインターフェースのための効果的なUXパターンの設計を習得します。
Mistral Medium 3を用いたエンタープライズグレードのデプロイ
14 時間この日本でのインストラクター主導の研修は、アドバンスドAIエンジニアがMistral Medium 3のデプロイとセキュリティを強化することを支援します。推論コストの最適化、マルチモーダルユースケースの実装、エンタープライズコンプライアンスプラクティスの適用を行います。APIおよびセルフホストセットアップのためのハンズオンラボが含まれます。
責任あるAIのためのMistral:プライバシー、データレジデンスとエンタープライズ制御
14 時間日本における本ライブ研修「責任あるAIのためのMistral」は、コンプライアンスおよびセキュリティ責任者を対象としています。プライバシー保護技術、データレジデンス戦略、およびRBACやSSOなどのエンタープライズ制御を習得し、安全かつコンプライアンス準拠したAIの導入を実現します。
Mistralモデルを活用したマルチモーダルアプリケーション構築(ビジョン、OCR、文書理解)
14 時間Mistralモデルを用いたマルチモーダルアプリケーションの構築方法を学んでいただきます。OCR、文書理解、およびビジョンとテキストの検索に焦点を当て、パイプラインの実装、NLP統合、エンタープライズレベルの設計を網羅するこのハンズオン・トレーニングは、オンラインまたは日本にて提供されます。