お問い合わせ

コース概要

EXOとローカルAIクラスタリングの概要

  • EXOフレームワークおよびexo-exploreエコシステムの解説
  • 中央集約型クラウド推論と分散型ローカル推論の比較検証
  • libp2pを利用したデバイス自動検出機構やMLXバックエンド、ダッシュボードおよびAPIレイヤーの概要説明
  • Apple Silicon(M3 Ultra/M4 Pro/Max)やThunderbolt 5接続、共有ストレージといった必要ハードウェア要件の確認

macOS環境におけるEXOの導入手順

  • XcodeおよびMetal ToolChainとmacOS固有の前提条件設定法
  • uvやNode.js、Rustナイトリーツールチェーンの導入作業
  • Apple Silicon環境監視用に特化したmacmonフォークのインストール手順
  • リポジトリのクローン処理やnpmを用いたダッシュボード構築法
  • ソースコードからEXOを実行し、localhost:52415上に表示されるダッシュボードを確認する手順

Linux環境におけるEXOの導入手順

  • aptやHomebrew経由での依存パッケージ導入法
  • uvやNode.js 18以上、Rustナイトリーバージョンの設定作業
  • ダッシュボード構築およびCPU専用モードでEXOを実行する方法
  • XDG Base Directory基準のディレクトリ構造に沿った設定ファイル・キャッシュデータの管理法

自動デバイス検出およびクラスター形成の仕組み

  • ローカルネットワーク上でlibp2pを用いた自動検出機能の作動原理
  • EXO_LIBP2P_NAMESPACEパラメータにより独自名前空間を定義しクラスターを隔離する方法
  • ダッシュボード画面から各ノードが適切に登録されていることを確認する手順
  • 検出失敗時やネットワーク分断状態における対処法の解説

Thunderbolt 5経由でのRDMA機能有効化方法

  • 99%という低遅延効果が得られるとされるRDMA通信の仕組み概要
  • macOSリカバリーモード下でrdma_ctlを用いてRDMA設定を有効にする手順
  • Mac Studio環境でのケーブル要件やポート配列に関する制約条件説明
  • 全クラスターノード間におけるmacOSバージョンの統一確認法
  • RDMA検出失敗時のトラブルシューティングおよびDHCP設定問題対処法

最先端モデルの配置作業手順

  • ダッシュボードを用いてDeepSeek v3.1やQwen3-235B、Llamaシリーズといった各種モデルを分割配置する方法
  • /instance/previews APIエンドポイント経由でのインスタンス割り当て予測表示確認法
  • パイプライン処理やテンソル並列化方式によるモデルインスタンス作成手順
  • HuggingFaceから取得したカスタムモデルデータの設定方法解説

監視および問題解析手法

  • EXOログの読み取り方や分散型追跡処理システムの活用法説明
  • ダッシュボード上でのクラスター健全性状態の判断基準解説
  • 作業ノード異常検出時における再接続制御メカニズム解析法
  • パフォーマンスボトルネック特定に用いられるEXO_TRACING_ENABLED設定事例紹介

クラスター保守更新手順および運用管理

  • EXO実行ファイル更新やダッシュボード再構築の標準プロセス説明
  • NFS経由での事前取得済モデルキャッシュデータ移動および維持管理方法
  • ノード削除作業時における適切なワークロード再配分手順の解説

要求

  • ネットワーク基礎知識(IPアドレス・サブネット分割・ファイアウォールなど)の理解
  • macOSまたはLinux環境におけるコマンドライン管理経験
  • Pythonパッケージ管理ツール(pip/uv)やNode.js関連ツールへの慣れ親しみ

対象者層

  • システム管理者
  • DevOpsエンジニア
  • オンプレミス環境でのLLM展開業務を担当するAIインフラ設計者
 21 時間

参加者の人数


参加者1人あたりの価格

今後のコース

関連カテゴリー