お問い合わせ

コース概要

本番環境におけるエージェント型システムの基礎知識

  • エージェント型アーキテクチャ:ループ処理、ツール連携、メモリ機能およびオーケストレーション層
  • エージェントのライフサイクル:開発からデプロイ、継続的運用まで
  • 本番環境におけるエージェント管理で直面する課題

インフラとデプロイモデル

  • コンテナ化環境およびクラウド環境へのエージェントのデプロイ方法
  • スケーリングパターン:水平・垂直スケーリング、並列処理、負荷制限の仕組み
  • 複数エージェントのオーケストレーションとワークロードバランスの調整法

モニタリングおよび可観測性

  • 重要な指標:レイテンシ、成功率、メモリ使用量、エージェント呼び出しの深さなど
  • エージェント活動や呼び出し関係を追跡する方法
  • Prometheus、OpenTelemetry、Grafanaを用いた可観測性の実装法

ログ管理、監査、コンプライアンス対応

  • 一元化されたログ管理と構造化イベント収集手法
  • エージェント型ワークフローにおけるコンプライアンスおよび監査体制の整備法
  • デバッグ用に追跡記録やリプレイ機能を設計する方法

パフォーマンス調整とリソース最適化

  • 推論処理のオーバーヘッド削減およびエージェント動作サイクルの最適化手法
  • モデルキャッシュ技術や軽量埋め込み表現を用いた情報検索高速化法
  • AIパイプラインに対する負荷テストおよびストレス試験の実施方法

コスト管理とガバナンス

  • コスト増大要因:API呼び出し、メモリ消費、計算リソース利用度、外部連携負荷などを把握する
  • 個々のエージェントごとのコスト追跡および課金体系の構築法
  • 無秩序なエージェント増加やリソースの不要な消費を防ぐための自動化ポリシー策定法

エージェント向けCI/CDおよびデプロイ戦略

  • CI/CDフレームワークへエージェントパイプラインを統合する方法
  • 繰り返し実施される更新作業向けのテスト、バージョン管理、ロールバック戦略の策定法
  • 安全な展開を可能にする段階的デプロイメカニズムの設計法

障害回復および信頼性工学

  • フォールトトレラント構造の設計と機能低下時の適切な対応法
  • リトライ処理、タイムアウト設定、サーキットブレーカを用いたエージェント信頼性向上策
  • AI運用におけるインシデント対応および事後検証フレームワークの確立法

最終課題プロジェクト

  • 包括的なモニタリングおよびコスト追跡機能を持つエージェント型AIシステムの構築とデプロイ
  • 負荷を与えた際のパフォーマンス測定やリソース最適化の実施法
  • 完成したアーキテクチャおよびモニタリングダッシュボードを他者にプレゼンテーションする方法

総括と今後の取り組みについて

要求

  • MLOpsおよび実環境向け機械学習システムに関する十分な知識が求められます
  • コンテナ化された環境(Docker/Kubernetes)でのデプロイ経験があること
  • クラウドコスト最適化や可観測性ツールに関する知識があること

対象者

  • MLOpsエンジニア
  • サイトリライアビリティエンジニア(SRE)
  • AIインフラを管理するエンジニアリングマネージャー
 21 時間

参加者の人数


参加者1人あたりの価格

お客様の声 (3)

今後のコース

関連カテゴリー