お問い合わせ

コース概要

本番環境におけるエージェント型システムの基礎

  • エージェント型アーキテクチャ: ループ、ツール、メモリ、およびオーケストレーション層
  • エージェントのライフサイクル: 開発、デプロイ、および継続的な運用
  • 本番スケールのエージェント管理の課題

インフラストラクチャとデプロイメントモデル

  • コンテナ化およびクラウド環境でのエージェントのデプロイ
  • スケーリングパターン: 水平スケーリングと垂直スケーリング、並行性、およびスロットリング
  • マルチエージェントのオーケストレーションとワークロードのバランシング

監視と可観測性

  • 主要なメトリクス: レイテンシ、成功率、メモリ使用量、およびエージェント呼び出し深度
  • エージェントのアクティビティとコールグラフのトレース
  • Prometheus、OpenTelemetry、Grafanaを使用して可観測性を計装する

ログ、監査、およびコンプライアンス

  • 集中ログおよび構造化イベントの収集
  • エージェント型ワークフローにおけるコンプライアンスと監査可能性
  • デバッグのための監査トレイルとリプレイ機構の設計

パフォーマンスチューニングとリソース最適化

  • 推論オーバーヘッドの削減とエージェントオーケストレーションサイクルの最適化
  • より高速な検索のためのモデルキャッシュと軽量エンベディング
  • AIパイプラインのロードテストとストレスシナリオ

コスト管理とガバナンス

  • エージェントのコスト要因の理解: API呼び出し、メモリ、計算、および外部統合
  • エージェントレベルのコストの追跡とチャージバックモデルの実装
  • エージェントの肥大化とアイドルリソースの消費を防ぐ自動化ポリシー

エージェント向けCI/CDとロールアウト戦略

  • エージェントパイプラインをCI/CDシステムに統合する
  • 反復的なエージェント更新のためのテスト、バージョン管理、およびロールバック戦略
  • 段階的なロールアウトと安全なデプロイメントメカニズム

障害からの回復と信頼性エンジニアリング

  • フォールトレラントおよびグレースフルデグラデーションのための設計
  • エージェントの信頼性のためのリトライ、タイムアウト、およびサーキットブレーカーパターン
  • AIオペレーションのためのインシデントレスポンスと事後分析フレームワーク

キャップストーンプロジェクト

  • 完全な監視とコスト追跡を備えたエージェント型AIシステムを構築し、デプロイする
  • 負荷をシミュレートし、パフォーマンスを測定して、リソース使用量を最適化する
  • 最終的なアーキテクチャと監視ダッシュボードを同僚にプレゼンテーションする

まとめと次のステップ

要求

  • MLOpsおよび本番機械学習システムの深い理解
  • コンテナ化デプロイメント(Docker/Kubernetes)の経験
  • クラウドコスト最適化および可観測性ツールへの精通

対象読者

  • MLOpsエンジニア
  • サイト信頼性エンジニア(SRE)
  • AIインフラストラクチャを管理するエンジニアリングマネージャー
 21 時間

参加者の人数


参加者1人あたりの価格

お客様の声 (3)

今後のコース

関連カテゴリー