@maru
OpenTelemetryとOpenInference — AIエージェントの「静かなる失敗」を捉える
LLMを活用した検索拡張生成（RAG）やマルチエージェントワークフローでは、API呼び出し自体は成功していても、誤ったドキュメントの参照やハルシネーション（幻覚）によって失敗する、いわゆる「静かなる失敗」が頻繁に発生します。従来のアプリケーションパフォーマンス管理（APM）ツールはネットワーク状態やHTTPレスポンスコードといったシステムメトリクスのみに依存しているため、こうしたビジネスレイヤーの誤動作を検知できません。AIエージェントの内部実行経路と外部ツール連携プロセスを透明化し、信頼性を評価するために、なぜOpenTelemetryとOpenInferenceを組み合わせた専用のオブザーバビリティ設計が必要なのかを解説します。
OpenTelemetry GenAI仕様の限界とOpenInferenceの価値
既存のAPMツールでは、AIサービスの正常な動作を正確に検知することが困難です。エージェントシステムでは、APIサーバーが正常なレスポンスを返しても、内部的には誤ったドキュメントを参照していたり、ハルシネーションによって不適切な出力を生成したりする「静かなる失敗」が多発するためです。こうした誤動作を迅速に特定するには、プロンプトテンプレート、埋め込み（Embedding）、ベクトルデータベースクエリ、リランキング結果といった、各実行ステップの中間データを詳細に記録する必要があります。
しかし、OpenTelemetry公式のGenAIセマンティック規約は、依然として開発段階にあります。2026年6月・7月には関連仕様が別リポジトリとして独立するなど大規模な改編が行われましたが、本番環境で生成される深くネストされたスパンスキーマを表現するには構造的な制約が大きすぎます。そのため、複雑なエージェントワークフローやRAGシステムの詳細な挙動を標準規約だけで記述することには、依然として機能的な空白が存在します。
Arize AIが主導するオープンソースのOpenInferenceは、こうした限界を克服する最適な拡張規約として定着しました。LLM呼び出し、検索、ツール利用といったエージェントの主要コンポーネントに最適化されたセマンティックスキーマを安定的にサポートしており、複雑なコンテキストを構造的にキャプチャ可能です。収集されたOpenInferenceデータを軽量な変換レイヤー経由で企業の既存APMプラットフォーム形式へ送出するハイブリッドパイプラインは、現在もっとも現実的かつ安定した監視アーキテクチャとして注目されています。
MCP v2の分散トレーシング：SEP-414標準と_meta伝播手法
Model Context Protocol（MCP）がステートレスなHTTPアーキテクチャへと全面的に刷新されたことで、バックエンドサーバーと外部に独立したツールサーバー間の通信トレースを途切れさせることなく伝播させる技術が重要になりました。従来の分散トレーシングは主にHTTPヘッダーに依存してトレース情報を引き継いできましたが、MCP通信で多用される標準入出力（stdio）やローカルパイプ環境では、このヘッダーベースの伝播方式が機能せず、トレースが分断されるという課題がありました。
この問題を解決するために導入されたSEP-414規約は、通信手段に依存しない独立したコンテキスト伝播手法を定義しています。SEP-414標準では、JSON-RPCのリクエストペイロード内にある「_meta」オブジェクトの中に、W3C Trace Context規格である「traceparent」「tracestate」「baggage」などを直接埋め込んで伝送します。これにより、stdioパイプであれHTTP接続であれ、環境を問わず同じ形式で分散トレーシングのコンテキストを安全に維持できます。
さらに「openinference-instrumentation-mcp」ライブラリを併用すれば、このメタデータの挿入および解析プロセスを自動化できます。エージェントクライアントがツールを呼び出す瞬間から、MCPサーバーがそれを実行して応答するまでの全フローが、単一のウォーターフォールチャート上に連続した一つのスパンとして鮮明に可視化されます。
宣言的エージェント監視：PydanticAI最新パッケージの導入事例
エージェント内部の動作フローや複雑なツール呼び出しを追跡するために、ビジネスロジックの間に手動でスパン記録コードを埋め込む手法は、開発効率を低下させます。2026年7月30日に正式リリースされた「openinference-instrumentation-pydantic-ai v0.1.18」は、静的型安全性を備えたPydanticAIベースのエージェントにおいて、数行の宣言的な設定だけで全実行経路を収集可能です。
PydanticAIは独自に標準OpenTelemetryトレースを出力しますが、この最新ライブラリが提供する専用プロセッサーにより、それらのメタデータがエージェント特化型のスキーマへと自動的に加工されます。バックグラウンドでの非同期エクスポーターを用いることで、メインのビジネス処理ループのパフォーマンス遅延を根本から防ぎつつ、プロンプトテンプレート変数、入力パラメーター、エージェントの最終出力構造までを、生のデータ型を維持したまま監視できます。
import os
from opentelemetry import trace
from opentelemetry.exporter.otlp.proto.http.trace_exporter import OTLPSpanExporter
from opentelemetry.sdk.trace import TracerProvider
from opentelemetry.sdk.trace.export import BatchSpanProcessor
from openinference.instrumentation.pydantic_ai import OpenInferenceSpanProcessor
from pydantic import BaseModel
from pydantic_ai import Agent
# 1. 오픈텔레메트리 트레이서 프로바이더 초기화
provider = TracerProvider()
trace.set_tracer_provider(provider)
# 2. PydanticAI 스팬을 OpenInference 포맷으로 가공하는 프로세서 등록
provider.add_span_processor(OpenInferenceSpanProcessor())
# 3. 비동기 익스포터를 통한 오픈소스 수집기 전송 설정
exporter = OTLPSpanExporter(endpoint="http://localhost:6006/v1/traces")
provider.add_span_processor(BatchSpanProcessor(exporter))
# 4. 타입 검증과 트레이싱이 자동 적용되는 에이전트 구성
class UserProfile(BaseModel):
preferred_theme: str
marketing_opt_in: bool
agent = Agent("openai:gpt-4o", result_type=UserProfile)
result = agent.run_sync("사용자 설정에서 어두운 테마 선호 여부와 마케팅 수신 거부를 추출해줘.")この手法の最大の利点は、ツールやプロンプトのロジック内にトレーシング関連のボイラープレートコードが一切混入しない点です。データバリデーション中に発生する例外や、予期せぬ構造のデータが流入した場合でも、元のエラー情報が該当するトレーススパンに自動的にバインドされるため、複雑な多段階エージェントの動作も明確にデバッグ可能です。
安定した本番環境監視のためのチェックリスト
AIエージェントが高機能化するにつれ、リアルタイムのオブザーバビリティは単なる監視を超え、サービスの信頼性を担保する不可欠なインフラとなります。エンタープライズAPMプラットフォームとの柔軟な連携のため、収集段階からOpenTelemetry CollectorのTransform Processorを活用し、OpenInferenceの属性を標準スペックに合わせて正規化するルールを設ける必要があります。また、大規模な本番環境では全てのデータを無条件に保存するのではなく、主要なエージェントロジックの分岐点やコストのかかるツール呼び出しを中心にスマートサンプリングを適用し、インフラコストとデバッグ効率の最適なバランスを維持することを推奨します。
参考リンク