OpenTelemetry
PRX მხარს უჭერს OpenTelemetry-ს (OTLP) განაწილებული კვალისთვის. კვალი უზრუნველყოფს span-ის დონის ხილვადობას აგენტის ოპერაციებში, მათ შორის LLM გამოძახებები, ინსტრუმენტების შესრულებები და მეხსიერების ოპერაციები.
მიმოხილვა
თითოეული აგენტის ოპერაცია ქმნის კვალს ჩადგმული span-ებით:
სესია
└── ნაბიჯი
├── მეხსიერების გახსენება (span)
├── LLM მოთხოვნა (span)
│ ├── ტოკენების სტრიმინგი
│ └── პასუხის პარსინგი
└── ინსტრუმენტის შესრულება (span)
├── პოლიტიკის შემოწმება
└── სენდბოქსში გაშვებაკონფიგურაცია
toml
[observability.tracing]
enabled = false
endpoint = "http://localhost:4317" # OTLP gRPC ენდფოინთი
protocol = "grpc" # "grpc" | "http"
service_name = "prx"
sample_rate = 1.0 # 0.0-დან 1.0-მდემხარდაჭერილი ბექენდები
PRX-ს შეუძლია კვალის ექსპორტი ნებისმიერ OTLP-თავსებად ბექენდზე:
- Jaeger
- Grafana Tempo
- Honeycomb
- Datadog
- AWS X-Ray (OTLP კოლექტორით)
Span ატრიბუტები
span-ებზე მიმაგრებული საერთო ატრიბუტები:
| ატრიბუტი | აღწერა |
|---|---|
prx.session_id | აგენტის სესიის იდენტიფიკატორი |
prx.provider | LLM პროვაიდერის სახელი |
prx.model | მოდელის იდენტიფიკატორი |
prx.tool | ინსტრუმენტის სახელი (ინსტრუმენტის span-ებისთვის) |
prx.tokens.input | შეყვანის ტოკენების რაოდენობა |
prx.tokens.output | გამოტანის ტოკენების რაოდენობა |