აგენტის ციკლი

აგენტის ციკლი არის ცენტრალური შესრულების ციკლი, რომელიც PRX აგენტის ყველა სესიას მართავს. თითოეული იტერაცია ამუშავებს LLM-ის პასუხს, უგზავნის ინსტრუმენტების გამოძახებებს, მართავს მეხსიერებას და წყვეტს, გააგრძელოს თუ საბოლოო პასუხი დააბრუნოს.

ციკლის სასიცოცხლო ციკლი

მომხმარებლის შეტყობინება
    │
    ▼
┌─────────────┐
│ კონტექსტის  │──── მეხსიერების გახსენება
│ აგება       │
└──────┬──────┘
       ▼
┌─────────────┐
│ LLM ინფერენსი│──── სტრიმინგ პასუხი
└──────┬──────┘
       ▼
┌─────────────┐
│ გამოტანის   │──── ინსტრუმენტის გამოძახებები / ტექსტი
│ პარსინგი    │
└──────┬──────┘
       ▼
   ინსტრუმენტის გამოძახებები?
   ├── დიახ ──→ ინსტრუმენტების შესრულება ──→ ციკლის გაგრძელება
   └── არა  ──→ პასუხის დაბრუნება

ინსტრუმენტების გაგზავნა

როდესაც LLM-ის პასუხი ინსტრუმენტების გამოძახებებს შეიცავს, ციკლი:

ამოწმებს თითოეულ ინსტრუმენტის გამოძახებას უსაფრთხოების პოლიტიკის მიხედვით
ასრულებს დამტკიცებულ გამოძახებებს (შესაძლოა პარალელურად)
აგროვებს შედეგებს და უკან აწვდის LLM-ს
აგრძელებს ციკლს შემდეგი ინფერენსის ნაბიჯისთვის

სტრიმინგი

PRX LLM-ის პასუხებს ტოკენ-ტოკენით სტრიმინგით აწვდის კლიენტს, ამავდროულად ინსტრუმენტის გამოძახების ამოცნობისთვის ბუფერირებას ახდენს. სტრიმინგის პაიპლაინი მხარს უჭერს:

რეალურ დროში ტოკენების გადაცემას CLI ან WebSocket კლიენტებზე
უკუწნევის მართვას, როდესაც კლიენტი ნელია
გრაციოზულ გაუქმებას Ctrl+C ან API სიგნალებით

მეხსიერების გახსენება

თითოეული LLM-ის გამოძახების წინ, ციკლი შესაბამის კონტექსტს იღებს მეხსიერების სისტემიდან:

ბოლო საუბრის ნაბიჯები (მოცურავე ფანჯარა)
სემანტიკური ძიების შედეგები ემბედინგების საცავიდან
დამაგრებული ფაქტები და მომხმარებლის პრეფერენციები

კონტექსტის შეკუმშვა

როდესაც საუბარი მოდელის კონტექსტის ფანჯარას აჭარბებს, ციკლი იწყებს შეკუმშვას:

ძველი ნაბიჯების შეჯამება შეკუმშულ წარმოდგენაში
ჯერ კიდევ მითითებული ინსტრუმენტის გამოძახების შედეგების შენარჩუნება
სისტემის პრომპტისა და დამაგრებული მოგონებების ხელუხლებლად შენარჩუნება

კონფიგურაცია

toml

[agent.loop]
max_iterations = 50
parallel_tool_calls = true
compaction_threshold_tokens = 80000
compaction_strategy = "summarize"  # ან "truncate"

დაკავშირებული გვერდები

აგენტის გაშვების გარემო -- არქიტექტურის მიმოხილვა
ქვე-აგენტები -- შვილი აგენტების შექმნა
მეხსიერების სისტემა -- მეხსიერების ბექენდები და გახსენება

აგენტის ციკლი ​

ციკლის სასიცოცხლო ციკლი ​

ინსტრუმენტების გაგზავნა ​

სტრიმინგი ​

მეხსიერების გახსენება ​

კონტექსტის შეკუმშვა ​

კონფიგურაცია ​

დაკავშირებული გვერდები ​