Automix მარშრუტიზატორი
Automix მარშრუტიზატორი ხარჯებს ოპტიმიზებს, ყოველი შეკითხვის იაფი მოდელით დაწყებითა და პრემიუმ მოდელზე ესკალაციით მხოლოდ მაშინ, როდესაც საწყისი პასუხის ნდობის ქულა ზღურბლზე ქვემოთაა.
როგორ მუშაობს
- საწყისი შეკითხვა -- შეკითხვის გაგზავნა იაფ მოდელზე
- ნდობის შემოწმება -- პასუხის ნდობის ქულის შეფასება
- საჭიროებისას ესკალაცია -- თუ ნდობა ზღურბლზე ქვემოთაა, ხელახალი შეკითხვა პრემიუმ მოდელით
- დაბრუნება -- პირველი მაღალი ნდობის პასუხის დაბრუნება
ნდობის შეფასება
ნდობა ფასდება:
- პასუხში თვით-დეკლარირებული ნდობის მიხედვით
- გამოფარვის ენის არსებობით ("არ ვარ დარწმუნებული", "შესაძლოა")
- პასუხის ტოკენის დონის ენტროპიით
- ინსტრუმენტის გამოძახების წარმატების სიჩქარით
კონფიგურაცია
toml
[router]
strategy = "automix"
[router.automix]
enabled = true
confidence_threshold = 0.7
cheap_model = "anthropic/claude-haiku"
premium_model = "anthropic/claude-opus-4-6"
max_escalations = 1ხარჯების დაზოგვა
ტიპიურ გამოყენებაში, Automix შეკითხვების 60-80%-ს იაფ მოდელზე მარშრუტირებს, რაც მნიშვნელოვან ხარჯების დაზოგვას იძლევა რთული შეკითხვებისთვის ხარისხის შენარჩუნებით.