Skip to content
ეს გვერდი შეიქმნა და ითარგმნა ხელოვნური ინტელექტის დახმარებით. თუ შეამჩნევთ უზუსტობას, გთხოვთ, დაგვეხმარეთ გაუმჯობესებაში. GitHub-ზე რედაქტირება

მიზეზობრივი ხის ძრავა

მიზეზობრივი ხის ძრავა (Causal Tree Engine, CTE) არის სპეკულაციური შესრულების სისტემა, რომელიც პარალელურად აფასებს მრავალ საპასუხო სტრატეგიას საუკეთესოს დაფიქსირებამდე. ის ინტეგრირდება PRX აგენტის პაიპლაინში განზრახვის კლასიფიკაციასა და LLM გამოძახებას შორის.

ნაგულისხმევად გამორთულია. CTE არჩევითი ფუნქციაა. დააყენეთ causal_tree.enabled = true კონფიგურაციის ფაილში გასააქტიურებლად.

სამუშაო პროცესი

text
სნეპშოტი → გაფართოება → რეპეტიცია → შეფასება → არჩევა → უკუკავშირი
  1. სნეპშოტი — მიმდინარე მიზეზობრივი მდგომარეობის აღება (სესიის კონტექსტი, ბიუჯეტი, შეზღუდვები)
  2. გაფართოება — კანდიდატი შტოების გენერირება (პირდაპირი პასუხი, ინსტრუმენტის გამოყენება, ქვე-აგენტზე დელეგირება)
  3. რეპეტიცია — პერსპექტიული შტოების მსუბუქი "საცდელი გაშვება" მხოლოდ-წაკითხვის რეჟიმში
  4. შეფასება — შტოების რანჟირება ნდობის, ღირებულებისა და დაყოვნების შეწონილი კომპოზიტით
  5. არჩევა — უმაღლესი ქულის შტოს დაფიქსირება ზღურბლის მიღწევისას; წინააღმდეგ შემთხვევაში სარეზერვო
  6. უკუკავშირი — გადაწყვეტილების ჩაწერა დაკვირვებადობისა და მომავალი სწავლისთვის

როდის ჩართოთ CTE

სცენარირეკომენდაცია
მარტივი Q&A, ჩვეულებრივი ჩატიCTE გამორთული დატოვეთ
მრავალსაფეხურიანი ინსტრუმენტების სამუშაო პროცესებიCTE ჩართეთ
ავტონომიური აგენტის ამოცანები (Xin / თვითევოლუცია)CTE ჩართეთ
ღირებულებისადმი მგრძნობიარე განლაგებებიCTE ჩართეთ მკაცრი extra_token_ratio_limit-ით

სწრაფი დაწყება

დაამატეთ PRX კონფიგურაციის ფაილში (~/.openprx/config.toml):

toml
[causal_tree]
enabled = true

ყველა სხვა პარამეტრს აქვს გონივრული ნაგულისხმევი მნიშვნელობები. იხილეთ კონფიგურაციის მითითება სრული სიისთვის.

ამომრთველი

  • circuit_breaker_threshold თანმიმდევრული წარუმატებლობის შემდეგ (ნაგულისხმევი: 5), CTE ირთვება და ყველა მოთხოვნა გვერდს უვლის
  • circuit_breaker_cooldown_secs (ნაგულისხმევი: 60წმ) შემდეგ ამომრთველი ნებას რთავს ხელახლა ცდას
  • ერთი წარმატებული გაშვება აღადგენს წარუმატებლობის მრიცხველს

მეტრიკები

მეტრიკააღწერა
hit_at_1_ratioგაშვებების წილი, სადაც პირველი შტო სწორი იყო
hit_at_3_ratioწილი, სადაც სწორი შტო ტოპ-3-ში იყო
wasted_speculation_ratioშესრულებული, მაგრამ გამოუყენებელი რეპეტიციები
commit_success_rateწარმატებული დაფიქსირების პროცენტი
avg_extra_latency_msსაშუალო დამატებითი დაყოვნება გაშვებაზე
circuit_breaker_tripsამომრთველის ამოქმედების რაოდენობა

დაკავშირებული გვერდები

Released under the Apache-2.0 License.