KNN-маршрутизатор
KNN-маршрутизатор (K ближайших соседей) использует семантическое сходство для сопоставления входящих запросов с базой данных исторических запросов с известными оптимальными назначениями моделей. Это обеспечивает обучаемую маршрутизацию, улучшающуюся со временем.
Как это работает
- Эмбеддинг запроса -- преобразование входящего запроса в векторный эмбеддинг
- KNN-поиск -- нахождение K наиболее похожих прошлых запросов в хранилище эмбеддингов
- Голосование -- агрегация назначений моделей K соседей
- Выбор -- выбор модели с наибольшим количеством голосов (взвешенных по сходству)
Обучающие данные
KNN-маршрутизатор строит набор данных из:
- Журналов сессий агента с рейтингами качества
- Результатов A/B-тестов эволюции промптов
- Ручной обратной связи и корректировок
Конфигурация
toml
[router]
strategy = "knn"
[router.knn]
k = 5
embedding_provider = "ollama"
embedding_model = "nomic-embed-text"
min_similarity = 0.6
min_dataset_size = 100
fallback_strategy = "heuristic"Холодный старт
При недостаточном объёме обучающих данных (ниже min_dataset_size) KNN-маршрутизатор откатывается к эвристической стратегии.