Один и тот же RAG с фиксированным «всегда top-10» тратит лишнее на определение «что такое Pod?» и недокармливает сравнительный разбор политик. Идея адаптивной глубины (в литературе — cost-aware routing, CA-RAG): для запроса выбрать, насколько глубоко искать, а не один размер на всех.
Зачем менять глубину
Глубокий поиск улучшает опору на факты, но раздувает контекст и время ответа. Мелкий — быстрее и дешевле, но слаб на multi-hop и сравнениях. Нагрузка в чате смешанная: короткие определения, пошаговые «как настроить», аналитические «сравни A и B».
Пакеты глубины простыми словами
| Тип вопроса | Глубина поиска | Зачем |
|---|---|---|
| Короткое определение | Лёгкая (мало фрагментов) | Не тащить десять абзацев зря |
| Обычный рабочий вопрос | Средняя | Баланс качества и скорости |
| «Сравни», «пошагово», длинный разбор | Глубокая | Больше кандидатов до проверки и упаковки |
Маршрутизатор смотрит на длину запроса и «сигналы сложности» (сравни, почему, how to…) и выбирает пакет без отдельного тяжёлого LLM-судьи. Для сценариев вроде глубокого исследования документов обычно оставляют свой бюджет — там уже другая оркестрация.
Что это даёт читателю чата
- Простые вопросы реже «тяжелеют» без нужды.
- Сложные чаще получают достаточно источников до ответа.
- Снаружи вы не выбираете режим вручную — меняется только глубина поиска под формулировку.
Практики применения
- Для сравнения явно пишите «сравни … и …» или «чем отличается» — это сигнал на более глубокий поиск.
- Короткий вопрос «что такое X?» оставляйте коротким: не раздувайте его общим «расскажи всё про DevOps».
- Если ответ поверхностный на сложной теме — уточните критерии и шаги, которые нужны в ответе.
Практика с библиотекой Adminica
Тема «Разная глубина поиска» лучше всего раскрывается на ваших материалах: кураторская библиотека плюс документы профиля и org-библиотека (если подключена). Задайте в чате конкретный вопрос, проверьте блок источников и при необходимости уточните формулировку — так RAG даёт воспроизводимый ответ, а не общий пересказ.
Короткий чек-лист
- Один главный вопрос за сообщение; контекст — во вложении или ссылке на запись архива.
- После обновления документов дождитесь индексации, прежде чем сравнивать ответы.
- Для командных регламентов храните master-копию в согласованном разделе базы знаний.
Тарифы и on-prem зависят от контура; начните с чата на своих данных и оцените качество по цитатам, а не только по гладкости текста.
Итог: умный RAG не только «нашёл и проверил», но и решает, сколько искать: лёгкая глубина для простых вопросов, глубокая — для сравнений и разборов.