Универсальные чат-боты оперируют общими данными. Для внутренних регламентов, мануалов и архива нужен ассистент, привязанный к вашим документам. Критерии выбора — ниже.
Проверьте в ТЗ: есть ли POST /api/v1/query (или аналог), ограничения по объёму загрузки и экспорт диалогов — без этого сложно встроить ассистента в портал.
Источник ответа: архив, не модель
Ключевое различие: ответ строится на загруженных документах (RAG) или только на обученной модели. Для корпоративного использования допустим только первый вариант. Цитирование источников обязательно. Контроль актуальности и минимизация галлюцинаций.
Форматы и объём
Проверьте совместимость: PDF, DOCX, Markdown, экспорт Confluence. Лимиты на размер файла и объём базы. Для команды DevOps — сотни документов; для предприятия — масштабируемость и инкрементальное обновление индекса. Данные накапливаются; система должна их переваривать.
Прозрачность выдачи
Ответы должны опираться на извлечённые фрагменты. В интерфейсе: документ, раздел, при необходимости — страница. Верификация ответа без доступа к источникам — неоптимальна.
Развёртывание и периметр
Чувствительные документы: on-prem или изолированное облако. Без передачи данных во внешние API. Уточните: где хранятся документы и эмбеддинги, куда уходит запрос к LLM.
Интеграция
Веб-чат — базовый интерфейс. API для порталов, Slack, Telegram — повышает частоту обращения. Чат-бот по базе знаний в привычном канале снижает трение.
Чек-лист совместимости
| Критерий | Проверка |
|---|---|
| Источник ответа | RAG по вашим документам, в ответе — цитаты и ссылки на разделы |
| Форматы и объём | PDF, DOCX, Markdown, Confluence; лимиты под сотни/тысячи документов |
| Периметр | On-prem или изолированное облако, без передачи данных во внешние API |
| Интеграция | Веб-чат, API, Slack/Telegram — под ваш стек |
| Верификация | Возможность проверить на своих данных до внедрения |
Рекомендация: загрузите типичные документы. Задайте запросы, которые задаёт команда. Оцените релевантность и наличие источников. Решение либо совместимо, либо подлежит отсеву.
Практики применения
- Перед внедрением загрузите типичные документы и задайте 10–20 запросов команды; оцените релевантность и цитирование.
- Требуйте on-prem при конфиденциальных данных; проверьте лимиты по объёму и частоте запросов.
Итог: допустим только ассистент с RAG и цитированием. Обязательно проверьте on-prem и лимиты по объёму. Тест на своих запросах перед внедрением — обязателен.