Что такое RAG простыми словами?
RAG (Retrieval-Augmented Generation) — это способ заставить языковую модель отвечать по вашим документам. Перед каждым ответом система ищет в базе знаний подходящие фрагменты и передаёт их модели вместе с вопросом.
Сама по себе модель вроде ChatGPT или Claude ничего не знает о вашей компании. Она не видела ваш прайс, внутренние регламенты, условия договора с клиентами и инструкции к оборудованию. Если спросить её о них напрямую, она либо честно скажет, что не знает, либо сочинит правдоподобный, но неверный ответ.
RAG решает это без переобучения модели. Представьте сотрудника, который перед каждым ответом быстро находит в справочнике нужные страницы и отвечает, глядя в них. Модель играет роль этого сотрудника, а поиск по базе знаний — роль справочника. Если в справочнике ничего не нашлось, бот так и говорит.
Главное преимущество такого подхода — актуальность. Поменяли условия доставки в документе, и бот уже отвечает по новым условиям. Модель переучивать не нужно, достаточно обновить файл в базе знаний.
Где это применяется:
- Поддержка клиентов. Ответы по правилам доставки, оплаты, гарантий, по инструкциям к продукту.
- Внутренний помощник. Сотрудники спрашивают про регламенты, процессы, шаблоны документов, кадровые вопросы.
- Продажи. Менеджер или клиент получает ответ по характеристикам и условиям из каталога и коммерческих материалов.
- Работа с большими архивами. Договоры, техническая документация, протоколы, где нужный фрагмент сложно найти обычным поиском.
Как устроен RAG-бот изнутри?
Это несколько последовательных шагов: подготовка документов, их индексация, поиск по смыслу и генерация ответа. Большая часть работы разработчика — в первых трёх.
- Загрузка документов. PDF, Word, таблицы, страницы сайта, статьи из внутренней вики, выгрузки из CRM. Для каждого формата нужен свой способ извлечь чистый текст.
- Разбиение на фрагменты. Длинный документ режется на куски по смыслу: раздел, пункт регламента, ответ на вопрос. От этого шага сильно зависит качество. Слишком мелкие куски теряют контекст, слишком крупные засоряют ответ лишним.
- Векторизация. Каждый фрагмент превращается в числовое представление смысла (эмбеддинг) и сохраняется в базе. Я обычно храню их в PostgreSQL рядом с остальными данными проекта.
- Поиск. Вопрос пользователя тоже превращается в эмбеддинг, и система находит фрагменты, близкие по смыслу. Часто это комбинируется с обычным поиском по ключевым словам, чтобы не терять точные совпадения вроде артикулов и номеров пунктов.
- Ответ. Модель получает вопрос и найденные фрагменты с инструкцией отвечать только на их основе. К ответу можно приложить ссылки на источники.
- Обновление. Когда документ меняется, его фрагменты переиндексируются автоматически. Базу знаний не нужно собирать заново.
Сверху добавляются логи диалогов, права доступа (не каждый сотрудник должен видеть все документы), контроль расходов и интерфейс там, где бот нужен: на сайте, в Telegram, в приложении или во внутренней системе.
Качество RAG-бота определяется в основном подготовкой данных и поиском. Если поиск нашёл правильный фрагмент, почти любая современная модель сформулирует хороший ответ. Если нашёл не тот, никакая модель не спасёт. Поэтому на прототипе я прогоняю ваши реальные вопросы и смотрю отдельно, что нашёл поиск и что ответила модель. Так видно, где проблема: в документах, в разбиении на фрагменты или в инструкциях.
Модель для ответов я подбираю под задачу: Claude или OpenAI, иногда комбинацию, где простые вопросы обрабатывает быстрая и недорогая модель, а сложные уходят сильной. Провайдера можно поменять позже без переделки всей системы.
Опишите задачу в паре строк — отвечу в Telegram, назову цену и сроки по этапам. ТЗ не нужно.
Чем RAG отличается от дообучения модели и загрузки всего в промпт?
RAG дешевле и проще в поддержке, чем дообучение, и масштабируется лучше, чем передача всех документов в каждый запрос. Для базы знаний компании это обычно лучший вариант.
| Подход | Как работает | Когда подходит | Минусы |
|---|---|---|---|
| Всё в промпт | Все документы передаются модели в каждом запросе | Базы знаний на несколько страниц | Дорого на большом объёме, медленнее, модель путается в лишнем |
| RAG | Модель получает только найденные фрагменты | Большие и меняющиеся базы знаний | Качество зависит от подготовки документов и поиска |
| Дообучение | Модель дополнительно обучается на ваших примерах | Особый стиль или формат ответов | Долго, дорого, знания устаревают при каждом изменении документов |
На практике дообучение для базы знаний почти никогда не нужно. Если у вас всего несколько страниц правил, иногда хватает простого варианта без поиска. Если документов десятки и сотни и они регулярно меняются, нужен RAG. Какой вариант подходит вам, я скажу после того, как посмотрю ваши материалы.
Какие документы подходят и как их подготовить?
Подходят любые текстовые материалы, но качество ответов напрямую зависит от их состояния. Устаревшие и противоречивые документы дают устаревшие и противоречивые ответы.
Что проверить перед стартом:
- Актуальность. Если в базе лежат три версии регламента, бот может найти старую. Лучше убрать всё, что больше не действует.
- Противоречия. Если в одном документе срок возврата один, а в другом другой, бот не поймёт, какой верный. Такие места лучше исправить заранее, я помогу их найти.
- Сканы и картинки. Текст из сканов можно распознать, но качество хуже. Таблицы в картинках и схемы требуют отдельной работы.
- Знания в головах. Часто самое важное нигде не записано: как поступать в нестандартных случаях, какие исключения допустимы. Имеет смысл записать это хотя бы коротким списком вопросов и ответов.
- Доступы. Решите, какие документы видят все пользователи бота, а какие только определённые роли.
Идеальный порядок наводить не нужно. Я начинаю с того, что есть, запускаю прототип и показываю, на каких вопросах бот ошибается. Обычно это сразу подсвечивает, какие документы стоит поправить в первую очередь.
Сколько стоит чат-бот на базе знаний?
Разработка начинается от $800. Кроме неё есть оплата запросов к модели и хостинг, эти расходы зависят от объёма использования.
Что влияет на стоимость разработки:
- объём и форматы документов: чистые тексты обрабатываются быстрее, чем сканы и сложные таблицы;
- источники: разовая загрузка файлов или автоматическая синхронизация с вики, CRM, облачным диском;
- права доступа для разных ролей пользователей;
- каналы: сайт, Telegram, приложение, внутренняя система;
- интеграции для действий, если бот должен не только отвечать, но и создавать заявки или задачи;
- голос: распознавание речи и синтез ответа (TTS).
Точную сумму я называю после созвона и фиксирую в договоре. Дальше она не меняется. Расходы на модель я держу под контролем с помощью кэширования частых вопросов, выбора модели под сложность запроса и лимитов. О ценах на AI-решения и другие направления — на странице цен, а об AI-агентах, которые умеют не только отвечать, но и действовать, — в отдельной статье.
Что подготовить к созвону?
Список задач, которые должен решать бот, и доступ к документам или хотя бы их описание. На созвоне этого достаточно.
- кто будет пользоваться ботом: клиенты, сотрудники или и те, и другие;
- где лежат документы и в каких форматах, примерный объём;
- как часто документы меняются и кто их обновляет;
- десяток-другой типичных вопросов, которые задают сейчас, с правильными ответами;
- где бот должен работать: сайт, Telegram, приложение, внутренний портал;
- есть ли требования к хранению данных и конфиденциальности.
Типичная ошибка — загрузить в бота всё подряд, включая черновики и переписки, в надежде, что модель сама разберётся. Лучше меньше документов, но актуальных. Вторая ошибка — не назначить ответственного за базу знаний. Бот хорош ровно настолько, насколько свежи документы, на которые он опирается.
Как проходит работа?
Сначала прототип на части ваших документов, затем подключение всех источников, каналов и запуск с донастройкой.
Разбор задачи и материалов занимает 1–2 дня, оценка и план с договором и NDA — ещё 2–3 дня. Затем я собираю прототип на реальной выборке документов и прогоняю через него ваши типичные вопросы. Вы видите, как бот отвечает и откуда берёт информацию, до того как мы подключим всё остальное. Дальше — полная база, синхронизация, каналы, права доступа, запуск и мониторинг. Демо каждую неделю, доступ к репозиторию с первого дня.
Оплата по этапам, без полной предоплаты, акт после каждого этапа. Код, хостинг, база и аккаунты у провайдеров моделей оформлены на вас. Подробнее о гарантиях — на странице процесса.
Если в компании много документов и на одни и те же вопросы люди отвечают каждый день, опишите задачу в форме заявки или напишите в Telegram. Я посмотрю ваши материалы и бесплатно оценю, во что обойдётся бот.