Библиотека вместо памяти модели
Без RAG модель отвечает по данным, на которых её обучали. С RAG порядок другой: клиент задаёт вопрос → система ищет подходящие фрагменты в вашей базе → передаёт их модели как контекст → модель формулирует ответ строго по найденному.
Это как выдать сотруднику папку с документами и сказать: «Отвечай только по этим материалам». Сотрудник не сочиняет — он находит и пересказывает.
Бот с RAG и без: разница для клиента
| Ситуация | Бот без RAG | Бот с RAG |
|---|---|---|
| Откуда берёт ответ | Из данных обучения модели | Из ваших документов |
| Цены или условия изменились | Отвечает по-старому | Отвечает по обновлённой базе |
| Вопрос вне темы | Пытается ответить и сочиняет | Говорит «не знаю» или зовёт менеджера |
| Проверка ответа | Непонятно, откуда взято | Можно показать исходный фрагмент |
RAG в рабочем проекте: проверка смет
В AI-Технадзоре к боту через RAG подключена база нормативов — СП, ГОСТ, ФЕР. Бот принимает смету фото или PDF, распознаёт позиции и сверяет расценки с нормами. В примере из кейса: смета на 650 000 ₽ проверена за 2 минуты, найдены 2 завышенные позиции на 120 270 ₽.
Что подготовить до внедрения
- ▸Собрать документы в одном месте: инструкции, прайсы, регламенты, ответы на частые вопросы
- ▸Убрать дубли и устаревшие версии — RAG честно найдёт и старую цену
- ▸Разбить тексты на фрагменты и загрузить в векторную базу данных
- ▸Определить поведение для вопросов без ответа: честное «не знаю» лучше выдумки
Частые вопросы
У нас документы в Word, PDF и таблицах — подойдут?
Да, это типичный набор: файлы конвертируются и режутся на фрагменты автоматически. Важнее содержание — если в документах противоречия, бот будет отвечать противоречиво.
RAG полностью убирает выдумки?
Нет. Риск галлюцинаций заметно снижается, потому что модель опирается на найденные фрагменты, но проверка на реальных вопросах клиентов и ограничение тем всё равно нужны.
Чем RAG отличается от дообучения модели?
Fine-tuning меняет поведение модели и требует отдельной подготовки данных. RAG не меняет модель: после обновления и переиндексации документов новый фрагмент становится доступен для поиска. Для базы знаний сначала обычно проверяют RAG, а необходимость дообучения подтверждают тестами.