Главный вопрос любого бизнеса при знакомстве с ИИ-агентами: «А он будет отвечать по моим документам или из головы?». Ответ — RAG: технология, которая позволяет агенту искать ответ в вашей базе знаний — прайсах, FAQ, инструкциях — и только потом формулировать ответ. Разбираем инструменты, из которых такой агент собирается.
Что такое RAG простыми словами
RAG (Retrieval-Augmented Generation) — генерация с поиском. Вместо того чтобы модель отвечала «из памяти», агент сначала ищет в вашей базе знаний фрагменты, релевантные вопросу, и только потом составляет ответ на их основе. Если в прайсе изменилась цена — агент ответит по актуальному прайсу, а не по тому, что «запомнил». Это ключевое отличие от простого чат-бота: агент работает с вашими актуальными данными.
Из чего состоит RAG-система
- База знаний — ваши документы: сайт, прайс, FAQ, инструкции, регламенты.
- Эмбеддинги — модель, которая превращает текст в векторы (числовые представления смысла).
- Векторная база данных — хранилище, в котором ищут по смысловой близости, а не по ключевым словам.
- Оркестратор — связка: получил вопрос → нашёл фрагменты → отдал модели → вернул ответ со ссылками на источник.
Ключевые инструменты
LlamaIndex
Фреймворк, созданный специально для RAG: подключение источников (PDF, сайты, базы данных), разбивка на фрагменты, индексация, поиск. Отлично подходит, когда нужно быстро собрать «агента по документам» и не писать всё с нуля. Хорошая документация, огромное комьюнити, активная разработка.
LangChain
Более общий фреймворк для ИИ-приложений, включая RAG-цепочки. Мощнее и гибче, но и кривая обучения выше. Если планируете агента с несколькими инструментами (поиск + работа с документами + вызовы), LangChain даёт больше возможностей для оркестрации.
Векторные базы данных
Хранилища векторов: популярные варианты — Qdrant, Milvus, Chroma, Weaviate, а также векторные расширения классических БД (PostgreSQL с pgvector). Для старта достаточно Chroma (просто, локально) или pgvector (если уже есть PostgreSQL — не надо поднимать отдельный сервис).
Модели эмбеддингов
Качество поиска зависит от модели эмбеддингов. Для русского языка важно выбирать модели, хорошо работающие с кириллицей, иначе поиск «проедет мимо» смысла. Хорошая новость: есть open-source модели эмбеддингов, которые запускаются локально и не отправляют документы наружу.
Типичные ошибки при сборке RAG
- Плохая разбивка документов — рвёте абзацы пополам, поиск теряет смысл. Правило: разбивать по смысловым блокам, а не по N символов.
- Мусор в базе — устаревшие версии документов конкурируют с актуальными, агент отвечает по старым данным. Нужна версионность и чистка.
- Нет проверки релевантности — агент находит фрагмент, но не проверяет, отвечает ли он на вопрос. Правило: порог релевантности и честное «не нашёл, передам человеку».
- Забыли про источники — пользователь должен видеть, откуда ответ. Это и доверие, и контроль качества.
С чего начать за вечер
- Соберите 20–30 реальных документов: прайс, FAQ, пара инструкций.
- Поднимите Chroma или pgvector локально.
- Подключите LlamaIndex: 30–50 строк кода превращают документы в индексируемую базу.
- Добавьте эмбеддинги и модель для ответов.
- Проверьте на реальных вопросах клиентов — и увидите слабые места (обычно это разбивка и порог релевантности).
Хотите, чтобы агент отвечал по вашим документам уже на следующей неделе? Напишите нам — пришлём план, как это внедрить на вашей базе знаний.