Главный вопрос любого бизнеса при знакомстве с ИИ-агентами: «А он будет отвечать по моим документам или из головы?». Ответ — RAG: технология, которая позволяет агенту искать ответ в вашей базе знаний — прайсах, FAQ, инструкциях — и только потом формулировать ответ. Разбираем инструменты, из которых такой агент собирается.

Что такое RAG простыми словами

RAG (Retrieval-Augmented Generation) — генерация с поиском. Вместо того чтобы модель отвечала «из памяти», агент сначала ищет в вашей базе знаний фрагменты, релевантные вопросу, и только потом составляет ответ на их основе. Если в прайсе изменилась цена — агент ответит по актуальному прайсу, а не по тому, что «запомнил». Это ключевое отличие от простого чат-бота: агент работает с вашими актуальными данными.

Из чего состоит RAG-система

Ключевые инструменты

LlamaIndex

Фреймворк, созданный специально для RAG: подключение источников (PDF, сайты, базы данных), разбивка на фрагменты, индексация, поиск. Отлично подходит, когда нужно быстро собрать «агента по документам» и не писать всё с нуля. Хорошая документация, огромное комьюнити, активная разработка.

LangChain

Более общий фреймворк для ИИ-приложений, включая RAG-цепочки. Мощнее и гибче, но и кривая обучения выше. Если планируете агента с несколькими инструментами (поиск + работа с документами + вызовы), LangChain даёт больше возможностей для оркестрации.

Векторные базы данных

Хранилища векторов: популярные варианты — Qdrant, Milvus, Chroma, Weaviate, а также векторные расширения классических БД (PostgreSQL с pgvector). Для старта достаточно Chroma (просто, локально) или pgvector (если уже есть PostgreSQL — не надо поднимать отдельный сервис).

Модели эмбеддингов

Качество поиска зависит от модели эмбеддингов. Для русского языка важно выбирать модели, хорошо работающие с кириллицей, иначе поиск «проедет мимо» смысла. Хорошая новость: есть open-source модели эмбеддингов, которые запускаются локально и не отправляют документы наружу.

Типичные ошибки при сборке RAG

С чего начать за вечер

  1. Соберите 20–30 реальных документов: прайс, FAQ, пара инструкций.
  2. Поднимите Chroma или pgvector локально.
  3. Подключите LlamaIndex: 30–50 строк кода превращают документы в индексируемую базу.
  4. Добавьте эмбеддинги и модель для ответов.
  5. Проверьте на реальных вопросах клиентов — и увидите слабые места (обычно это разбивка и порог релевантности).
4 слоядокументы, эмбеддинги, БД, оркестратор
3 фреймворкаLlamaIndex, LangChain, векторные БД
30 строкдо прототипа на LlamaIndex
Вывод. RAG превращает ИИ из «болталки» в рабочего сотрудника, который отвечает по вашим данным. Собрать прототип можно за вечер, но в продакшене решают детали: качество разбивки, версионность базы, порог релевантности и честная передача сложного вопроса человеку. Именно эти детали — главная часть работы AIS при внедрении агентов.

Хотите, чтобы агент отвечал по вашим документам уже на следующей неделе? Напишите нам — пришлём план, как это внедрить на вашей базе знаний.