Урок 4 из 8

RAG: модель отвечает по вашим материалам

Главный сценарий Haystack и, вероятно, самый полезный для вашей школы

⏱ ≈ 9 минут · без кода

Проблема: модель не знает ваших данных

GPT и Claude не читали транскрипты ваших эфиров, методички и регламенты школы. Спросите у «голой» модели «что Юрий говорил про промптинг на эфире 12 мая» — она либо честно откажется, либо выдумает. Дообучать модель на своих данных — дорого, долго и данные мгновенно устаревают.

Решение: RAG

RAG (Retrieval-Augmented Generation, «генерация, усиленная поиском») — подход из трёх шагов:

Найти. По вопросу пользователя найти в вашей базе самые подходящие фрагменты.
Подставить. Вложить найденное в промпт: «Вот выдержки из материалов, отвечай только по ним».
Сгенерировать. Модель формулирует ответ, опираясь на подставленные фрагменты.

Аналогия

RAG — это экзамен с открытой книгой. Студент (модель) не зубрил ваш учебник, но перед ответом библиотекарь (поисковик) кладёт ему на стол нужные страницы. Ответ получается по вашему учебнику, а не по смутным воспоминаниям.

Два конвейера, а не один

RAG-система в Haystack — это обычно два отдельных пайплайна:

	Индексация («наполняем библиотеку»)	Запрос («отвечаем ученику»)
Когда работает	Заранее и при добавлении материалов	Каждый раз, когда задан вопрос
Что делает	Файлы → текст → нарезка на фрагменты → превращение в векторы → сохранение	Вопрос → поиск фрагментов → промпт → ответ модели
Из чего собран	Converters, Splitters, Embedders	Retriever, PromptBuilder, Generator

Как поисковик понимает «похожесть»

Два основных способа поиска, и Haystack поддерживает оба:

По словам (BM25). Классический поиск: совпадают ли слова запроса со словами документа. Быстрый, без нейросетей, но «оплата картой» и «платёж кредиткой» для него — разные вещи.
По смыслу (векторный). Embedder превращает текст в вектор — набор чисел, кодирующий смысл. Похожие по смыслу тексты получают близкие векторы, и «оплата картой» находит «платёж кредиткой».
Гибрид. Оба сразу + Ranker, который пересортирует общий список. Часто это лучший вариант в продакшне.

Почему это важно для бизнеса

RAG дешевле и гибче дообучения: добавили новый эфир в базу — ассистент уже отвечает по нему. Плюс контроль галлюцинаций: модель можно заставить отвечать «не знаю», если в найденных фрагментах ответа нет, и показывать источники ответа.

Проверьте себя

1. Чем RAG отличается от дообучения модели на своих данных?

2. Вы добавили в школу новый курс. Что должно произойти, чтобы ассистент начал отвечать по нему?

3. Ученик спрашивает «как платить кредиткой», а в базе материал называется «оплата банковской картой». Какой поиск надёжнее найдёт этот материал?

🎉 Урок пройден! RAG — главный ключ к «ИИ по вашим данным». Дальше — где эти данные живут.

💬 Что-то непонятно? Спросите Клода — например, «прикинь RAG-схему для базы транскриптов моей школы».