RAG

RAG (Retrieval-Augmented Generation, генерация с дополненной выборкой) — метод, при котором языковая модель дополняет свой ответ информацией из внешних источников, найденных по запросу.

Общее

LLM обучена на фиксированном наборе данных и не знает свежих фактов. RAG решает это: перед генерацией ответа система ищет релевантную информацию во внешних источниках и передаёт её в контекст модели.

Как работает

1. Пользователь задаёт вопрос.
2. Система преобразует запрос в вектор (эмбеддинг).
3. Ищет похожие векторы в базе знаний.
4. Извлекает релевантные документы.
5. Передаёт их в контекст модели вместе с вопросом.
6. Модель генерирует ответ на основе найденной информации.

Преимущества

• Актуальность — доступ к свежим данным без переобучения.
• Точность — ответы основаны на конкретных источниках.
• Снижение галлюцинаций — меньше выдумок при наличии фактов.

Связанные понятия

• Память ИИ — семантическая память использует RAG для поиска по прошлым взаимодействиям.
• Галлюцинация — проблема, которую RAG помогает снижать.
• LLM — модель, ответ которой дополняется через RAG.