RAG
Подход, при котором модель получает релевантные документы перед ответом.
GENERATE
Что это такое
RAG (Retrieval-Augmented Generation) — архитектура, соединяющая поиск информации с генерацией ответа языковой моделью. Приложение сначала извлекает подходящие фрагменты из базы документов или индекса, затем передаёт их модели как контекст. Это помогает опираться на актуальные или внутренние данные, но не исключает ошибок.
Как это работает
Документы подготавливают и индексируют, иногда разбивая на фрагменты. При вопросе система подбирает релевантные части и передаёт их LLM вместе с инструкцией. Ответ может включать ссылки на исходные документы, если приложение сохраняет их происхождение.
Пример
Сотрудник спрашивает чат-бота о правилах возврата. Система находит актуальную политику магазина и строит ответ на её основе, показывая ссылку на нужный пункт.
Что делать на практике
- Поддерживайте документы актуальными и доступными для поиска.
- Проверяйте точность найденных фрагментов, а не только красивый ответ.
- Сохраняйте ссылки на источники и разграничивайте права доступа.
- Тестируйте вопросы, для которых данных недостаточно: система должна честно сообщать об этом.
RAG не равен дообучению модели: найденный документ передаётся в контекст конкретного запроса.