Глоссарий
RAG (генерация, дополненная поиском)
RAG (Retrieval-Augmented Generation – генерация, дополненная поиском) – способ, при котором ИИ сначала ищет в базе знаний и документах компании статьи, подходящие к вопросу, и только потом составляет ответ по ним. Модель не нужно переобучать: обновили статью – и ИИ уже отвечает по новой версии.
Зачем это бизнесуИИ отвечает по вашим правилам и базе знаний, а не по догадкам модели.
Другие названия: RAG, Retrieval-Augmented Generation, генерация с опорой на базу знаний, генерация с дополненным поиском, генерация с опорой на источники
Принцип
Как это работает
Статьи базы знаний заранее делят на небольшие фрагменты и раскладывают в поисковый индекс. Когда клиент задаёт вопрос, система находит несколько самых подходящих фрагментов – по смыслу и по ключевым словам – и добавляет их в запрос к языковой модели. Модель составляет ответ только по ним и может показать, из какой статьи он взят.
- Индекс: статьи, регламенты, тарифы, частые вопросы
- Поиск: по смыслу и по ключевым словам
- Ответ: модель собирает его из найденных фрагментов
- Источник: оператор видит, на какую статью опирается ответ
Применение
Зачем это контакт-центру
Без RAG модель отвечает по тому, что запомнила при обучении, и легко выдумает цену доставки или срок возврата. С RAG она отвечает по утверждённым материалам компании, а исправить ответ можно, исправив статью.
Практика
Хорошая практика
- Короткие статьи, каждая про один вопрос, с понятным заголовком
- Устаревшие статьи удалять, а не копить рядом с новыми – иначе ИИ найдёт обе
- Велеть модели говорить «не знаю» и звать оператора, если подходящей статьи нет
- Проверять ИИ на реальных вопросах клиентов и по каждому неверному ответу исправлять статью
В CONTACT.WORK
Как это устроено в CONTACT.WORK
Источник ответов для агентов и помощника – единая база знаний платформы, по ней же работают и операторы. Если в статье ошибка или пробел, ИИ ответит так же, поэтому запуск ИИ-агента начинают с базы знаний.
Если платформа работает на ваших серверах, база знаний и языковая модель тоже остаются у вас. Сама платформа бесплатная. Языковую модель для таких ответов оплачивают отдельно или запускают на своей видеокарте.
Дополнительно
Где это применить
Обратные ссылки
Где встречается на сайте 1
Глоссарий