Проблема: LLM выдумывает
Большая языковая модель (LLM) обучена на общих данных и не знает вашей инфраструктуры, регламентов и инструкций. Спросите её «как сбросить пароль в нашей системе» — она выдаст правдоподобный, но выдуманный ответ. Для техподдержки это недопустимо. Нужно, чтобы ИИ отвечал по вашей базе знаний, а не по «общим представлениям».
Как работает RAG
RAG добавляет к генерации шаг поиска: перед ответом система находит релевантные фрагменты ваших документов и передаёт их модели как контекст.
Технически: документы базы знаний разбиваются на куски и индексируются (векторно). На вопрос система находит ближайшие по смыслу куски и отдаёт их LLM с инструкцией «отвечай только по этому». Хороший RAG ещё и показывает источники — на какие статьи опирался ответ.
RAG vs чистый LLM
| Чистый LLM | RAG | |
|---|---|---|
| Источник ответа | «Память» модели | Ваша база знаний |
| Галлюцинации | Высокий риск | Сильно снижены |
| Актуальность | На момент обучения | Текущая база |
| Ссылки на источник | Нет | Есть |
| Обновление знаний | Переобучение | Обновить документы |
Подводные камни
- Мусор на входе — мусор на выходе. Если база знаний устаревшая и противоречивая, RAG будет уверенно выдавать неверное. Сначала наведите порядок в базе (knowledge management).
- Плохое разбиение/поиск. Если релевантные фрагменты не находятся, модель ответит «по общему» — риск возвращается.
- ПДн и безопасность. Для российского контекста важно, где крутится модель и куда уходят данные — предпочтительны решения на своём контуре.
- Ответ без источника. Без ссылок пользователь не может проверить — обязательно показывайте источники.
С чего начать
Начните не с ИИ, а с базы знаний: актуальные, структурированные статьи — это фундамент RAG. Затем подключите RAG в режиме «подсказка оператору» (ИИ предлагает ответ со ссылками, оператор проверяет и отправляет) — это безопаснее, чем сразу пускать бота к пользователям. Расширяйте автономность по мере доверия к качеству.
TIQQET даёт качественную базу знаний как фундамент: структурированные статьи, связь с заявками, поиск. Это та основа, на которой RAG работает, а не выдумывает.
Попробуйте TIQQET в деле
On-premise ServiceDesk с полным циклом заявок, SLA-контролем и мобильными приложениями. Развёртывание за 1 день.
Частые вопросы
Что такое RAG простыми словами?
Retrieval-Augmented Generation — подход, где ИИ перед ответом сначала находит релевантные фрагменты вашей базы знаний и отвечает строго по ним, а не «из памяти». Это резко снижает выдумки и даёт ссылки на источники.
Чем RAG лучше обычного ChatGPT для поддержки?
Чистый LLM отвечает по общим данным и выдумывает специфику вашей компании. RAG заземляет ответ на вашу актуальную базу знаний, показывает источники и обновляется просто обновлением документов — без переобучения модели.
Можно ли доверять RAG отвечать пользователям напрямую?
Начинать лучше в режиме «подсказка оператору»: ИИ предлагает ответ со ссылками, человек проверяет и отправляет. Автономного бота к пользователям пускают после того, как качество подтверждено на практике.
Что нужно для внедрения RAG?
В первую очередь — качественная, актуальная и структурированная база знаний: она фундамент. Без неё RAG будет уверенно выдавать устаревшее или противоречивое. Сначала порядок в знаниях, потом ИИ поверх них.