Короткий ответ. Когда ИИ-агент ошибся при клиенте, сначала подключи человека и исправь ситуацию, затем сохрани диалог, найди причину среди четырёх (нет в базе знаний, устарело, неточная инструкция, сбой подключения), исправь на нужном уровне и проверь на пяти похожих вопросах. Важные правила (цены, обещания) нужно закреплять проверкой в программе, а не только просьбой в инструкции.
Шаг 1. Сначала клиент, потом разбор

Подключи человека к диалогу, извинись за путаницу, дай верный ответ и при необходимости компенсируй по своим правилам. Если ошибка касается денег, здоровья или юридических вопросов, переведи такие обращения на человека, пока не найдёшь причину.
Шаг 2. Зафиксируй, что произошло
Сохрани диалог целиком: дату, вопрос клиента, ответ агента и то, как было правильно. Одной строки в журнале ошибок достаточно. Без записи ты исправишь одно место и не увидишь, что подобные ошибки повторяются. Подробнее про журнал и передачу человеку читай в правилах передачи диалога.
Шаг 3. Найди причину среди четырёх

| Причина | Как выглядит | Что чинить |
|---|---|---|
| Нет в базе знаний | Агент не знал и сочинил правдоподобный ответ | Добавить информацию в базу знаний |
| Информация устарела | Поменялась цена или условие, база осталась прежней | Обновить базу, назначить ответственного за актуальность |
| Неточная инструкция | Правила спорят друг с другом | Переписать правило, убрать противоречия |
| Сбой подключения | Календарь, прайс или заявки вернули не то | Чинить подключение, а не ответ |
Про то, что и как класть в базу, смотри разбор базы знаний.
Шаг 4. Исправь на правильном уровне

Данные чинятся в базе знаний, правила в инструкции, подключения в самих подключениях. Отдельно про опасные случаи: если ошибка нарушает правило вроде «не называть цену без прайса» или «не обещать результат», мало написать это в инструкции, модель может нарушить просьбу. Для таких вещей нужна проверка в программе: цена не сошлась с прайсом, ответ не уходит клиенту.
Шаг 5. Проверь и запиши
Задай агенту тот же вопрос и ещё пять похожих, сформулированных по-разному. Если все ответы верны, отметь в журнале, что исправлено и как. Через неделю посмотри, не повторилась ли ошибка. Выбирая исполнителя, спроси, как у него устроен этот цикл: 7 вопросов до оплаты.
