1. Ограничьте последствия
Определите затронутые темы: цена, наличие, срок, правила или контакты. Для них включите передачу человеку или временный безопасный ответ.
Не отключайте весь сервис без необходимости, но не оставляйте известную ошибку активной ради красивой доступности 24/7.
2. Найдите все версии факта
Проверьте документы, таблицы, страницы сайта, ручные правила и старые ответы. Зафиксируйте, откуда модель могла получить неверное значение.
Выберите одного владельца факта и канонический источник. Архивные материалы исключите из опубликованной базы.
3. Обновите источник, а не отдельную фразу ответа
Исправьте материал вместе с датой и условиями. Если значение зависит от параметров, опишите правило расчёта или запрет автоматического ответа.
Ручная корректировка одного диалога не меняет знания будущей версии и не считается исправлением системы.
4. Пересоберите версию и поиск по знаниям
Новый документ должен пройти нормализацию, разбиение и индексирование тем же рабочим процессом. Убедитесь, что старые фрагменты удалены или помечены неактивными.
Опубликованная версия остаётся неизменной до прохождения проверки. Черновик не должен незаметно влиять на клиентов.
5. Повторите связанные тесты
Проверьте исправленный вопрос, соседние формулировки, исключение и попытку получить старый ответ. Сравните с каноническим источником.
Добавьте найденный случай в постоянный регрессионный набор. Так та же ошибка не возвращается после следующего обновления.
- точный вопрос клиента;
- переформулированный вариант;
- пограничное условие;
- запрос без достаточных данных.
6. Опубликуйте с журналом изменений
Запишите версию, дату, изменённый источник и пройденные тесты. После публикации выполните smoke в одном канале.
Если ответ остаётся старым, проверяйте активную версию и индекс знаний, а не загружайте файл повторно вслепую.
Как уменьшить риск повторения
Добавьте владельца и срок проверки для цены, акций и политик. Настройте отчёт об источниках без обновления или с конфликтующими значениями.
Автоматический сигнал помогает найти риск, но решение об актуальности остаётся человеку, ответственному за бизнес-правило.
Источники
У каждой опоры есть дата проверки. Если источник изменится, материал нужно пересмотреть.
-
01
Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile NIST · проверено 6 сентября 2026 г.
Использованы рекомендации о границах применения, оценке ответов, мониторинге и человеческом контроле генеративных систем.
-
02
LLM06:2025 Excessive Agency OWASP GenAI Security Project · проверено 6 сентября 2026 г.
Сверены принципы минимальных полномочий, ограниченных функций и подтверждения значимых действий человеком.
-
03
Creating helpful, reliable, people-first content Google Search Central · проверено 6 сентября 2026 г.
Сверены требования к самостоятельному полезному материалу, который отвечает на задачу человека, а не повторяет ключевые слова.
-
04
Учебный путь ИИ-сотрудника Нейроквалификатор · проверено 6 сентября 2026 г.
Сверены фактические роли, база знаний, проверка, каналы, Inbox и передача разговора человеку.