К содержанию
ИИ-агенты

Как не допустить выдуманных цен: галлюцинации ИИ-агента

Почему ИИ-бот иногда выдумывает цены и обещания и семь способов это предотвратить: база знаний, запреты, вилки цен, проверка вопросами с подвохом.

Команда Аичатика5 мин чтения

Главный страх владельца бизнеса перед ИИ-ботом — что он пообещает клиенту несуществующую скидку или назовёт цену с потолка. Это называется галлюцинацией: модель уверенно сочиняет то, чего не знает. Полностью исключить её нельзя, но свести к редким исключениям — можно. Вот как.

Почему ИИ выдумывает

Языковая модель обучена продолжать текст правдоподобно. Если в её распоряжении нет нужного факта, а вопрос требует ответа, она подставляет похожий на правду вариант. Поэтому большинство выдумок — следствие пробелов в знаниях и нечётких правил, а не «характера» модели.

1. Дайте полную базу знаний

Чем меньше пробелов, тем меньше поводов фантазировать. Загружайте актуальный прайс, условия доставки и оплаты, гарантии, график. Удобнее всего вести прайс в таблице: изменили цену — агент сразу отвечает по новой.

2. Запретите отвечать без источника

Напишите в инструкции прямо: «Цены, сроки и условия бери только из базы знаний. Если информации нет — скажи, что уточнишь, и передай вопрос менеджеру». Явное разрешение сказать «не знаю» сильно снижает выдумки.

3. Ставьте вилку там, где цена зависит от деталей

Если точная стоимость зависит от размера, модели или объёма, дайте в базе диапазон «от и до» и правило: сначала узнать детали, потом назвать цену. Так агенту не придётся угадывать.

4. Передавайте спорное человеку

Скидки сверх правил, нестандартные заказы, договоры — это зона менеджера. Агент собирает детали, передаёт диалог и пересказывает суть, а решение принимает человек.

5. Выберите подходящую модель

Более сильные модели лучше следуют инструкции и реже сочиняют, но стоят дороже за ответ. Начните с недорогой модели и проверьте её на каверзных вопросах; если ошибок много, переключитесь на сильнее. Подробнее о ценах — в статье «Сколько стоит чат-бот с ИИ».

6. Проверяйте вопросами с подвохом

  • «А со скидкой 30% можно?»
  • «Сколько стоит [услуга, которой у вас нет]?»
  • «Сделаете завтра к 8 утра?»
  • «Мне в прошлый раз обещали бесплатную доставку».

Правильный ответ на каждый — без выдуманных обещаний: уточнение, отказ или передача человеку.

7. Читайте диалоги первую неделю

Каждая найденная ошибка — повод дописать правило в инструкцию или факт в базу знаний. После пары недель таких правок ошибки становятся редкими.

Частые вопросы

Можно ли полностью исключить ошибки ИИ-агента?

Полностью — нет, но полная база знаний, явные запреты, передача спорных вопросов человеку и проверка в первую неделю делают их редкими.

Первый ответ клиенту — уже сегодня

Создайте ИИ-агента за вечер: он будет отвечать на Авито, в Telegram и MAX по вашему прайсу. Регистрация бесплатная, на баланс — 500 ₽.

Создать агента