Как большая языковая модель (LLM) работает в телефонном звонке и как её ограничить
Команда Sado AI · · 3 мин чтения
Коротко
Большая языковая модель (LLM) — основа систем вроде ChatGPT: она понимает текст и пишет ответ. В голосовом операторе она стоит между распознаванием речи и голосом: понимает из слов клиента, что ему нужно, составляет ответ из данных компании и выбирает следующее действие — записать, назначить перезвон или соединить с сотрудником. По телефону LLM обязательно ограничивают: ответы только из данных компании, короткие фразы, список того, что нельзя обещать, а если не знает — передача менеджеру.
Что такое LLM и что она делает в звонке
LLM (large language model) — нейросеть, обученная на огромном объёме текста. Она знает связи между словами и поэтому понимает свободную речь. Если клиент говорит «Можно завтра после работы, после шести, я с ребёнком», модель вычленяет день, время и что придут двое.
Цепочка в голосовом операторе такая: распознавание превращает голос в текст, LLM понимает текст и составляет ответ, голос его произносит. О первом и последнем звене: распознавание речи и голоса TTS.
Что LLM делает перед каждым ответом
- Берёт текст фразы клиента и всё, что было сказано раньше: что спрашивали, о чём договорились.
- Читает указания компании: имя оператора, цель разговора (например, записать на приём), тон, чего говорить нельзя.
- Находит нужные данные: цену, адрес, часы работы, свободное время.
- Составляет ответ: одна-две фразы и один вопрос.
- Если нужно, выполняет действие: записывает клиента, сохраняет заказ, назначает перезвон или соединяет с сотрудником.
Чат и телефон: в чём разница для LLM
| Что | В чат-боте | По телефону |
|---|---|---|
| Длина ответа | Может быть длинный текст и список | 1–2 фразы, без списков и ссылок |
| Цифры | Пишутся цифрами | Произносятся словами, группами |
| Скорость | Пара секунд ожидания незаметна | Слышна каждая пауза |
| Ошибка | Клиент перечитает и проверит | Сказанное становится обещанием |
| Язык | Обычно один язык | Узбекские и русские слова вперемешку |
Чем опасна LLM и как её ограничить
- Выдумывание: если данных нет, уверенно говорит догадку. Что делать — отвечать только из данных компании и правило «не знаю — перезвонит менеджер».
- Лишние обещания: скидка, точный день доставки, гарантия. Что делать — список того, что нельзя обещать.
- Длинные ответы: объясняет, как в чате. Что делать — указание «говори коротко, задавай один вопрос».
- Уход от темы: политика, другие компании, личные разговоры. Что делать — вежливо возвращать разговор к цели.
- Медицинские, юридические, финансовые советы. Что делать — оставлять такие вопросы специалисту.
Пример: три вопроса в одной фразе
Клиент: Здравствуйте. Видел в Инстаграме серый угловой диван, сколько стоит и доставляете ли на Юнусабад?
Sado: Здравствуйте! Серый угловой диван — 6 миллионов 400 тысяч сум. По Ташкенту доставка бесплатная, на Юнусабад тоже. Когда он вам нужен?
Клиент: К субботе получится? Но сначала хочу посмотреть вживую.
Sado: Получится. Шоурум у нас на Чиланзаре, каждый день с 9 до 20. Придёте завтра посмотреть?
Клиент: Да, завтра часов в пять.
Sado: Хорошо, записала вас на завтра на пять. Как вас зовут?
Клиент в одной фразе спросил цену, доставку и район. Модель разобрала всё, взяла ответы только из данных магазина и повела разговор к цели — записи в шоурум. Диван и цена — выдуманный пример.
Как это устроено в Sado
Настраивать модель самим не нужно: команда Sado настраивает оператора вместе с вами — сценарий, вопросы, цены, часы работы. Оператор отвечает только из ваших данных; если не знает, говорит, что перезвонит менеджер, и создаёт задачу. После звонка в кабинете появляются запись, текст, краткий итог и следующий шаг.
Подробнее: ИИ-оператор для входящих звонков и частые вопросы. Попробуйте вживую или позвоните 78 778 01 23.
Вопросы
Голосовой оператор — это ChatGPT?
Нет. ChatGPT — общий чат. Голосовой оператор работает по телефону: слышит, отвечает из данных компании, записывает клиента и передаёт итог в CRM. Языковая модель — лишь одна его часть.
Понимает ли LLM узбекский язык?
Современные модели работают и на узбекском, но по телефону это нужно проверить. Sado говорит на узбекском и русском и понимает смешанную речь: ИИ-оператор на узбекском.
Как защищены данные компании?
В Sado ключи хранятся в зашифрованном виде, данные хранятся ограниченный срок, и вы вправе попросить их удалить. Подробнее: конфиденциальность.