Что такое LLM: как работает большая языковая модель и как её использует голосовой ИИ-оператор
Команда Sado AI · · 4 мин чтения
Коротко
LLM (large language model, большая языковая модель) — программа искусственного интеллекта, обученная на огромном объёме текстов: она понимает, что человек написал или сказал, и составляет подходящий ответ. На таких моделях работают ChatGPT, Claude и Gemini. LLM понимает смысл фразы, но ваших цен и часов работы не знает: их нужно ей дать. В голосовом ИИ-операторе LLM — это «мозг»: речь клиента превращается в текст, LLM выбирает ответ по данным компании, ответ снова превращается в голос.
Как работает LLM — простыми словами
LLM изучила миллиарды фраз и текстов и запомнила, как слова идут друг за другом. Когда ей задают вопрос, она слово за словом составляет самый подходящий ответ. Поэтому она понимает один и тот же вопрос, как бы его ни сформулировали:
- «Сколько стоит?», «Почём?», «Narxi qancha?» — это один вопрос;
- «Не завтра, а послезавтра можно?» — понимает, что день поменялся;
- из длинной фразы выделяет нужное: имя, дату, адрес, число людей;
- понимает и смешанную узбекско-русскую речь.
Сама LLM не звонит и не слышит голос — она работает только с текстом. Чтобы она могла говорить по телефону, к ней добавляют ещё две части: распознавание речи в текст (ASR) и синтез голоса из текста (TTS).
Пример: турагентство в Ташкенте
В турагентство звонят десятки людей в день, и каждый спрашивает по-своему (название придумано — «Safar Vaqti»):
- Клиент говорит: «В августе в Турцию, двое взрослых и ребёнок семи лет. В Анталью, чтобы у моря.»
- Голосовое меню или бот на ключевых словах ничего не извлечёт из этой фразы: ему нужно «нажмите 1».
- LLM раскладывает фразу на части: направление — Анталья, месяц — август, люди — 2 взрослых и ребёнок 7 лет, пожелание — у моря.
- Ищет подходящий вариант в данных агентства (туры, даты, цены). Не находит — говорит, что менеджер перезвонит.
Польза для агентства: весь запрос клиента записан одной строкой, менеджеру не нужно переспрашивать всё заново.
Чего LLM не знает и где ошибается
- Не знает ваших цен, адреса и акций — их нужно дать ей в виде текста.
- Может уверенно «придумать» то, чего не знает. По-английски это называют hallucination.
- Сама не видит свободные окна в расписании и остатки на складе: эти данные должны приходить из вашей системы.
- Не слышит голос: в звонке речь клиента сначала должна точно превратиться в текст, иначе LLM поймёт не ту фразу.
Поэтому по телефону «голую» LLM не используют. Ей дают жёсткое правило: отвечай только по данным компании, не знаешь — не придумывай.
Где LLM находится в голосовом ИИ-операторе
| Часть | Что делает | Пример в звонке |
|---|---|---|
| Распознавание речи (ASR) | Превращает голос клиента в текст | «В августе в Анталью…» становится текстом |
| LLM | Понимает смысл, выбирает следующую фразу | Выделяет направление, месяц и число людей |
| Данные компании | LLM отвечает только по ним | Туры, цены, часы работы |
| Голос (TTS) | Превращает ответ в живой голос | Ответ голосом Малики или Шохруха |
| Кабинет | Сохраняет итог | Запись, текст, ответы клиента, заявка |
ИИ-оператор для входящих звонков работает по этой цепочке: отвечает примерно за секунду, говорит от имени компании и задаёт её вопросы. Если ответа нет в данных, он не придумывает: говорит, что менеджер перезвонит, и создаёт задачу. Подробнее: что такое голосовой ИИ-оператор.
Тот же звонок с ИИ-оператором
Sado: Здравствуйте, «Safar Vaqti», Малика, слушаю вас.
Клиент: Здравствуйте. Хотим в августе в Анталью. Двое взрослых и ребёнок, семь лет. Чтобы у моря.
Sado: Хорошо: август, Анталья, двое взрослых и ребёнок. Примерно на какие даты хотите вылететь?
Клиент: После пятнадцатого, на неделю.
Sado: Записала. Точную цену менеджер уточнит по отелям и сегодня вам перезвонит. Подскажите, как вас зовут?
Клиент: Дильноза.
Sado: Спасибо, Дильноза. Заявку оформила, менеджер позвонит на этот номер.
Оператор не придумал цену: в данных агентства цены на эти даты не было, поэтому он оформил заявку. Сотрудники видят её в разделе «Заявки» кабинета.
Что владельцу бизнеса стоит знать об LLM
- Какой бы «умной» ни была модель, качество ответов зависит от ваших данных: цены, адрес, часы работы, частые вопросы.
- Данные поменялись — обновите их, иначе прозвучит старая цена.
- Время от времени слушайте записи и читайте тексты звонков.
- Учитывайте, на каком языке говорят ваши клиенты: Sado говорит по-узбекски и по-русски (ИИ-оператор на узбекском языке).
Оплачиваются только минуты разговора: 800 сум за минуту. Попробуйте вживую или позвоните 78 778 01 23. Другие ответы: вопросы о Sado.
Вопросы
LLM и ChatGPT — одно и то же?
Нет. ChatGPT — чат-приложение компании OpenAI, оно работает на LLM. LLM — общее название таких систем: Claude, Gemini и другие тоже построены на LLM.
Понимает ли LLM узбекский язык?
Современные большие модели понимают узбекский, но для телефона этого мало: нужны ещё точное распознавание речи и естественный узбекский голос. Sado говорит по-узбекски и по-русски — на языке клиента.
Не назовёт ли ИИ-оператор клиенту неправильную цену?
Оператор отвечает только по данным компании. Если нужных данных нет, он говорит, что менеджер перезвонит, и создаёт задачу. Когда цены меняются, их нужно вовремя обновить.