Руководство / Практика голосового ИИ
Как выбрать языковую модель для звонков
Сравниваем точность ответов, время реакции, инструменты и стоимость LLM в голосовом агенте. Каскад и speech-to-speech.
Выбирайте модель по результату одинакового разговорного задания: корректный ответ, нужное уточнение и безопасное действие. Скорость первого токена важна, но не заменяет проверку всей реплики и вызовов инструментов.
Каскад или прямой голосовой диалог
В каскаде распознавание переводит речь в текст, LLM формирует ответ, а TTS озвучивает его. Компоненты можно оценивать отдельно. В speech-to-speech модели работают с аудио непосредственно; сравнивать такие архитектуры нужно по всему пользовательскому пути.
Название поставщика не говорит, какая архитектура используется. Текстовая модель GPT внутри каскада — не то же самое, что OpenAI Realtime. Аналогично различаются Gemini как языковая модель, синтез речи и Gemini Live.
Четыре группы критериев
- Ответ: факты из базы знаний, короткость, уместность уточнения, отсутствие выдуманной цены.
- Действия: правильное имя инструмента, аргументы, обработка отказа и подтверждение результата.
- Разговор: паузы, реакция на исправление и перебивание, возвращение к задаче.
- Эксплуатация: доступность, лимиты, стоимость, повторяемость и возможность диагностировать ошибку.
Набор задач для сравнения
Дайте моделям одинаковый прайс с двумя похожими услугами. Попросите назвать цену, затем измените услугу. Добавьте противоречие между старым и новым документом и вопрос, которого нет в материалах.
В отдельном тесте инструмент должен вернуть ошибку или отсутствие свободного времени. Модель не должна сообщать об успешной записи до подтверждения системы. Проверяйте не красоту текста, а состояние, которое осталось после разговора.
Как читать показатели скорости
TTFT — время до первого токена модели. Пользователь услышит звук позже: сначала нужен пригодный для синтеза фрагмент, затем TTS, буферизация и передача. Сравнение по одному числу TTFT не определяет самую быструю систему звонков.
Фиксируйте медиану, медленные ответы, долю ошибок, размер контекста и инструменты. Длинная база в промпте и короткий тест без инструментов — разные нагрузки.
Подключение в MAIA
Выбирайте модель из доступного каталога проекта и проверяйте её вместе со своим STT, голосом и знаниями. Наличие модели у внешнего провайдера не означает, что любой её режим уже доступен в MAIA.
Пользовательский ключ провайдера, произвольный endpoint и локальная LLM — самостоятельные функции. Не следует предполагать их наличие только потому, что используется OpenRouter или совместимый формат API.
Источники и проверка
Используйте актуальные документы поставщика и настройки своего проекта. Поддержка режима, условия тарифа и параметры могут измениться.
Возможности для разработчиков
Проверьте подходящий сценарий и возможности своего проекта.
Подробнее