Большие языковые модели представляют собой вид глубокого обучения, в основе которого лежит нейронная сеть с большим количеством параметров. Благодаря внушительному объёму данных, они способны искать ответы на несколько вопросов в рамках одного запроса.
Например, если человек позвонит в справочную службу и задаст несколько вопросов, то большая языковая модель сможет дать исчерпывающий ответ на все вопросы, предоставив только нужную информацию. Обычный голосовой помощник может обработать только один вопрос, а для получения ответов на остальные нужно будет спросить снова.
При этом использование языковых моделей происходит незаметно для звонящего. Получая звонок, система включает распознавание речи. Затем сообщение записывается, преобразуется из аудио в текст и отправляется в языковую модель, которая, применяя дополнительные фильтры, находит в базе знаний нужные статьи с информацией. Она определяет суть вопроса и генерирует ответ, который голосовой помощник сообщает абоненту. Таким образом, человек получает максимально точный и комплексный ответ на все свои вопросы без лишней информации.
Современные технологии искусственного интеллекта позволяют большим языковым моделям быстро и точно находить информацию по любой теме в базе знаний и предоставлять её пользователю. В отличие от традиционных голосовых помощников, которые просто зачитывают ответы из базы знаний, системы на основе LLM (large language models) способны поддерживать диалог, учитывая интонации и стиль общения звонящего.
Кроме того, большая языковая модель обучает голосового помощника на основе нейросети. Раньше операторам приходилось вручную загружать в виртуального ассистента новые темы и варианты ответов. Теперь же LLM помогает голосовому помощнику находить нужную информацию в общей базе знаний. Однако роль человека в процессе не исключается. Операторы продолжают обрабатывать часть звонков, а редакторы следят за актуальностью информации в базе знаний. Таким образом, обучение одной нейросети происходит при помощи другой, но под строгим контролем специалистов.
Ещё одно важное направление применения языковых моделей — это новый метод анализа обратной связи после обслуживания. Раньше отзывы записывали сотрудники. Теперь же, с внедрением языковых моделей, анализ проводит сама нейросеть, ранжируя оценки на позитивные, нейтральные и негативные. Благодаря этому сотрудники отдела контроля качества могут быстрее выявлять проблемы и улучшать качество обслуживания.
Новые большие языковые модели российского производства начали использоваться в общегородском контакт-центре (ОКЦ) Москвы в тестовом режиме. Внедрение этой технологии позволит улучшить качество и ускорить консультации на горячих линиях, а также даст операторам больше времени на решение более сложных запросов от жителей.
«Применение языковых моделей пилотируется на линии единой справочной службы Правительства Москвы для двух важных задач: для предоставления консультаций на входящих звонках и классификации обратной связи по итогам обслуживания. В комплексе такой подход позволяет не только обучать голосового помощника без помощи операторов, но и улучшать качество консультаций: языковая модель классифицирует отзывы жителей по итогам звонков, что в дальнейшем поможет совершенствовать базу знаний и сценарии консультаций, а в случае необходимости — повышать квалификацию операторов», — рассказал руководитель общегородского контакт-центра Андрей Савицкий.
Применение больших языковых моделей на горячих линиях ОКЦ дополняет уже существующие инструменты на основе ИИ. В частности, с 2023 года используется цифровой аудит, а в этом году стартовал проект по анализу речи.
Горячая линия единой справочной службы столичного правительства ОКЦ работает с 2015 года. Чаще всего горожане обращаются в службу, чтобы узнать график работы и адреса центров госуслуг «Мои документы» и городских ведомств. Также их интересуют вопросы, связанные с получением и заменой российских паспортов. Кроме того, на горячей линии можно обратиться за технической поддержкой портала mos.ru и проконсультироваться по вопросам получения государственных услуг в электронном виде.
Голосовой помощник на горячей линии работает уже восемь лет. Он обрабатывает 40% входящих звонков по примерно 300 различным темам. Использование цифровых технологий и ИИ для улучшения качества жизни горожан — это одна из главных задач национальной программы «Цифровая экономика Российской Федерации» и регионального проекта «Цифровое государственное управление», который реализуется в Москве.
Одними из главных преимуществ использования современных технологий является доступность и скорость получения информации, а также автоматизация процессов, благодаря которой у специалистов появляется дополнительное время для решения более сложных задач.