Как запустить AI-голосового робота в облаке и сэкономить до 70% бюджета компании

О компании

Glagol — компания-разработчик системы голосовых роботов на базе искусственного интеллекта. Сервисом пользуются заказчики из различных отраслей бизнеса. Цифровые роботы помогают обрабатывать телефонные звонки и экономить до 70% бюджета на сотрудниках.

Основной бизнес заказчика был связан с предоставлением услуг кол-центра. Но позже ситуация изменилась.

«В 2018 году мы стали получать запросы от клиентов и партнеров на проведение обзвонов и обработку входящего трафика без участия человека. Для нас это был вызов. Мы начали искать готовые решения, которые на тот момент существовали на рынке. Но ни один сервис не закрывал поставленные задачи. И тут мы поняли: нужно идти в собственную разработку, хотя изначально это не планировали»

Максим Шлегель

Фаундер компании Glagol 

Будучи новичками в выбранном направлении, команда в буквальном смысле училась на первых клиентах. Сначала Glagol был далек от идеала: например, во время звонка голосовой робот думал 10-15 секунд. Это было слишком долго. Но последующая доработка позволила довести решение до золотой середины — заказчик был доволен результатом.

Когда стало понятно, что продукт может приносить коммерческую прибыль и выгоду, компания задумалась о создании веб-интерфейса с возможностью самостоятельной сборки роботов. Сегодня клиентам Glagol доступен магазин с готовыми шаблонами под конкретную задачу. В услуги компании также входит реализация сложных проектов под заказ и их последующая поддержка.

Задачи клиента

До запуска сервиса Glagol компания размещала кол-центр на мощностях одного из российских облачных провайдеров. В 2017 году случился инцидент, в результате которого система автоматического управления аккаунтами удалила сервер со всем содержимым без возможности восстановления. Рассматривался вариант оперативного перехода на альтернативную облачную платформу для возобновления работы сервиса. 

Поскольку ситуация с кол-центром была аварийная, вопрос доступности нужно было решать в сжатые сроки. Мониторинг рынка показал, что Timeweb Cloud подходит для перезапуска проекта. К тому же на облачную площадку было просто перейти: развертывание сервера занимает пару минут.

Почему выбрали Timeweb Cloud 

За время сотрудничества в рамках кол-центра не возникало сбоев, сервис работал стабильно. Поэтому в 2018 году клиент решил развернуть проект Glagol на мощностях проверенного партнера.  

«Мы объективно не готовы выделять физические ресурсы на наши проекты. Нас устраивает софт, который предоставляет Timeweb Cloud. На базе облачной инфраструктуры мы можем быстро разворачивать серверы в нужном объеме, оперативно масштабировать ресурсы и высвобождать их, когда отпадает необходимость в них. К тому же облачный сервис Timeweb Cloud понятен с точки зрения архитектуры и пользовательского взаимодействия. Так, в другом облачном провайдере на те же задачи, которые мы решаем здесь за считаные минуты, у нас ушло три часа»

Максим Шлегель

Фаундер компании Glagol 

Решение

Glagol использует облачную инфраструктуру Timeweb Cloud для размещения VDS-серверов, ориентированных на разных заказчиков и различные конфигурации. 

Как сервис Glagol решает сложные задачи клиента?

Рассмотрим кейс на примере медицинской компании. В облаке Timeweb Cloud развернута система, которая консультирует пациентов по анализам, идентифицируя в том числе сложные названия. Для корректной работы сервиса потребовалось создать отдельный подмодуль принятия решения, с помощью которого происходит сопоставление пользовательского запроса и данных из базы. 

«Нам пришлось работать с длинным списком анализов, отдельно создавать перечни возможных созвучий, который может произнести человек. Несмотря на то что эта задача далась нам сложно, в 2023 году мы вывели сервис на линию. Сегодня он эффективно отрабатывает и закрывает потребности заказчика»

Максим Шлегель

Фаундер компании Glagol 

Переход на выделенный сервер

В конце 2023 года одному из клиентов Glagol понадобилось внушительное количество вычислительных ресурсов с высокими требованиями к производительности. Для решения этой задачи использовали выделенный сервер, который справился с обработкой повышенного объема трафика. Когда необходимость в дополнительных мощностях отпала, работу сервера приостановили до того момента, когда эти ресурсы потребуются вновь. 

Архитектурные особенности

Glagol — это совокупность технических решений, развернутых в виде отдельных серверов в облачной среде. Каждый из них заточен под свою задачу: отвечает за совершение звонков, обеспечивает связку с API, выполняет роль сервера принятия решений или АТС. Такая комбинация позволяет оперативно обмениваться данными и гарантирует высокий уровень доступности. Например, если один из звонковых серверов заказчика окажется недоступным, его копию можно развернуть за 5 минут.

Таким образом, архитектура Glagol подразумевает одновременное использование одним клиентом сразу нескольких нод. В таком случае обработка звонков происходит по распределенной схеме. Кстати, она показала себя выигрышно в период DDoS-атак, которые обрушились на российский ИТ-сегмент в прошлом году. В случае недоступности одной из нод происходило автоматическое переключение на другую — доступную здесь и сейчас, гарантируя бесперебойную работу сервиса.

Технологический стек

Glagol — это сервис, состоящий из фронтенда и бэкенда со свойственными им характеристиками. Вот основные детали:

• Фронтенд
  Представляет собой веб-фреймворк Django, написанный на Python, здесь же используется Javascript и обеспечивается связка с БД. Для отказоустойчивости и защиты инфраструктура распределяется по нескольким серверам. 
• Бэкенд
  Состоит из движка принятия решений — написан на Python без сторонних архитектур. Такой подход обеспечивает независимость от внешних факторов — например, связанных с уходом зарубежных вендоров. И даже если существующие API и сервисы ИИ станут недоступными, это не скажется на Glagol, он продолжит работу. 

Помимо движка в облаке Timeweb Cloud размещаются базы данных, API, телефонная open-source-платформа FreeSWITCH, которая обрабатывает 40 000 звонков в час. Для взаимодействия роботов с АТС используются внешние модули собственной разработки.

Мнение Glagol 

«За 7 лет сотрудничества мы привыкли к Timeweb Cloud — вместе росли, растем и продолжаем развиваться. Для нас облачная платформа провайдера — это понятный и простой способ управления серверами. Плюс у Timeweb Cloud классный сервис в плане поддержки. Мы используем премиум-саппорт, который позволяет максимально быстро решать любые вопросы»

Максим Шлегель

Фаундер компании Glagol 

Результаты 

• Высокая скорость развертывания ресурсов
  Для сервиса Glagol важна скорость предоставления вычислительных мощностей и их быстрое высвобождение. Текущий бизнес сопряжен с сезонностью: в момент, когда на рынке происходит много коммуникаций, ресурсы нужны незамедлительно. Когда спрос падает — сервис потребляет значительно меньше мощностей. Все это можно прогнозировать, что в совокупности обеспечивает рациональное использование ресурсов.

• Отсутствие рисков потери данных
  Облачная инфраструктура, в отличие от физической, гибко масштабируется и позволяет распределять данные по разным серверам, которые резервируются как на уровне инфраструктуры, так и на уровне отдельно взятой машины. В результате заказчик уверен в целостности и сохранности данных своих клиентов.

• Соответствие требованиям регуляторов
  Виртуальные машины Glagol размещаются в инфраструктуре, соответствующей требованиям ФЗ-152. Это повышает уровень доверия клиентов и позволяет размещать проекты в облаке без необходимости прохождения законодательных инициатив конечным заказчиком.

Планы

• Развитие движка принятия решений, запуск роботов-менеджеров для управления бизнес-процессам
  

  Glagol постоянно совершенствуется. Команда работает над второй версией продукта, который будет принимать решения не только в ходе диалогов, но и в ходе управления бизнес-процессами. Фаундер Glagol обсуждал перспективы этого проекта с Министерством экономического развития на встрече победителей конкурса «Лидеры России».

  Glagol продолжит углубляться в историю принятия решений не только в звонках, но и в бизнесе, беря на себя задачу по оптимизации процессов. В этом помогут роботы-менеджеры, которых Glagol планирует развивать. Такие роботы смогут брать на себя определенные функции внутри компании, вступать во внутреннюю и внешнюю коммуникацию с другими сервисами или сотрудниками и на выходе принимать решение либо выполнять цепочку последовательных действий.

• Готовность к большим объемам исходящих вызовов
  Следующая важная задача, которую ставит перед собой Glagol, — адаптировать платформу к большим объемам исходящих вызовов. Если раньше компания концентрировалась только на входящем трафике, теперь идет смещение в сторону существенного расширения и добавления новой компетенции. Такой запрос пришел от бизнеса, когда заказчикам необходимо совершать массовые обзвоны по клиентской базе с целью проведения исследований или NPS-опросов в короткие сроки. Уже сейчас сервис может обзванивать более 100 000 контактов за 1 час.