МТС запускает LLM-агрегатор на базе облачных сервисов MWS

Внутри платформы есть собственный чат-интерфейс, который позволяет сохранять промпты и обмениваться ими, а также No-Code конструктор для проектирования и создания приложений без привлечения разработчиков. На первом этапе можно подключить облачную версию MWS GPT, в дальнейшем появится возможность развертывания сервиса на инфраструктуре заказчика. На следующих этап планируется увеличить число доступных моделей, в том числе с помощью популярных на рынке продуктов других компаний.

«Чтобы добиться хороших результатов, важно постоянно экспериментировать. Именно с этой целью мы запускали LLM-агрегатор внутри МТС. Сегодня мы фиксируем свыше 1,2 млн обращений к платформе в сутки. Убедившись в эффективности и надежности сервиса, мы приняли решение выходить на внешний рынок. Работая с разными моделями, наши клиенты смогут подобрать наиболее подходящую, не оформляя многочисленные подписки и оптимизируя расходы на техподдержку. На мой взгляд, чтобы получить наилучший результат в решении задач с помощью LLM, не нужно зацикливаться на какой-то одной. В основе MWS GPT лежит агентская архитектура, которая позволяет любой модели быть ИИ-Агентом. Помимо обычного текстового ответа, MWS GPT принимает решение использовать тот или иной навык в зависимости от задачи. К примеру, в случае математических расчетов модель обращается напрямую к интерпретатору, вместо попытки продолжить текст, основываясь на корпусе обучения, а если данных обучения не хватает для полного ответа - делает запрос в поисковую систему», – прокомментировал первый вице-президент по технологиям МТС Павел Воронин.

Оплата за использование сервиса будет взиматься в зависимости от количества обработанных токенов, что снижает порог входа для малого бизнеса.