Команда Alibaba Cloud разработала и внедрила инновационную систему DualLane, которая автоматизирует работу службы технической поддержки, требуя при этом минимальных вычислительных ресурсов.
Компания решила отказаться от постоянного использования полноценных ИИ-агентов, поскольку они нередко ошибаются при выборе инструментов, обработке параметров и подготовке ответов. Кроме того, содержание операторов службы поддержки обходится значительно дороже.
Система распределяет обращения между двумя сценариями. Типовые и уже известные проблемы обрабатываются быстро с помощью заранее подготовленных шаблонов, без привлечения ресурсоёмких больших языковых моделей. Нестандартные запросы направляются по более медленному сценарию.
Когда DualLane обнаруживает, что новая проблема носит массовый характер, система формирует отдельный кластер и предлагает перевести его в категорию быстрых решений под контролем специалиста. Испытания показали, что DualLane превосходит такие решения, как LLMCompiler и React, достигая точности 96,5% при минимальных задержках и низком расходе токенов.