Alibaba Cloud разработала систему DualLane, которая анализирует обращения клиентов в техподдержку и в ряде случаев позволяет обойтись без подключения больших языковых моделей ИИ для решения проблем. Такой подход помогает компании работать быстрее, точнее и с меньшими затратами.
Alibaba стремится минимизировать участие сотрудников в обработке заявок — их труд медленный и дорогой. Но при масштабном внедрении ИИ-агентов выяснилось, что они нередко действуют некорректно.
Выделяют три типа ошибок ИИ-агентов: неподключение нужных инструментов; использование неполного набора параметров задачи при работе с инструментами, а также некорректное извлечение параметров из результатов одного шага для передачи на следующий; неверная интерпретация результатов или пропуск важной информации при формировании финального ответа.
Решением стала система DualLane, обрабатывающая заявки по двум сценариям — «быстрому» и «медленному». Если запрос соответствует уже известной стандартной проблеме, «медленный» анализ отключается, и клиенту сразу предлагается готовое шаблонное решение.
Когда «медленный» сценарий выявляет группу похожих проблем, они объединяются в «кластер», после чего формируется предложение перевести этот класс задач в «быстрый» режим. Итоговое решение по такому переводу принимает человек.
Обработка заявки по «быстрому» способу требует минимальных затрат ИИ-токенов, тогда как «медленный» сценарий расходует около 3000 токенов. Однако эти затраты компенсируются возросшей эффективностью системы.
По результатам тестирования DualLane превзошла другие инструменты координации ИИ-моделей, включая LLMCompiler и React: точность достигла 96,5% при минимальной задержке ответа. Благодаря этим показателям Alibaba Cloud внедрила DualLane в промышленную эксплуатацию.