Платформа корпоративного управления расходами Ramp запустила сервис Router, который позволяет компаниям и пользователям переключаться между различными большими языковыми моделями через единый API. Сервис уже три года используется внутри самой Ramp для её собственных AI-задач.
Router работает аналогично OpenRouter, но пока предлагает меньше моделей — от OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI и Z.ai. Пользователи могут задавать стратегии выбора модели: например, отдавать приоритет гибким тарифам или маршрутизировать запросы на основе заданных бенчмарков. Также можно отправлять сложные задачи на дорогие модели, а простые — на дешёвые.
В интерфейсе доступен дашборд с метриками: затраты на токены, задержки, попытки фолбэка и другие детали. По умолчанию Router хранит входные и выходные данные в течение года, но предусмотрен отказ от этого. Компания обещает удалять персональную информацию перед использованием данных для улучшения продукта.
Для Ramp это шаг на рынок AI-инференса и расширение существующих продуктов по мониторингу токенов. Если сервис станет популярным, как OpenRouter, это укрепит связи с AI-лабораториями и привлечёт новых клиентов. Ramp привлекла $750 млн при оценке $44 млрд в июне этого года.