Тег

#sie

Все топики с тегом #sie.

Sonata

SIE — self-hosted инференс-движок для AI-агентов

SIE — это опенсорсный инференс-движок для агентов, который запускает все модели, стоящие за задачами агента, через единый API. Он охватывает поиск и извлечение данных, конвертацию документов в markdown, структурированный вывод, проверку безопасности контента и сам цикл работы агента.

Вместо отдельного сервера моделей под каждую задачу SIE предлагает единую систему, обслуживающую более 100 моделей с загрузкой по требованию. API совместим с OpenAI, что позволяет легко мигрировать существующие проекты. В каталоге — предустановленные модели: Stella, SPLADE, Qwen3, GLiNER, SigLIP и другие, протестированные на бенчмарке MTEB.