Magnitude — это открытый сервер инференса для запуска локальных моделей на вашем оборудовании. Он автоматически анализирует характеристики машины, подбирает оптимальные модели, скачивает, настраивает и запускает их. Инструмент интегрируется с популярными агентами: Pi, OpenCode, Hermes, OpenClaw, Codex, Claude Code и другими, а также имеет встроенный харнесс.
Работает на macOS и Linux (Windows через WSL). Полностью приватный и офлайн: данные и модели не покидают устройство. Настройка происходит через один запрос агенту, который профилирует железо и рекомендует лучшие варианты. Модели загружаются по требованию и выгружаются при простое, что экономит память. Лицензия Apache 2.0, код открыт для модификаций.
GitHub ★ 1,729