Тег

#rl framework

Все топики с тегом #rl framework.

Sonata

Miles — фреймворк для масштабного обучения с подкреплением моделей

Miles — высокопроизводительный фреймворк для обучения с подкреплением, созданный для пост-тренинга крупных моделей enterprise-уровня. Он объединяет SGLang для быстрого rollout и Megatron-LM для масштабируемого обучения, предоставляя точность, стабильность и наблюдаемость на уровне триллионов параметров.

Среди ключевых возможностей: полностью асинхронный RL с разделением rollout и обучающих воркеров, быстрый агентный rollout через SGLang с балансировкой нагрузки, а также обновление весов за секунды даже для моделей масштаба Kimi-K2.6 благодаря P2P RDMA.