Transformers — это фреймворк для описания современных моделей машинного обучения, работающих с текстом, изображениями, аудио, видео и мультимодальными данными. Библиотека используется как для инференса, так и для обучения моделей.
Главная идея проекта — централизация определения моделей, чтобы оно было единым для всей экосистемы. Если модель поддерживается Transformers, она автоматически совместима с популярными фреймворками обучения (Axolotl, Unsloth, DeepSpeed, FSDP, PyTorch-Lightning) и инференса (vLLM, SGLang, TGI), а также со смежными библиотеками вроде llama.cpp и mlx.
Мы стремимся помогать поддерживать новые передовые модели, делая их определение простым, настраиваемым и эффективным.
На Hugging Face Hub доступно более 1 миллиона чекпоинтов моделей Transformers. Библиотека работает с Python 3.10+ и PyTorch 2.5+, а начать работу можно через высокоуровневый Pipeline API, который берёт на себя предобработку входных данных и выдаёт готовый результат.
Ключевые преимущества: простой в использовании API с минимумом абстракций, снижение затрат на вычисления за счёт переиспользования готовых моделей, а также возможность свободно переключаться между PyTorch, JAX и TensorFlow в зависимости от задачи.
GitHub ★ 163,590