ByteDance разрабатывает ИИ-модель с 10 трлн параметров, не прибегая к дистилляции чужих моделей. Сейчас идёт этап предварительного обучения, который занимает 3–6 месяцев.
Над проектом трудятся около 2000 специалистов — инженеры, исследователи, специалисты по данным. Основатель Чжан Иминь призывает не беспокоиться об отставании в краткосрочной перспективе.
Для сравнения: модели Anthropic оцениваются в 8 трлн и 5 трлн параметров, китайская Kimi 3 от Moonshot — около 3 трлн. Количество параметров не определяет качество напрямую — важны данные и методы обучения.
ByteDance стремится не просто догнать западных лидеров, но и превзойти их в долгосрочной перспективе.