Спрос на чипы для AI продолжает расти, но есть две проблемы: доступность чипов и места для них. General Compute — новый облачный сервис для инференса — привлек $15 млн при оценке $60 млн. Он делает ставку на чипы SambaNova, которые быстрее GPU и охлаждаются воздухом.
Чипы SambaNova выдают 600-700 токенов в секунду против 250 у GPU. General Compute заказала чипов на $300 млн и будет первой, кто их развернет. Они подходят для существующих дата-центров, так как потребляют меньше энергии.
Компания заключила сделки с дата-центрами и майнерами крипты. Она уже запустила облачный сервис, который быстрее всех запускает MiniMax 2.7. Инвесторы видят параллели с Coreweave и Nvidia — General Compute делает ставку на SambaNova, а SambaNova — на General Compute.
0 комментариев