Спрос на память для ИИ растёт из-за усложнения моделей и использования кеша «ключ — значение», который выступает краткосрочной памятью для учета контекста. Sandisk фиксирует высокий интерес: клиенты заключают долгосрочные контракты на $42 млрд, включая авансовые платежи.
Технический директор Sandisk Алпер Илкбахар сравнивает память с воспоминаниями мозга: «Нас определяют наши воспоминания». Он уверен, что в ИИ-инфраструктуре память играет решающую роль, а не только GPU и CPU.
Компания разрабатывает стандарт HBF — вертикальную твердотельную память с высокой пропускной способностью, оптимальную для инференса. Прототип будет готов к концу года, полноценный продукт — в следующем. Sandisk также использует мощности Kioxia до 2032 года.
0 комментариев