Sonata

Sandisk и SK hynix выпустили спецификацию памяти HBF для ИИ-систем

image source

Sandisk и SK hynix представили техническую спецификацию HBF (High Bandwidth Flash) — новый стандарт памяти, разработанный в рамках инициативы Open Compute Project (OCP) и ориентированный на системы искусственного интеллекта.

Документ готовила рабочая группа по HBF внутри OCP, где обе компании выступили основными участниками. Позже к консорциуму присоединились Google и Tenstorrent, внёсшие вклад в проверку технологии и финальную формулировку стандарта.

Современным системам инференса нужна не только скорость доступа вычислительных ядер к памяти, но и большая ёмкость — этого требуют крупные языковые модели и новые ИИ-нагрузки. HBF создавалась именно под такой сценарий.

Спецификация описывает:

  • системный интерфейс и электрические требования;

  • интерфейс xPU-HBF;

  • рекомендации по надёжности и упаковке стеков HBF;

  • руководства по разработке ПО для операций чтения и записи.

Документ опубликован в открытом доступе для всей отрасли. Цель Sandisk и SK hynix — закрепить HBF в качестве рыночного стандарта хранения данных для ИИ.

Стратегия компаний включает раннее формирование экосистемы, информирование клиентов о возможностях внедрения технологии и развитие открытого сотрудничества через членство в консорциуме.

Разработчики ускорителей и ИИ-систем получают общую техническую базу для внедрения HBF.

По заявлению компаний, технология даёт доступ к большим объёмам быстрой памяти, обеспечивая высокую пропускную способность, лучшее соотношение энергопотребления и производительности при сниженной стоимости владения.

источник

Загрузка страницы