Гаджеты18 окт. · 05:07 · 1 мин

SK hynix показала память для ИИ-серверов со скоростью до 80 ГБ/с

SK hynix представила на конференции OCP Global Summit в Сан-Хосе модули памяти CMM-DDR5, стоечную систему MARS и технологию CMM-Ax для серверов, ориентированных на ИИ-нагрузки.

01Что случилось

Второе поколение модулей CMM-DDR5 имеет ёмкость 256 ГБ и работает на базе интерфейса CXL 3.2. Пропускная способность, по заявлению компании, достигает 80 ГБ/с, что более чем вдвое выше предыдущего поколения, а энергоэффективность улучшилась примерно на 30%. Модули предназначены для объединённой памяти, когда несколько серверов используют общий пул ёмкости.

Стоечная система MARS делает память центральным ресурсом стойки. Совместно с Naver Cloud компания показала концепцию общего кэша ключей и значений для среды с ИИ-агентами, а также общие векторные представления для сервиса, работающего с разными типами данных. Технология CMM-Ax приближает вычисления к памяти за счёт снижения перемещения данных; её продемонстрировали на задаче обслуживания больших языковых моделей с длинным контекстом.

SK hynix подчёркивает, что речь идёт о системных демонстрациях, а не о широко доступной серверной платформе.

02Почему это важно

Новость относится к разработке архитектур серверной памяти для ИИ-инфраструктуры, где часть вычислений и хранения промежуточных данных переносится на уровень общей памяти.

Источники

  1. iXBT ixbt.com

Вся лента