Microsoft: компонуемая память поможет преодолеть ограничения в ИИ-инфраструктуре
В Microsoft считают компонуемую память одним из наиболее практичных решений проблемы дефицита памяти в ИИ-центрах обработки данных.
01Что случилось
На фоне нехватки памяти для ИИ-ЦОД гиперскейлеры пересматривают подходы к её распределению. Компонуемая память позволяет объединять ресурсы нескольких серверов и выделять их для рабочих нагрузок по мере необходимости. Главный архитектор Microsoft Самир Раджадня сообщил, что команда изучает системные технологии, которые превратили бы память из ресурса, закреплённого за конкретным сервером, в общий динамически распределяемый ресурс в рамках платформы Azure. Он назвал компонуемую архитектуру одним из ключевых направлений развития на ближайшие годы. По его словам, эффективная работа таких систем в крупных масштабах зависит от организации соединений между памятью и CPU или XPU, и значимую роль будут играть разработки в области оптических соединений.
02Почему это важно
Для операторов ЦОД и предприятий это меняет подход к использованию памяти: она перестаёт быть жёстко привязанной к конкретному серверу и может перенаправляться туда, где требуется рабочей нагрузке.
Источники
- 3DNews 3dnews.ru