Nvidia Tesla V100 снова востребована для локального ИИ
Ускорители Nvidia Tesla V100, выпущенные в 2017 году, возвращаются на рынок из-за роста спроса на оборудование для локального запуска моделей искусственного интеллекта.
01Что случилось
На фоне исчезновения GeForce RTX 5090 из официального магазина Nvidia и высокой стоимости профессиональной RTX PRO 6000 старые серверные GPU становятся альтернативой для сборки систем инференса. По данным Wccftech, к стоимости Tesla V100 прибавилось около $200.
Tesla V100 располагает 32 ГБ памяти HBM2 с пропускной способностью до 900 ГБ/с. Видеокарта выпускалась в вариантах PCIe и SXM2. Первый подключается к стандартному слоту PCIe 3.0 x16, версия SXM2 изначально предназначалась для серверных платформ.
Энтузиасты приспосабливают Tesla V100 для обычных компьютеров: оснащают системой охлаждения с тремя вентиляторами, а один энтузиаст подключил SXM2-версию через адаптер к PCIe и объединил её с GeForce RTX 4080, что позволило запускать языковые модели с 27 млрд параметров. По данным WCCFTech, конфигурация из четырёх Tesla V100 с платой NVLink показала до 230% более высокую производительность, чем системы на базе M5 Ultra и двух DGX Spark, при работе с моделью Qwen3.8-Flash-Next.
02Почему это важно
Сборка системы для запуска языковых моделей на базе Tesla V100, по оценке источника, может обойтись примерно в $2000, тогда как стоимость Nvidia RTX PRO 6000 к августу превысила $16 000.
Источники
- iXBT ixbt.com