Nvidia представила Blackwell Ultra: новая платформа вдвое мощнее предыдущей

Ускорители Vera Rubin от Nvidia пока не поступили в продажу, однако компания уже демонстрирует успехи с Blackwell Ultra. В новой статье в своем блоге Nvidia представила результаты тестов этих ускорителей, проведенных на платформе InferenceMAX от SemiAnalysis.

Как становится очевидным, Nvidia уделяет особое внимание эффективности использования энергии, измеряемой количеством токенов на ватт. Новые системы Nvidia GB300 NVL72 демонстрируют производительность на ватт, которая в 50 раз превышает показатели платформы Hopper. По заявлению компании, это позволяет снизить стоимость генерации одного токена в 35 раз.

Внедрение передовых решений в разработке микросхем, системной архитектуры и программного обеспечения позволило технологии Nvidia экстремального совместного проектирования значительно повысить эффективность при решении разнообразных задач искусственного интеллекта, начиная от разработки программных агентов и заканчивая созданием интерактивных помощников для программистов. При этом достигается сокращение расходов на уровне всей организации

Nvidia обязана значительному увеличению производительности на ватт технологии NVLink. Стойка Blackwell Ultra теперь вмещает до 72 графических процессоров, которые объединены в единую сеть благодаря NVLink, обеспечивающему скорость передачи данных 130 ТБ/с. Для сравнения, стойка Hopper имеет ограничение в восемь чипов.

Не пропустите:  Снимок Maxar зафиксировал спутник Starlink на орбите Земли

Похожие статьи