NVIDIA Blackwell GPU首次实测跑分：提升多达2.2倍

2024-12-29 10:21:37 分类：时尚 阅读(9)

11月14日消息，首次实测NVIDIA Blackwell GPU相当强悍，跑分大家都知道，提升但到底有多强呢？多达

除了官方宣传数据，现在终于第一次看到了实测数据，首次实测来自MLCommons MLPerf v4.1，跑分考察AI训练推理性能的提升最佳平台。

对比对象是多达两代服务器HGX B200、HGX H200，首次实测前者包含多达八颗Blackwell GPU B200，跑分单颗功耗高达1000W。提升

GPT-3预训练项目中，多达Blackwell的首次实测性能相比上代Hopper翻了一番。

Llama 2 700亿参数微调项目中，跑分Blackwell的提升性能更是提升了多达2.2倍。

值得一提的是，Blackwell平台具备ConnectX-7 SuperNICs网卡、Quantum-2 InfiniBand交换机，再加上第五代NVLink互连总线，可以充分保障节点间的通信，可以平衡分配AI训练负载，整体效率更高。

比如同样的GPT-3 1750亿参数性能，Hopper需要多达256颗GPU，Blackwell就只需要64颗。