黄仁勋在CES上发布的迷你超算Project DIGITS,开启了AI超算的PC时刻。
但立刻就引起了很大的争议,还被老板嘲笑了。
曾在 AMD 和英特尔工作过的芯片设计专家 Raja Koduri 实名抱怨道:
失败次数除以 4 就是价格的两倍,这是在 CES 上保持脚踏实地的秘诀。
随后,Koduri 在被网友询问时给出了详细解释,称 NVIDIA 宣传的算力是 FP4 精度,而 Project DIGITS 在 FP16 的性能可能与 5070 类似,甚至接近 Intel Arc B580(售价250 美元))。
友商Tiny Corp更是抓住了这一点,发起一波输出,直接表示人们趋之若鹜的所谓3000美元超级计算机纯粹是骗局。
最后,我还不忘补充一句:3000美元比买一台游戏电脑好。
关于细节,Tiny Corp 在另一条推文中表示 FP4 根本无法使用。项目 DIGITS 在 FP8 精度下仅具有 500TFLOP。顺便说一句,它宣传自己的产品有 4PFLOPs,是 Project DIGITS 的 8 倍。
史上最小的超级计算机,售价22000起
据NVIDIA介绍,这一波发布的Project DIGITS可以说是目前最小的AI超级计算机。
DIGITS 项目将于今年 5 月由官方和顶级合作伙伴发布,起售价为 3000 美元,约合人民币 22000 元。
它搭载了NVIDIA全新Grace Blackwell超级芯片——GB10,FP4算力达到1PFLOPs。
GB10 包括配备最新一代 CUDA 核心和第五代 Tensor 核心的 NVIDIA Blackwell GPU。
CPU是与联发科合作开发的Grace CPU。它基于Arm架构,拥有20个节能核心。
CPU和GPU通过NVlink-C2C芯片间互连连接,以及128GB统一内存和4TB NVMe存储。
据介绍,Project DIGITS可以在桌面上运行200B大型模型,也可以将两者结合在一起运行405B模型。
此外,NVIDIA还为用户提供AI软件库,包括NGC目录和开发者门户中的软件开发套件、编排工具、框架和模型。您可以使用 NVIDIA NeMo 框架来微调模型,使用 NVIDIA RAPIDS 库来加速数据科学,并运行 PyTorch 等常见框架。
还可以使用 NVIDIA 蓝图和 NVIDIA NIM 微服务构建智能 AI 应用程序。
在桌面系统上开发或推断大型模型后,可以将其无缝部署到加速的云或数据中心基础设施中。
Nvidia的桌面CPU计划
此前有传言称,英伟达计划今年进军消费级CPU市场。
在本次Project DIGITS中,20核节能Grace CPU是NVIDIA首次测试。
在投资者演讲中,黄仁勋在回答分析师提问时表示,英伟达和联发科联合设计了一款“可以广泛销售”的节能CPU。
不过,搭载新CPU的Project DIGITS主要针对AI从业者,主要运行Linux系统。它距离成为大众消费市场设备还很远。
不过,老黄也明确表示,英伟达对于桌面级CPU“有进一步的计划”,具体细节稍后会透露。
但这足以证明Nvidia想要进军消费级CPU的说法是真的。
而老黄对此也充满信心:
我们将使其成为主流产品,我们将尽力支持专业、高质量的软件,PC(制造商)将其提供给最终用户。
此外,与英伟达合作的联发科或许也有自己的野心。
老黄表示,联发科要么可以将产品提供给Nvidia,也可以保留并推向市场。
但至少目前来看,黄仁勋仍然认为与联发科的合作是双赢的结果。
参考链接:
[1]
[2]
[3]
本文来自微信公众号“量子位”,作者:Cressey,36氪授权发布。