2025 年消费电子展 | Nvidia 推出面向桌面人工智能开发人员的 Project DIGITS 人工智能超级计算机
英伟达(Nvidia)在 2025 年美国消费电子展(CES 2025)上发布了面向桌面用户的Project DIGITS AI 超级计算机。超级计算机。该超级计算机采用 GB10 Grace Blackwell 超级芯片,可让桌面用户在一个单元上运行多达 2000 亿个参数的大型语言模型(LLM),在两个联网单元上运行多达 4050 亿个参数的大型语言模型(LLM)。
开发人工智能 LLM 需要强大的计算机来处理大量数据。衡量 LLM 能力的一个标准是其开发时使用的参数数量。参数数量越多的模型通常在人工智能推理和知识测试中表现越好。
大多数桌面人工智能开发人员要么使用本地 GPU,如 英伟达 4090(亚马逊上有售)等本地 GPU,这些 GPU 的性能和模型大小有限,或者使用成本较高的订阅云 GPU 服务。Nvidia 4090 的 RAM 大小将 LLM 开发限制在约 300 亿个参数上。不幸的是,最近的开源人工智能模型远远超出了 Nvidia 4090 的能力。例如,xAI 的Grok-1 是一个拥有 3140 亿个参数的模型。.
Project DIGITS 使用 Nvidia ConnectX 网络适配器,通过双单元配置轻松处理这些参数。每个单元包含一个 20 核 ARM CPU、Nvidia Blackwell GPU、128 GB DDR5X 内存和 4 TB NVMe 存储。每个 Blackwell GPU 能够实现 1 PetaFLOP 的 FP4 AI 计算性能。虽然从 FP16 或 FP8 降到 FP4 会降低每次计算的准确性,但 Nvidia 已投入大量精力在 FP4 上进行 LLM 开发,并实现了类似的输出准确性。由于 FP4 使用的位数较少,GPU 处理 LLM 训练数据的速度也更快。
与其他解决方案相比,使用 Project DIGITS 的主要优势在于,通过使用在 Nvidia AI Enterprise 平台上运行的相同 Grace Blackwell GPU 架构,能够轻松地将项目从本地系统转移到云端。感兴趣的人工智能开发人员可登录Nvidia Project DIGITS 网站注册。以获得预计于 2025 年 5 月推出的 3000 美元以上设备的通知。
资料来源
英伟达™(NVIDIA®)将格蕾丝-布莱克韦尔(Grace Blackwell)放在每个人的办公桌上,让每个人工智能开发人员触手可及
英伟达™(NVIDIA®)DIGITS 项目携全新 GB10 超级芯片亮相,成为可运行 200B 参数模型的全球最小人工智能超级计算机
2025 年 1 月 6 日
英伟达™(NVIDIA®)将格蕾丝-布莱克韦尔(Grace Blackwell)放在每个人的办公桌上,让每个人工智能开发人员触手可及
英伟达™(NVIDIA®)于今日发布了个人人工智能超级计算机 NVIDIA® Project DIGITS,为全球的人工智能研究人员、数据科学家和学生提供了使用英伟达™(NVIDIA®)Grace Blackwell 平台的机会。
Project DIGITS采用了全新的英伟达GB10 Grace Blackwell超级芯片,可提供petaflop的人工智能计算性能,用于原型开发、微调和运行大型人工智能模型。
借助Project DIGITS,用户可以使用自己的桌面系统开发和运行模型推理,然后将模型无缝部署到加速云或数据中心基础设施上。
"人工智能将成为各行各业各种应用的主流。英伟达™(NVIDIA®)公司创始人兼首席执行官黄仁勋(Jensen Huang)表示:"有了DIGITS项目,格雷斯-布莱克韦尔超级芯片将为数百万开发人员所用。"将人工智能超级计算机放在每一位数据科学家、人工智能研究人员和学生的办公桌上,让他们有能力参与和塑造人工智能时代。"
GB10超级芯片提供Petaflop的高能效AI性能
GB10超级芯片是基于英伟达™(NVIDIA®)Grace Blackwell架构的片上系统(SoC),可在FP4精度下提供高达1 petaflop的人工智能性能。
GB10采用英伟达™(NVIDIA®)Blackwell GPU,配备最新一代CUDA®内核和第五代张量内核,通过NVLink®-C2C芯片到芯片互连与高性能英伟达™(NVIDIA®)Grace™ CPU相连,Grace™ CPU包含20个采用Arm架构打造的高能效内核。联发科技(MediaTek)是基于 Arm 架构的 SoC 设计领域的市场领导者,该公司参与了 GB10 的设计,为 GB10 提供了同类最佳的能效、性能和连接性。
GB10 超级芯片使 Project DIGITS 只需使用标准电源插座就能提供强大的性能。每台 Project DIGITS 均配备 128GB 统一相干内存和高达 4TB 的 NVMe 存储。借助超级计算机,开发人员可以运行多达2000亿参数的大型语言模型,为人工智能创新提供超级动力。此外,利用NVIDIA ConnectX®网络,两台Project DIGITS AI超级计算机可以连接起来,运行多达4050亿参数的模型。
格雷斯-布莱克韦尔人工智能超级计算机触手可及
利用Grace Blackwell架构,企业和研究人员可以在运行基于Linux的英伟达DGX操作系统的本地Project DIGITS系统上对模型进行原型设计、微调和测试,然后将其无缝部署到英伟达DGX Cloud™、加速云实例或数据中心基础架构上。
这样,开发人员就可以在Project DIGITS上建立人工智能原型,然后使用相同的Grace Blackwell架构和英伟达™ AI Enterprise软件平台在云或数据中心基础架构上进行扩展。
Project DIGITS用户可以访问大量的英伟达™(NVIDIA®)人工智能软件库,用于实验和原型开发,包括英伟达™(NVIDIA®)NGC目录和英伟达™(NVIDIA®)开发者门户网站上提供的软件开发工具包、协调工具、框架和模型。开发人员可以利用英伟达 NeMo™ 框架对模型进行微调,利用英伟达 RAPIDS™ 库加速数据科学,并运行 PyTorch、Python 和 Jupyter 笔记本等通用框架。
为了构建代理型人工智能应用,用户还可以利用NVIDIA Blueprints和NVIDIA NIM™微服务,通过NVIDIA开发者计划进行研究、开发和测试。当人工智能应用准备从实验环境转向生产环境时,英伟达™(NVIDIA®)人工智能企业许可证将提供企业级的安全性、支持以及英伟达™(NVIDIA®)人工智能软件的产品发布。
上市时间
Project DIGITS将于5月在英伟达™(NVIDIA®)和顶级合作伙伴处发售,起价3000美元。立即注册获取通知。
» Notebookcheck多媒体笔记本电脑Top 10排名
» Notebookcheck游戏笔记本电脑Top 10排名
» Notebookcheck低价办公/商务笔记本电脑Top 10排名
» Notebookcheck高端办公/商务笔记本电脑Top 10排名
» Notebookcheck工作站笔记本电脑Top 10排名
» Notebookcheck亚笔记本电脑Top 10排名
» Notebookcheck超级本产品Top 10排名
» Notebookcheck变形本产品Top 10排名
» Notebookcheck平板电脑Top 10排名
» Notebookcheck智能手机Top 10排名
» Notebookcheck评测过最出色的笔记本电脑屏幕
» Notebookcheck售价500欧元以下笔记本电脑Top 10排名
» Notebookcheck售价300欧元以下笔记本电脑Top 10排名