个人AI超级计算机 让AI超算触手可及
作者:微信文章在刚刚结束的2025年CES展会中,英伟达CEO黄仁勋的精彩亮相再次成为全球科技界的焦点。英伟达推出个人AI超级计算机Project DIGITS,预计5月上市,起售价3000美元。Project DIGITS提供了一个超强的AI计算工具,可以让普通用户在自己的电脑上完成。Project DIGITS采用全新的NVIDIA GB10 Grace Blackwell Superchip,能够提供1 PFLOP(每秒一千万亿次浮点运算)的AI计算性能。简单来说,它就像是给每个开发者配了一台袖珍的AI超级计算机!
Project DIGITS搭载GB10 Grace Blackwell超级芯片,集成Blackwell GPU与Grace CPU,具备1 Petaflop的AI计算能力,可处理2000亿参数模型,两台连接更能支持4050亿参数模型。它还配备128GB统一内存和最高4TB的NVMe存储,体积仅如Mac mini般大小。通过Project DIGITS,用户可以在自己的桌面系统上开发和运行推理模型,然后无缝地将这些模型部署到加速的云或数据中心基础设施上。
黄仁勋还表示:AI将成为每个行业、每个应用的主流。通过Project DIGITS,Grace Blackwell超级芯片将惠及数百万开发者。将一台AI超级计算机放在每个数据科学家、AI研究人员和学生的桌面上,赋能他们参与并塑造AI时代。
Project DIGITS 目标是让先进 AI 开发工具更易获取。这一产品将 AI 算力带到个人桌面,使研究人员、数据科学家和学生能在本地进行大型 AI 模型的原型设计、训练、微调与推理。对于英伟达而言,是一次个人计算领域的战略转型,或为其开拓新市场。从行业角度,它降低了 AI 开发门槛,有望推动 AI 技术进一步普及和创新,让更多人参与到 AI 浪潮中。
运算快数十倍。与传统 Mac 或 PC 相比,Project DIGITS 显然更适合深度学习、大数据分析以及生成式 AI 应用。Mac 或 PC 虽然在日常办公和轻度创意需求方面表现良好,但它们无法高效处理大规模 AI 模型的训练与推论。DIGITS 则提供超算级别的性能,专为复杂 AI 模型运算设计,能轻松应对企业在深度学习和数据分析方面的高要求。
在运算性能方面,DIGITS 比传统 PC 或 Mac 快数十倍。例如训练一个需要数天的大型语言模型,DIGITS 仅需几小时便能完成,极大缩短产品开发周期。此外这套平台具备极高的隐私保护能力,所有计算过程均可在内部完成,无需依赖云服务,从而解决连接延迟问题,并显著提高企业数据的隐私与安全性。
NVIDIA 的 Project DIGITS 能帮助企业大幅降低成本。目前许多企业依赖云端 AI 服务,例如 OpenAI 或 Google 的 API,而这些服务通常以使用查询次数或 Token 形式计费,成本会随频繁使用而迅速上升。相较之下DIGITS采用一次性硬件投资模式,使用寿命长,能显著降低长期运算开支。DIGITS 将所有运算过程集中在内部完成,减少对云端的依赖,不仅提高了私隐保护,还能避免因网络问题而影响生产力。这款设备的小巧设计,让中小企业能轻松将超算级运算力部署到日常办公环境中,无需专门的服务器房或冷却设备,同时它提供串联运算,日后对运算力升级极具弹性。
Project DIGITS用户可以访问广泛的Nvidia AI软件库。用于实验和原型设计,其中包括Nvidia NGC目录和Nvidia开发者门户中提供的软件开发工具包、编排工具、框架和预训练模型。开发者可以使用Nvidia NeMo框架对模型进行调优,利用Nvidia Rapids库加速数据科学工作流,并运行如PyTorch、Python和Jupyter notebooks等常用框架。
借助Grace Blackwell架构,企业和研究人员可以在本地的Project DIGITS系统上,使用基于Linux的Nvidia DGX操作系统进行模型的原型设计、微调和测试。完成开发后,用户可以无缝地将模型部署到Nvidia DGX Cloud、加速的云实例或数据中心基础设施中。这使得开发者可以在Project DIGITS上进行AI原型设计,并轻松地将其扩展到云端或数据中心基础设施。整个过程都基于相同的Grace Blackwell架构和Nvidia AI Enterprise软件平台。
Project Digits所搭载的GB10 Grace Blackwell超级芯片,可提供高达1petaflop高能效AI性能。这款芯片是由英伟达与Arm构架系统芯片设计的市场领导者联发科联合设计,配备了英伟达最新一代CUDA核心和第五代Tensor核心,并通过NVLink-C2C芯片间互连到高能效的NVIDIA Grace CPU。该Grace CPU包括20个基于Arm架构建构的高能源效率核心,这是由英伟达与Arm构架系统芯片设计的市场领导者联发科联合设计,提供了GB10芯片的一流的性能、能效和连接性。
本次 CES 展会发布的技术和产品也带动了英伟达的股价再创新高。根据最新数据,英伟达股价在黄仁勋登场之前上涨超过3%,收盘价为149.43美元,市值达到3.66万亿美元,成为仅次于苹果的全球第二大上市公司。这一成绩反映了英伟达在全球 AI 、半导体和高性能计算领域的深远影响力。无论是 GPU 技术的持续创新,还是 AI 超级计算机的普及,亦或是基础模型平台的开源,英伟达都在不断推动行业发展,打破传统计算的局限,开启了新一代智能化时代的序幕。
页:
[1]