loading...
发表时间: 2025-01-20 11:39:42
少年时,曾研习 Geographic Information System,可惜学无所成,侥幸毕业。成年后,误打误撞进入传媒圈子,先后在印刷、电子、网络媒体打滚,略有小成。中年后,修毕信息科技硕士,眼界渐扩,决意投身初创企业,窥探不同科技领域。近年,积极钻研数据分析与数码策略,又涉足 Location Intelligence 开发项目;有时还会抽空执教鞭,既可向他人分享所学,亦可鞭策自己保持终身学习。
如要研发类似OpenAI GPT的大型语言模型,一是你的公司内部已架设大型计算机丛集,内置逾万颗AI芯片执行平行运算,一是租用昂贵的AI云端平台进行远距运算,所以开发门槛极高。但NVIDIA Project Digits的诞生,却可以完全扭转此局面——这是一部定价只需3,000美元的AI超级计算机,其运算力足以运行基础的大型语言模型,让资金有限的AI研究员和学生都可以投入AI研发。究竟Project Digits的效能有多强?对未来AI、甚至计算机市场会带来什么冲击呢?
GPU+CPU的AI超级芯片GB10
在全球最大消费电子展CES 2025的主题演讲上,英伟达(NVIDIA)执行长黄仁勋除发表了上期提及的世界基础模型Cosmos外,还展示了机身小如Mac mini般的个人AI超级计算机Project Digits,定价更低至3,000美元(约23,400港元)。黄氏豪言:“每位数据科学家、AI研究人员和学生的桌上都可以放置一部AI超级计算机,让他们一起参与并塑造AI时代。”
它的核心是GPU与CPU高效结合的GB10 Grace Blackwell超级芯片:Blackwell GPU内建CUDA核心与第五代Tensor核心,能够加速AI运算;Grace CPU则坐拥20个高效能Arm核心,跟GPU协同运作,提供每秒高达100兆次的运算力。两者透过NVIDIA的独门技术NVLink-C2C连接起来,实现芯片间的高速互联。
黄仁勋用3根手指捏着GB10超级芯片,扬言这是NVIDIA制造过最小Blackwell架构芯片。(图片来源:翻摄NVIDIA官方YouTube影片)
运算力可支撑旧版ChatGPT运算
每部Project Digits均配备128GB的统一存储器,可让CPU与GPU共享存储器,提升处理速度;又拥有4TB的NVMe快闪储存空间,能够加快数据读写速度,优化模型训练与执行效率。因此,其整体运算力足以支撑规模达2,000亿参数的模型训练与推论(按:2022年底发表的ChatGPT,其GPT-3.5模型的参数量为1,750亿)。若要开发更大规模的模型,用户可以通过ConnectX网络把两部Project Digits串联起来,运行高达4,050亿参数的模型。
Project Digits采用Linux核心的《NVIDIA DGX》作业系统,并预载《NVIDIA AI Enterprise》软件平台,既支援主流的AI开发技术框架如PyTorch或Python,又整合了NVIDIA NeMo框架和RAPIDS数据科学库。这使得在Project Digits上创建的AI模型原型,能够无缝部署到NVIDIA自家的DGX Cloud、或其他采用Grace Blackwell架构的云端平台或数据中心上。
黄仁勋在CES 2025主题演讲上,一边单手捧着小巧的Project Digits,一边说道它可以让全球每位数据科学家、AI研究人员和学生,都能拥有自己的AI超级计算机,共同塑造AI时代。(图片来源:翻摄NVIDIA官方YouTube影片)
适合部署到中小企业或大专院校
作为一款定位为“个人计算机”的AI运算设备,Project Digits只需普通电源插座即可运作,摆脱以往超级计算机高耗能的限制,故此可以部署到一般的中小企业或大专院校,让这些资源受限的机构可以避免长期依赖AI云端服务所带来的财务压力、以及可能产生的私隐问题。
事实上,NVIDIA已将学生和教育机构锁定为Project Digits的目标市场之一。这不仅有助于其扩展产品生态圈,还能通过支持下一代AI人才的培养来稳固其市场领导地位。NVIDIA表示,Project Digits将于2025年5月透过合作伙伴发售。
可能为进军桌面CPU市场铺路
Project Digits的发布,也被市场解读为NVIDIA可能进军桌面计算机CPU市场的布局讯号。GB10超级芯片中的CPU部分,是由英伟达合作伙伴联发科(MediaTek)所设计,不仅能满足AI运算需求,还可以透过Windows Sub System for Linux技术跟《Windows》作业系统无缝整合,具有执行桌面应用的潜力。
黄仁勋强调,所有NVIDIA的AI开发软件都能在Project Digits上运行,这是一个可以摆放在办公桌上的云端运算平台。(图片来源:翻摄NVIDIA官方YouTube影片)
华尔街咨询机构Melius Research分析师本·赖茨(Ben Reitzes)指出,Project Digits可能是NVIDIA进军PC处理器市场的第一步:未来Windows PC内的CPU与GPU,或许都可以由英伟达一手包办。
其实,自2023年10月以来,有传言指NVIDIA对市场规模达500亿美元(约3,900亿港元)的PC处理器市场非常感兴趣。内含Arm CPU的Project Digits面世后,更增加了传言的可信性。被华尔街分析师问到有关传闻时,黄仁勋回应道:“显然我们有多项计划(obviously we have plans)”,具体内容将会在未来公布。
英伟达推CPU对x86阵营构成威胁
黄仁勋强调,联发科都有自己的野心,除向NVIDIA供应CPU外,还可能会独立推出自家的CPU,这是一个双赢的合作局面。现场市场上适用于Windows PC的Arm CPU,唯有高通(Qualcomm)旗下的Snapdragon X系列,假如日后NVIDIA推出面向消费者市场的Grace CPU,再加上联发科自推的CPU,WOA(Windows on Arm)阵营势必变得更加壮大,给AMD与Intel的x86架构造成极大压力。由此看来,2025年将会是Arm与x86两大架构竞争的关键时刻。
NVIDIA Project Digits不仅是一款革命性的个人AI超级计算机,还可能成为其进军桌面处理器市场的重要试金石。假如NVIDIA能成功利用Project Digits的技术优势,将其延伸至桌面CPU和消费级市场,则其市场份额和影响力将进一步扩大。这将是AI运算与桌面运算市场的一次重要融合,也将为未来数码时代的技术发展奠定新基准。
《经济通》所刊的署名及/或不署名文章,相关内容属作者个人意见,并不代表《经济通》立场,《经济通》所扮演的角色是提供一个自由言论平台。
(点击用户名可以查看该用户所有评论) 只看作者评论 查看全部评论:↑顺序 ↓倒序 |