AI市场迈向异构计算时代
随着AI任务逐渐细分,市场正从依赖NVIDIA GPU的单一模式转向根据任务性质选择不同芯片的“异构计算”时代。
随着AI任务向推理端分化,市场正从依赖单一NVIDIA GPU转向根据任务性质选择芯片的“异构计算”时代。谷歌通过其TPU扩大云市场影响力,而韩国NPU企业Rebellions则选择与NVIDIA签署合作协议,试图在维持CUDA生态的同时通过R200芯片实现高效运算。
曾作为人工智能(AI)运算核心的NVIDIA GPU(图形处理器)的独霸地位正出现裂痕。随着AI执行的任务日益细分,市场正呈现出从依靠单一GPU处理所有运算,向根据任务性质选择合适芯片的“异构计算(Heterogeneous Computing)”时代转型的态势。
根据T Times TV的分析,微软(MS)近期决定逐步终止与甲骨文的服务器租赁合同,理由是甲骨文提供的NVIDIA GPU规格不符合其需求,这一举动象征性地展示了市场的变化。现在的客户不再仅仅是购买“NVIDIA芯片”,而是开始考量针对特定任务优化的规格。
AI运算分化:用“摩托车”代替“卡车”
这种变化的核心在于AI任务的分化。AI的角色分为构建模型的“训练”和由已构建模型输出答案的“推理”。如果说初期市场是构建巨型模型的训练之争,那么随着AI智能体的出现,推理运算的比重正变得与训练相当,甚至更高。
特别是推理阶段又可细分为理解问题的“预填充(Pre-fill)”阶段和生成答案的“解码(Decode)”阶段。在理解问题阶段,大规模计算能力至关重要;而在生成答案阶段,从内存中快速提取数据的速度则是关键。因此,AWS采取了分工协作的方式,在理解问题时使用自研芯片Trainium,而在生成答案时使用Cerebras芯片。这正如搬运货物时使用大型卡车,而紧急配送时则投入摩托车一样。
在此过程中,谷歌获益最大。谷歌正利用为自家服务开发的TPU(张量处理单元)扩大其在云市场的影响力。特别是随着甲骨文决定从2027年起在其云服务中搭载谷歌的TPU,外界评价称谷歌正从单纯的服务企业转型为强大的芯片供应商。
NPU初创企业的机遇与危机:面对“谷歌”这一巨墙
这一趋势对于设计神经网络处理单元(NPU)的初创企业来说是一把双刃剑。NPU如同“专业店厨师”,针对特定AI运算进行了优化,能以比GPU更低的功耗和更低廉的成本处理任务。虽然非GPU芯片在市场上获得认可是一个利好,但这些地位正被谷歌等科技巨头占据,这构成了巨大的危机。
最高的准入门槛在于软件生态系统。NVIDIA之所以能统治市场,根本原因在于其构建了近20年的软件平台“CUDA”。谷歌已经构建了足以对抗CUDA的“谷歌版CUDA”,并且最近扩展了生态系统,使开发者广泛使用的PyTorch模型无需大幅修改即可在TPU上运行。相比之下,NPU初创企业则面临着必须从零开始构建独立软件环境的负担。
因此,业界并未采取排挤NVIDIA的策略,而是选择了在GPU旁边执行特定角色的“分离式推理”策略。美国的Cerebras通过最大化内存容量,在答案生成速度上超越了NVIDIA并获取了客户;Groq则通过与NVIDIA签署技术许可协议,以搭载在NVIDIA系统中的方式进行合作。
Rebellions的“NVIDIA联盟” vs FuriosaAI的“开放阵营”
韩国代表性的NPU企业Rebellions与FuriosaAI在进军这一异构市场的方式上走出了截然不同的道路。
Rebellions选择了通过与NVIDIA阵营合作的“联盟策略”。近期与NVIDIA签署“NVLink Fusion”合作便是代表性案例。在这种结构中,NVIDIA系统的前端由GPU负责,后端则由Rebellions的R200芯片负责。其优势在于,客户可以在维持NVIDIA生态系统的同时享受Rebellions的高效性,从而无需正面突破CUDA的壁垒即可进入市场。不过,主导权掌握在NVIDIA手中仍是一个难题。
另一方面,FuriosaAI选择了与AMD联手的“开放阵营”。该策略是将AMD的硬件与开源软件生态系统“ROCm”相结合,以对抗NVIDIA的独霸。由于没有特定企业垄断主导权,可以自由展示芯片优势,但变量在于ROCm生态系统目前尚未能缩小与CUDA之间的差距。
目前,韩国6家主要NPU企业的2025年合计营收规模约为504亿韩元,与美国的Cerebras(约7,000亿韩元)相比差距依然巨大。韩国企业能否超越公共部门的供应,在沙特阿美或瑞典斯德哥尔摩的数据中心等海外市场取得实质性成果,将是未来的关键。
来源:原视频(YouTube)
0评论
当前已关闭评论功能。