随着OpenAI及其他科技巨头纷纷推出自研芯片,分析师们开始认为,英伟达在先进AI芯片领域的近乎垄断地位正面临“威胁”。
周二(8月25日),OpenAI公布了公司首款定制推理芯片Jalapeno的技术细节,宣称该芯片的响应速度和能效表现已超越了英伟达的GB300。当下,谷歌、亚马逊、Meta等也都在开发自己的AI芯片。
Yole Group技术分析师Adrien Sanchez表示,Jalapeno是一款专为推理设计的芯片,这表明“超大规模云服务商(hyperscaler)设计的芯片已经能够在推理能效方面媲美甚至超过英伟达Blackwell级GPU”。
Sanchez称,尽管英伟达目前仍掌握着“绝大多数”AI算力市场,并凭借CUDA软件平台形成了强大的生态锁定,但OpenAI的新芯片“对英伟达的推理业务利润率构成了威胁,而推理恰恰是目前增长最快的领域”。
Jalapeno由OpenAI与博通共同开发。今年6月时,OpenAI首次公布了该芯片,称将“从零开始针对整个行业当前及未来的大型语言模型(LLM)进行设计”。OpenAI最新预计,Jalapeno将在年底前部署到OpenAI的算力基础设施中。
OpenAI一直是英伟达GPU的重要大客户,大量采购英伟达芯片来训练和运行大型AI模型。如今拥有自己的芯片,可能会改变双方的合作关系。
Omdia高级首席分析师Alexander Harrowell评论称,Jalapeno是一个“令人印象深刻的成果,尤其是在能效方面”。在大规模部署情况下,这款芯片将节省电力和冷却成本,降低配电基础设施的需求,并显著改善单位经济效益。
TrendForce分析师Fion Chiu称,OpenAI的定制芯片可能会逐步降低公司在推理任务上对英伟达的依赖。
不过,Chiu仍认为,“鉴于英伟达GPU具备广泛的可编程性、强大的性能、成熟的软件生态,以及处理各种工作负载的能力,英伟达GPU仍将发挥重要作用”。
研究机构SemiAnalysis表示,其团队曾访问OpenAI实验室,并对Jalapeno进行了基准测试。结果显示,在几乎所有测试场景中,Jalapeno的每瓦性能都超过了英伟达Blackwell。
不过,SemiAnalysis也指出,这一比较“存在一定程度的不完整和不公平”,因为Jalapeno采用了更新一代的HBM4内存,因此更适合与英伟达的Rubin平台进行同类比较。
SemiAnalysis文章还指出:“Vera Rubin系统目前已经开始向客户出货,而OpenAI还需要一段时间才能让Jalapeno从工程样品阶段走向更成熟的产品。”
近几年,谷歌推出了用于AI训练和推理的新芯片,并将其称为张量处理器(TPU)。Meta也表示,已同意采用基于博通技术的定制AI芯片。
Anthropic则表示,未来10年将承诺向AWS技术投入超过1000亿美元,其中包括亚马逊自研AI芯片Trainium的现有及未来版本。
Omdia分析师Harrowell表示,预计到2028年,这类定制ASIC芯片的出货量将超过GPU。不过,由于GPU价格明显更高,ASIC在营收规模上超过GPU还需要更长时间。
“这是英伟达面临的最大竞争威胁,因为AI基础设施资本支出中约有一半来自超大规模云服务商,而这些公司要么已经拥有自研芯片项目,要么完全有能力新建这样的项目。”
此外,Cerebras、SambaNova、D-Matrix、Etched、Fractile等初创公司也在开发AI芯片。
(文章来源:财联社)