OpenAI自研人工智能晶片取得新进展,公司表示,最新Jalapeno处理器在测试中于能源效率和响应速度两项指标领先英伟达(Nvidia)现有的GB300。OpenAI晶片负责人Richard Ho接受访问时透露,公司计划在今年稍后开始使用这款晶片运行旗下AI模型。

测试结果显示,Jalapeno每单位电力能够处理更多AI工作,同时也能更快返回答案。相比之下,GB300目前仍是相关公开基准测试平台上的领先晶片。不过,Jalapeno并未与英伟达刚开始出货的新一代Vera Rubin进行比较,而且该晶片主要针对AI推理(inference),并非用于训练AI模型。

OpenAI希望通过扩大Jalapeno的部署规模,降低数据中心的运营成本。该晶片的运行功耗为700瓦,较低的能源需求有助于减少数据中心最主要的开支之一——电力成本。Ho表示,如果公司能够提高Jalapeno的产量,并实现预期的成本优势,未来将让更多AI任务转由自研晶片处理。

Jalapeno由OpenAI与博通(Broadcom)合作开发,重点在于同时兼顾高吞吐量与低延迟表现,让系统能够以较低成本服务更多用户,同时缩短AI回应时间。OpenAI目前也会使用Cerebras等供应商的晶片,不过Ho指出,Jalapeno能够处理更大型的AI模型,因此在不同工作负载下可发挥优势,但短期内不会取代外部供应商,因为公司对计算资源的需求仍非常庞大。

OpenAI目前已经推进第二代晶片,并预计未来几个月完成设计定稿,第三代晶片也开始进入规划阶段。公司公开测试Jalapeno时,除了使用自身较小型的开源模型,也加入DeepSeek及Moonshot AI的模型,其中在Moonshot的Kimi模型上展现更明显优势。OpenAI强调,这只是降低全球AI基础设施成本的第一步,同时仍会继续大量采用英伟达晶片。

😀
0
😍
0
😢
0
😡
0
😮
0
🤔
0
上一则新闻尼泊尔突发洪灾 2大马消拯官员赴珠峰途中失联
下一侧新闻商界3人涉贪828上庭 最高涉案金额达1亿3000万