英伟达研发神秘AI推理芯片,下月或正式发布
创始人
2026-03-02 22:43:18
0

据《华尔街日报》周五晚间报道,英伟达公司正在开发一款专用推理处理器,该处理器将被OpenAI等人工智能公司用于开发更快速、更高效的模型。

这款新的推理平台预计将在本月晚些时候于圣何塞举行的英伟达年度GTC开发者大会上发布,并将整合该公司去年12月从芯片初创公司Groq收购的技术。

推理是指在生产环境中运行已训练AI模型的过程,已成为AI行业的关键关注领域。英伟达的竞争对手如谷歌和亚马逊云服务都开发了专门的推理芯片来与其图形处理器竞争,同时还面临来自Cerebras Systems和SambaNova Systems等专业推理芯片初创公司的竞争。

据报道,OpenAI已获得英伟达新推理芯片的早期使用权,并将成为最早的采用者之一,这对这家芯片制造商来说是一个重大胜利。尽管OpenAI一直在寻找比英伟达GPU更高效的替代方案以实现计算堆栈的多样化,但上周它从这家全球顶级芯片制造商获得了300亿美元的资金支持,重申了对该公司的承诺。

英伟达是全球最主要的GPU制造商,GPU是能够同时执行数十亿项任务的专用处理器。但尽管该公司继续坚持认为GPU在训练和推理方面都很有用,其GPU在为AI应用提供动力方面已不再被认为是最高效的选择。许多公司发现英伟达的芯片耗能过高,使得它们在智能体等应用中成本极其昂贵,这些智能体需要代表人类用户自主执行任务并需要巨大的计算能力。

这就是为什么OpenAI上个月与Cerebras签署了价值数十亿美元的合同,以获得其餐盘大小的推理专用芯片。Cerebras声称其芯片在推理任务方面比英伟达的GPU快得多。

据报道,英伟达的推理芯片将整合Groq开发的技术。英伟达在去年12月以200亿美元的价格非独家许可了Groq的技术,作为交易的一部分,还聘请了其创始首席执行官Jonathan Ross和总裁Sunny Madra。这被称为硅谷历史上最大的"收购招聘"之一。

Groq的推理芯片被称为"语言处理单元",它们基于全新的架构,能够以更低的能耗执行推理。然而,英伟达尚未透露如何计划使用这家初创公司的技术。

据报道,OpenAI希望使用英伟达的新推理芯片来为其Codex编程工具提供动力,该工具是Anthropic公司Claude Code的竞争对手。编程应用已成为生成式AI最强大和最有利可图的用例之一,这是OpenAI仅次于市场领导者Claude Code的领域。

英伟达还在推广其中央处理器作为运行推理工作负载的另一种选择。传统上,大多数公司将其GPU与CPU配对使用,利用两种芯片协同工作来补偿彼此的低效率。

但英伟达表示,一些智能体AI工作负载实际上可以在其最先进的Grace CPU上单独运行得更高效。上个月,Meta平台公司成为首家承诺进行首次大规模纯CPU部署的公司,以支持其广告定向智能体在生产环境中的运行。

Q&A

Q1:英伟达为什么要开发专门的推理芯片?

A:因为虽然英伟达的GPU在AI训练方面表现出色,但在推理任务中已不再是最高效的选择。许多公司发现英伟达的芯片耗能过高,在智能体等需要巨大计算能力的应用中成本极其昂贵,因此市场需要更节能的推理专用处理器。

Q2:英伟达的新推理芯片会整合哪些技术?

A:新推理芯片将整合英伟达去年12月从芯片初创公司Groq收购的技术。Groq的推理芯片被称为"语言处理单元",基于全新架构,能够以更低的能耗执行推理任务,比传统GPU更加高效节能。

Q3:OpenAI会如何使用英伟达的新推理芯片?

A:据报道,OpenAI已获得英伟达新推理芯片的早期使用权,计划用它来为Codex编程工具提供动力。Codex是OpenAI开发的编程助手工具,与Anthropic公司的Claude Code竞争,编程应用已成为生成式AI最有利可图的用例之一。

相关内容

热门资讯

不做参数追随者!中诚华隆HL2... 快科技8月22日消息,中诚华隆8月21日在北京举办2026 GPU新品发布会,正式推出全新HL200...
营收高增、规模持续扩张,费用及... 深圳商报·读创客户端记者 穆砚 8月21日晚间,维峰电子股份有限公司(以下简称“维峰电子”或“公司”...
原创 手... 一到夏天,手机充电发烫就成了很多人的糟心事。刚插上充电器没十分钟,后盖就热得手心发潮,要是赶上边充边...
原创 宁... 长沙晚报掌上长沙8月22日讯(全媒体记者 张禹 通讯员 阳志斌)近日,记者走进宁乡市流沙河镇大田方村...
优邦科技创业板过会:二十载“深... 2026年8月21日,深交所上市审核委员会第53次审议会议结果揭晓:东莞优邦材料科技股份有限公司(简...
HMD移动电源PowerBan... IT之家 8 月 22 日消息,消息源 smashx_60 现已曝光了 HMD 旗下 Power B...
从 300KVA 到 1600... 从 300KVA 到 1600KVA:卓尔凡稳压器在坦桑尼亚多个矿山项目的应用 坦桑尼亚矿产资源丰富...
英伟达否认年底前推出中国特供A... IT之家 8 月 22 日消息,The Information 昨日报道称英伟达计划在年底前向中国客...
上海临港启动集成电路产业共性技... 近日,上海集成电路技术与产业促进中心、司南半导体超级孵化器、海洋高新集成电路孵化器、上海临港新工科产...
天奥电子(002935)6月3... 证券之星消息,近日天奥电子披露,截至2026年6月30日公司股东户数为2.96万户,较3月31日减少...