阿里云:真武芯片超节点已成功适配Qwen3.8
创始人
2026-07-24 03:33:36
0次

7月23日消息,阿里真武M890超节点已成功适配Qwen3.8,并上线阿里云百炼平台提供模型推理服务,这是国内首个成功运行超2万亿参数大模型的超节点。

Qwen3.8是阿里最新旗舰模型,参数规模高达2.4万亿,跑通这一规模的模型需要将参数分散到几十张甚至上百张高速互联的GPU卡,让万亿参数“跑得又稳又快”。然而,普通AI集群因通信带宽的局限,无法满足高吞吐、低延迟、高并发的需求。

真武M890是平头哥新一代训推一体AI芯片,原生支持FP32到FP4等多种数据精度,可应用于高精度训练、低精度和超低精度推理的全场景。真武超节点实例通过ICN Switch 1.0互联芯片,让64张真武M890实现了800GB/s的高速互联,显存规模达到9TB,单实例即可支撑大规模2万亿参数MoE模型的专家并行需求。

此外,阿里还从芯片到云平台层面实现了与Qwen模型的全链路优化,不仅可以丝滑跑通Qwen3.8,还能显著提升推理效率、降低推理成本。实测数据显示,通过算子优化和软硬件架构协同,该超节点实例在Agentic推理场景中最多可实现1.5倍的推理性能提升。

相关内容

热门资讯

微科电源取得基于供电前馈与电子... 国家知识产权局信息显示,深圳市微科电源系统有限公司取得一项名为“一种基于供电前馈与电子阻尼的开关驱动...
股市必读:华虹宏力新发布《华虹... 截至2026年9月11日收盘,华虹宏力(688347)报收于219.07元,下跌2.25%,换手率3...
扬州鼎锋旗下基金完成备案,投资... 近日,扬州鼎锋引领股权投资合伙企业(有限合伙)完成中国证券投资基金业协会备案,正式进入投资运作阶段。...
深夜,全线跳水!AI芯片,重大... 芯片股集体杀跌! 北京时间13日晚间,芯片股在暗盘交易中集体大跳水,SK海力士跌超4%,英特尔跌近4...
股市必读:深南电路新发布《北京... 截至2026年9月11日收盘,深南电路(002916)报收于396.68元,上涨1.11%,换手率1...
股市必读:中瓷电子(00303... 截至2026年9月11日收盘,中瓷电子(003031)报收于118.06元,下跌1.71%,换手率2...
Anthropic对人工智能的... 9月13日,市场观察人士指出,人工智能高管们呼吁放缓技术发展的言论,短期内可能会对芯片制造商及供应链...
并入光洋股份版图:PCB利基龙... 恰逢近期光洋股份(002708.SZ)完成对常熟东南相互电子有限公司100%股权收购的工商变更登记,...
两大PCB牛股澄清:传闻不实 9月13日晚,两只PCB(印制电路板)大牛股金安国纪、超声电子发布股票交易异常波动公告称,未向英伟达...
《星星说》下周引言(9.14—... 作者:王祯的幻世界 下周引言: 上周我们说要注意情感关系的稳定性,放下猜忌,打开心扉好好沟通,尽量...