阿里云:真武芯片超节点已成功适配Qwen3.8
创始人
2026-07-24 03:33:36
0

7月23日消息,阿里真武M890超节点已成功适配Qwen3.8,并上线阿里云百炼平台提供模型推理服务,这是国内首个成功运行超2万亿参数大模型的超节点。

Qwen3.8是阿里最新旗舰模型,参数规模高达2.4万亿,跑通这一规模的模型需要将参数分散到几十张甚至上百张高速互联的GPU卡,让万亿参数“跑得又稳又快”。然而,普通AI集群因通信带宽的局限,无法满足高吞吐、低延迟、高并发的需求。

真武M890是平头哥新一代训推一体AI芯片,原生支持FP32到FP4等多种数据精度,可应用于高精度训练、低精度和超低精度推理的全场景。真武超节点实例通过ICN Switch 1.0互联芯片,让64张真武M890实现了800GB/s的高速互联,显存规模达到9TB,单实例即可支撑大规模2万亿参数MoE模型的专家并行需求。

此外,阿里还从芯片到云平台层面实现了与Qwen模型的全链路优化,不仅可以丝滑跑通Qwen3.8,还能显著提升推理效率、降低推理成本。实测数据显示,通过算子优化和软硬件架构协同,该超节点实例在Agentic推理场景中最多可实现1.5倍的推理性能提升。

相关内容

热门资讯

低压MOS封装怎么匹配功率场景... 近期有跟同行朋友在一起交流,发现不少朋友前期为了PCB小型化,盲目选用超微型SOT-23低压MOS,...
A股半导体板块集体下挫 华虹宏... 观点网讯:7月23日,A股市场半导体股集体下跌,华虹宏力跌9%,中芯国际跌超4%,此外拓荆科技、甬矽...
鸿合科技布局半导体,拟投资6亿... 多知7月23日消息,近日,鸿合科技发布公告称,拟以自有资金6亿元设立全资子公司鸿合半导体有限公司(暂...
天域半导体(02658.HK)... 证券之星消息,截至2026年7月23日收盘,天域半导体(02658.HK)报收于41.66港元,上涨...
半导体股反弹现分歧 多空机构观... 观点网讯:近日,投资者对半导体股反弹行情的持续性存在明显分歧。 VanEck半导体ETF(SMH)本...
半导体、芯片板块延续回调,半导... 今日半导体、芯片板块延续回调,截至收盘,上证科创板芯片设计主题指数下跌3.7%,中证半导体材料设备主...
康平科技:凌臣采集深耕智能装备... 有投资者在互动平台向康平科技提问:“凌臣公众号提到,公司正全面布局光通信等新兴行业,已切入光模块设备...
刚刚,暴跌超17%!半导体巨头... 欧洲芯片制造商股价大跌! 当地时间周四(7月23日),在欧洲证券市场上,意法半导体(STMicroe...
华安基金的科创芯片ETF华安(... 7月23日,科创芯片ETF华安(588290)报收3.675元,收跌4.05%,成交金额3.4亿元。...
原创 泰... 中国企业掀起新一轮赴泰投资潮,700亿泰铢落地背后,泰国想复制40年前的制造业奇迹 一场持续五天的...