中国移动云发布异构混合推理系统:类脑芯片+国产GPU
创始人
2026-09-13 16:01:26
0

快科技9月13日消息,2026中国算力大会在河北廊坊举办。在大会“算力首创首发”专场上,国内首个国产GPU+类脑芯片大模型异构混合推理系统正式发布。

该系统由移动云(中移苏州软件技术有限公司)联合中国电子科技南湖研究院、北京灵汐科技、上海天数智芯、清华大学、北京大学共同研发,目标是让国产芯片高效支撑大模型推理。

其技术思路是将大模型拆解分工。团队对Transformer结构做PD/AF分离:Prefill预处理阶段与Attention注意力计算交给国产GPU,FFN模块交给类脑芯片。类脑芯片的存算一体和片上大容量SRAM架构,正好承接对带宽敏感的部分。

研发团队同时自研了模型编译器、高速互联协议和统一推理引擎,实现两类算力的任务拆解、协同调度与结果聚合。这套方案对标英伟达下一代Vera Rubin with Groq异构推理架构。

实测数据落在硬件配置上:3台天数智芯GPU服务器搭配3台类脑机柜,运行DeepSeek V4 Flash模型,相较同等投入规模的纯GPU集群,推理输出和推理能效均提升1倍以上,业务运营成本下降40%以上。

项目累计形成15项授权发明专利、6项软件著作权,覆盖异构调度、类脑芯片架构、编译工具链等环节,目前已进入小批量试产阶段。

该方案面向Token工厂、AI代码生成、多智能体协同等场景,也可用于金融、安防、通信等安全敏感行业。

相关内容

热门资讯

中原内配招标结果:河南恒久制动... 证券之星消息,根据天眼查APP-财产线索数据整理,中原内配集团股份有限公司9月11日发布《河南恒久制...
深圳能源招标结果:关于JNDL... 证券之星消息,根据天眼查APP-财产线索数据整理,深圳能源集团股份有限公司9月10日发布《关于JND...
月球半导体工厂:日本 2040... 摘要 2026年9月10日,Rapidus社长小池淳义在哈德逊研究所宣布设想2040年前后在月球建半...
中国移动云发布异构混合推理系统... 快科技9月13日消息,2026中国算力大会在河北廊坊举办。在大会“算力首创首发”专场上,国内首个国产...
低空测试“升维”:ZUS系列示... 低空经济爆发,无人机测试面临动态捕捉难、同步性差等挑战。致远仪器ZUS系列示波器凭12-bit高精时...
和辉光电招标结果:上海大区-上... 证券之星消息,根据天眼查APP-财产线索数据整理,上海和辉光电股份有限公司9月11日发布《上海大区-...
新大正中标:贵州电子科技职业学... 证券之星消息,根据天眼查APP-财产线索数据整理,根据贵州电子科技职业学院9月10日发布的《贵州电子...
成都银行招标结果:成都银行电子... 证券之星消息,根据天眼查APP-财产线索数据整理,成都银行股份有限公司9月10日发布《成都银行电子银...
电子布进入超级周期:全球AI巨... 9月初,国内电子布龙头中国巨石(600176.SH)再次上调电子布价格,厚布涨15%、薄布涨20%。...
“中关村百校联盟”2026-2... 上证报中国证券网讯(记者 窦世平)9月12日,由海淀区人力资源和社会保障局与海淀区人才工作局主办的“...