Trainium3 UltraServers正式可用,由亚马逊云科技首款3nm AI芯片驱动
创始人
2025-12-04 16:07:56
0

(全球TMT2025年12月4日讯)亚马逊云科技在2025 re:Invent全球大会上,宣布Amazon EC2 Trainium3 UltraServers(Trn3 UltraServers)现已正式可用,由亚马逊云科技首款3nm AI芯片驱动,为不同规模的企业提供运行高强度AI训练与推理工作负载的能力,帮助客户更快更省地训练和部署AI模型。

与Trainium2 UltraServers相比,Trn3 UltraServers在AI场景中提供高性能,实现高达4.4倍的计算性能、4倍的能效提升以及近4倍的内存带宽,使AI开发速度更快、运营成本更低。Trn3 UltraServers可扩展至最多144颗Trainium3芯片,提供高达362 FP8 PFLOPs的性能,延迟降低4倍,可更快速训练更大规模的模型,并支持大规模推理场景。包括Anthropic、Karakuri、Metagenomics、Neto.ai、Ricoh与Splashmusic在内的客户已经通过Trainium将训练与推理成本降低至原来的50%。值得的一提的是,Amazon Bedrock也已在Trainium3上运行生产级工作负载。

亚马逊云科技已经着手研发下一代Trainium4,其设计目标是在各项性能指标上实现显著提升,包括至少6倍的FP4处理性能、3倍的FP8性能以及4倍的内存带宽,以支撑下一代前沿模型的训练与推理需求。Trainium4在FP8性能上的3倍提升是一次基础性飞跃,使AI模型的训练速度至少提升3倍,或处理至少3倍的推理请求,并可通过持续的软件增强与特定工作负载优化获得更多额外加速。为实现更强的扩展能力,Trainium4将支持NVIDIA NVLink Fusion高速芯片互连技术。

相关内容

热门资讯

嵌入式冰箱怎么选?荣事达599... 2026年新房装修,零嵌冰箱几乎成了标配。但“超薄”不等于“真平嵌”,嵌入式冰箱到底该怎么选? 选购...
丰鹏电子取得嵌入式埋芯电路板输... 国家知识产权局信息显示,丰鹏电子(珠海)有限公司取得一项名为“一种嵌入式埋芯电路板输送装置及其电路板...
时代电气招标结果:电源变压器 ... 证券之星消息,根据天眼查APP-财产线索数据整理,株洲中车时代电气股份有限公司8月2日发布《电源变压...
中电科瑞志电源取得具有机载整流... 国家知识产权局信息显示,中电科瑞志电源技术(西安)有限公司取得一项名为“一种具有机载整流校正模块的电...
昆宇电源申请储能汇流柜底部电缆... 国家知识产权局信息显示,深圳昆宇电源科技有限公司、昆宇电源股份有限公司申请一项名为“一种储能汇流柜的...
无锡展硕申请双电源协同控制复合... 国家知识产权局信息显示,无锡展硕科技有限公司申请一项名为“一种双电源协同控制的复合磁控溅射平台”的专...
安徽中能电源申请电池包电芯焊接... 国家知识产权局信息显示,安徽中能电源有限公司申请一项名为“一种电池包加工用电芯焊接固定装置及其焊接方...
特品电源取得多用途智能电源适配... 国家知识产权局信息显示,东莞市特品电源技术有限公司取得一项名为“一种多用途智能电源适配器”的专利,授...
士兰微获得实用新型专利授权:“... 证券之星消息,根据天眼查APP数据显示士兰微(600460)新获得一项实用新型专利授权,专利名为“开...