国家知识产权局信息显示,微软技术许可有限责任公司申请一项名为“用于减少经训练的序列模型的存储器消耗的请求分段”的专利,公开号CN121666578A,申请日期为2024年8月。
专利摘要显示,公开的方法减少了经训练的序列模型的存储器消耗。方法包括从客户端应用接收初始处理请求,初始处理请求标识要由经训练的序列模型处理的输入序列以及针对输出大小参数的指定来自经训练的序列模型的请求的输出大小的初始值。方法还包括基于初始处理请求,向经训练的序列模型顺序地发送多个部分处理请求,每个部分处理请求指定初始值的部分作为输出大小参数,并且从经训练的序列模型接收输出响应序列,输出响应序列是响应于处理多个部分处理请求而被生成的。方法还提供向客户端应用返回最终合并响应,最终合并响应包括输出响应序列。
声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。
来源:市场资讯