华为AI模型运行专利公布观点
观察君
2025-09-05 15:36
导读
天眼查App显示,9月5日,华为技术有限公司申请的“AI模型的运行方法、装置、程序产品和存储介质”专利公布。
天眼查App显示,9月5日,华为技术有限公司申请的“AI模型的运行方法、装置、程序产品和存储介质”专利公布。
摘要显示,本公开属于机器学习技术领域。该方法应用于主机,主机包括处理器,并连接计算卡,该方法包括:处理器确定AI模型相邻的两组输入数据中在第二数据组中但不在第一数据组中的第一数据,第二数据组在第一数据组之后训练,将第一数据对应的第一嵌入向量预取至处理器的第一内存,并确定第一数据对应的第一嵌入向量信息,在第二数据组在计算卡上处理过程中,根据第一嵌入向量信息将第一嵌入向量从第一内存预取至计算卡的第二内存。采用本公开所示的方案,能够减少嵌入向量搬运带来的处理延时。


华为
1.TMT观察网遵循行业规范,任何转载的稿件都会明确标注作者和来源;
2.TMT观察网的原创文章,请转载时务必注明文章作者和"来源:TMT观察网",不尊重原创的行为TMT观察网或将追究责任;
3.作者投稿可能会经TMT观察网编辑修改或补充。
