华为公司申请数据处理专利,可降低模型微调的成本
金融界2023年12月22日消息,据国家知识产权局公告,华为技术有限公司申请一项名为“一种数据处理方法及其装置”,公开号CN117273074A,申请日期为2023年4月。
专利摘要显示,一种数据处理方法,应用于人工智能领域,包括:获取待处理数据;根据神经网络模型,处理待处理数据,得到处理结果;其中,神经网络模型包括线性变换层以及线性变换层对应的加权因子,在处理待处理数据时,神经网络模型用于将线性变换层的输出和对应的加权因子进行融合;根据处理结果,确定损失,并根据损失更新神经网络模型中的加权因子,以得到微调后的神经网络模型。
通过上述方式,在进行神经网络模型的微调时,在线性变换层之后增加可更新的加权因子,在保证微调模型精度的情况下,可以降低其他被更新的模型参数的数量,进而降低模型微调的成本。
本文源自:金融界
作者:情报员
相关推荐
- 免责声明
- 本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。
热门文章
