蚂蚁集团隐私擦除相关专利获授权 蚂蚁集团新专利可删除大模型中的隐私数据观点
观察君
2024-12-09 12:39
导读
近日,蚂蚁科技集团股份有限公司申请的“隐私擦除模型的训练方法、隐私擦除方法及装置”专利获授权。
天眼查知识产权信息显示,近日,蚂蚁科技集团股份有限公司申请的“隐私擦除模型的训练方法、隐私擦除方法及装置”专利获授权。
摘要显示,该专利将大模型分别在原始训练数据和原始训练数据的脱敏数据上进行训练,并记录同一个大模型在原始训练数据上的权重和脱敏数据上的权重,从而形成新的擦除数据训练集。利用该擦除数据训练集即可训练一个隐私擦除模型,来擦除大模型中与隐私数据相关的权重数据。该方法通过训练隐私擦除模型来直接修改大模型的参数,从根本上删除大模型记忆中的隐私数据,具有极高的安全性。该方法也不需要对大模型进行重新训练,大大降低了大模型的优化成本。本说明书实施例所述的隐私擦除模型的训练装置、隐私擦除方法及装置同样具有上述效果。


蚂蚁集团
1.TMT观察网遵循行业规范,任何转载的稿件都会明确标注作者和来源;
2.TMT观察网的原创文章,请转载时务必注明文章作者和"来源:TMT观察网",不尊重原创的行为TMT观察网或将追究责任;
3.作者投稿可能会经TMT观察网编辑修改或补充。
