专利名称:基于混合精度的深度学习模型训练方法、装置及系
统
专利类型:发明专利
发明人:裴建国,侯金龙,刘伟,黄俊洲申请号:CN201910313866.0申请日:20190418公开号:CN110163368A公开日:20190823
摘要:本发明公开了一种基于混合精度的深度学习模型训练方法、装置及系统,该方法包括:基于上次训练得到的深度学习模型对样本数据集中的样本数据进行数据处理,获得数据精度为第一数据精度的设定数量个第一权重梯度数据;根据设定数量个第一权重梯度数据和第二数据精度,确定数据精度为第二数据精度的缩放系数,第一数据精度高于第二数据精度;基于样本数据集和缩放系数,对深度学习模型进行训练以更新深度学习模型的权重参数,获得本次训练的深度学习模型,缩放系数用于在训练深度学习模型的过程中对数据精度为第二数据精度的损失值进行放大处理,以提高了训练效率和训练精度。
申请人:腾讯科技(深圳)有限公司
地址:518044 广东省深圳市南山区高新区科技中一路腾讯大厦35层
国籍:CN
代理机构:北京同达信恒知识产权代理有限公司
更多信息请下载全文后查看
因篇幅问题不能全部显示,请点此查看更多更全内容