专利名称:量化模型的优化方法、装置、终端及存储介质专利类型:发明专利发明人:刘君
申请号:CN202010739079.5申请日:20200728公开号:CN111860841A公开日:20201030
摘要:本申请实施例公开了一种量化模型的优化方法、装置、终端及存储介质,属于计算机技术领域。本申请实施例能够首先对浮点计算模型进行初步的量化,得到第一定点计算模型,之后通过调整第一定点计算模型中的量化参数,得到第二定点计算模型,当调整后的定点计算模型的精度值提高时,将第二定点计算模型作为优化后的模型。由此可见,本申请实施例能够在浮点计算模型量化为第一定点计算模型之后,还能够通过调整该第一定点计算模型中的量化参数,得到精度值更高的第二定点计算模型,降低了量化浮点计算模型带来的精度下降的影响,增强了得到高精度的定点计算模型的效率。
申请人:OPPO广东移动通信有限公司
地址:523860 广东省东莞市长安镇乌沙海滨路18号
国籍:CN
代理机构:北京三高永信知识产权代理有限责任公司
代理人:邢惠童
更多信息请下载全文后查看
因篇幅问题不能全部显示,请点此查看更多更全内容