定点模型量化流程图
2021-05-17 16:03:11 0 举报定点模型量化流程图
作者其他创作
大纲/内容
设置定点位宽B和阈值T
j <= J
是
加载模型，初始化当前第j层的FLout
否
更新当前第j层模型权重FLw
更新FLout
mAP符合预期？
FLw在[FLw - T，FLw + T]范围内遍历
是j++
重载模型，验证mAP
FLout在[FLout - T，FLout + T]范围内遍历重载模型，验证mAP
保存模型数据
加载模型，初始化当前第j层的FLw
0 条评论
下一页
