从 模型量化(5): 敏感层分析可以看出来,对于yolov5-nano模型,对最后一层detect层进行敏感层分析的时候,发现对检测精度的影响比较大。所以在PTQ/QAT在进行量化时,会跳过这些敏感层。
detect
QAT微调的模型,就是PTQ在校准后的模型。从上一小节可以看出如果PTQ中模型训练和量化是分开的,而QAT则是在模型训练时加入了伪量化节点,用于模拟模型量化时引起的误差。
PTQ
QAT
加入
伪量化节
模拟模型量化时引起的误差
上一篇:什么是房地产CRM?十个方面提高业绩(上)
下一篇:网络技术与应用概论(上)——“计算机网络”