最近在Xilinx VU9P上部署YOLOv8s做边缘检测,INT8量化后mAP从0.89掉到0.82,试过calibration数据集扩大和per-channel量化效果都不明显。听说可以在RTL层面对敏感层做浮点与定点混合计算,比如只把最后的检测头保留FP16,前面的backbone用INT8,这样能减少精度损失吗?有没有大佬实测过这种混合精度方案?资源占用会增加多少?BRAM和DSP够不够用?求具体操作思路。
2026年了,FPGA工程师做AI推理,INT8量化后精度掉到82%,除了QAT重训,用FPGA浮点与定点混合计算能救回来吗?
开放
0 个回答
暂无回答,欢迎成为第一位解答者。
发表回答
登录后可在本页底部提交回答