2026年了,FPGA工程师做AI推理,INT8量化后精度掉到82%,除了QAT重训,用FPGA浮点与定点混合计算能救回来吗?

开放0 回答 29 浏览

最近在Xilinx VU9P上部署YOLOv8s做边缘检测,INT8量化后mAP从0.89掉到0.82,试过calibration数据集扩大和per-channel量化效果都不明显。听说可以在RTL层面对敏感层做浮点与定点混合计算,比如只把最后的检测头保留FP16,前面的backbone用INT8,这样能减少精度损失吗?有没有大佬实测过这种混合精度方案?资源占用会增加多少?BRAM和DSP够不够用?求具体操作思路。

分享:

0 个回答

暂无回答,欢迎成为第一位解答者。

登录后可在本页底部提交回答

提问者

电子萌新小张查看主页
浏览「其他」

描述场景与已尝试方案,更容易获得有效解答

相关问题

同分类

提问建议

  • 标题写清核心疑问,避免「求助」「请问」等空泛用语
  • 正文补充环境、版本、报错信息或截图
  • 先搜索本站是否已有相近问题,减少重复提问
  • 若与课程相关,请标明课时或章节便于讲师定位