最近在准备FPGA AI加速方向的面试,简历上写了个YOLOv5s的INT8量化部署项目。面试官追问:量化后mAP掉了3个点,除了QAT重训练,还有哪些工程上能快速落地的手段?我当时只答了校准集选择和KL散度,感觉不够。想请教各位大佬,实际项目里常用的补偿手段有哪些?比如per-channel量化、混合精度、敏感层回退这些,具体怎么操作?
2026年了,FPGA工程师搞AI加速,面试官问INT8量化后精度掉了怎么补偿,除了QAT还有什么工程上能落地的招?
开放
0 个回答
暂无回答,欢迎成为第一位解答者。
发表回答
登录后可在本页底部提交回答