2026年了,FPGA工程师做边缘AI部署,模型量化用INT8还是INT4?精度和资源怎么权衡?

开放0 回答 33 浏览

最近在做FPGA边缘端AI部署,目标检测模型在国产FPGA上跑,INT8量化后精度掉到80%左右,想试试INT4量化进一步压缩带宽和存储。但担心精度掉太多,而且FPGA对INT4的支持没有INT8成熟,需要自己写反量化逻辑。有没有实际部署过的大佬说说,INT4在FPGA上到底值不值得上?资源能省多少?精度损失大概多大?

分享:

0 个回答

暂无回答,欢迎成为第一位解答者。

登录后可在本页底部提交回答

提问者

电路设计萌新查看主页
浏览「其他」

描述场景与已尝试方案,更容易获得有效解答

相关问题

同分类

提问建议

  • 标题写清核心疑问,避免「求助」「请问」等空泛用语
  • 正文补充环境、版本、报错信息或截图
  • 先搜索本站是否已有相近问题,减少重复提问
  • 若与课程相关,请标明课时或章节便于讲师定位