最近在做FPGA边缘端AI部署,目标检测模型在国产FPGA上跑,INT8量化后精度掉到80%左右,想试试INT4量化进一步压缩带宽和存储。但担心精度掉太多,而且FPGA对INT4的支持没有INT8成熟,需要自己写反量化逻辑。有没有实际部署过的大佬说说,INT4在FPGA上到底值不值得上?资源能省多少?精度损失大概多大?
2026年了,FPGA工程师做边缘AI部署,模型量化用INT8还是INT4?精度和资源怎么权衡?
开放
0 个回答
暂无回答,欢迎成为第一位解答者。
发表回答
登录后可在本页底部提交回答