最近在准备FPGA AI加速方向的社招面试,被问到INT8量化后精度从FP32的92%掉到80%,除了QAT重训练还有哪些工程手段能快速拉回精度。我目前只想到增加校准集多样性、用KL散度找最佳截断阈值、以及混合量化(敏感层保留FP16)。但面试官似乎不满意,追问我有没有实际部署经验。求各位大佬分享下真实项目里除了QAT和蒸馏之外,有哪些低成本高回报的精度补偿技巧?比如逐通道量化、per-tensor和per-channel的取舍,或者对激活值做平滑处理这类偏门招数。
2026年了,FPGA工程师做AI加速器,面试官问INT8量化后精度掉到80%怎么办,除了QAT还有啥能落地的招?
开放
0 个回答
暂无回答,欢迎成为第一位解答者。
发表回答
登录后可在本页底部提交回答