2026年了，FPGA工程师做AI加速器项目，面试官问INT8量化后精度掉了怎么补偿，除了QAT还有什么工程上能落地的招？

面试官问这个其实不是要你现场调模型，是想听你有没有真实的调试链路。我建议你把回答组织成三步：先讲校准集怎么选——别用训练集，从验证集里抽100到300张覆盖不同光照、目标大小的图就行，YOLO类项目我习惯用验证集里随机抽200张，跑一遍PTQ看每层输出的余弦相似度，低于0.99的层标出来。第二步说混合精度：第一个卷积层和最后的检测头保留FP16或INT16，中间层用INT8，这个用OpenVINO的NNCF或者TensorRT的per-channel量化都能做，不用自己写。第三步才是微调，但注意不是从头QAT，是在量化模型上只解冻敏感层，用1/10学习率跑几十步，校准集上算loss。有个小坑：BN层在量化前一定要先融合进卷积，不然激活值范围统计出来是错的，精度会莫名掉几个点。你还可以提一嘴用KL散度或者Percentile(99.9%)代替MinMax，对YOLO这种有长尾分布的检测任务更稳。面试官追问迭代次数的话，一般PTQ不用迭代，校准只是前向统计；QAT微调的话50到100步就够，多了会过拟合校准集。

这条我想从因果上说透。INT8掉精度，本质是激活值分布被截断或者分辨率不够，不是模型变笨了。所以补偿手段都围绕两个目的：一是让量化参数更贴合真实分布，二是把误差大的层单独拎出来处理。工程上我见过最有效的流程是：先用带BN融合的模型导出ONNX，用TensorRT的PTQ（或ONNX Runtime的QDQ格式）跑校准，校准集选500张，每张图做一次前向，统计每层激活的min/max和直方图。然后重点看两处：一是YOLO的head部分，尤其分类分支的logits，数值范围可能很大但稀疏，用MinMax会浪费量化步长，改成Percentile(99.9%)能救回来1到2个点；二是第一个卷积层的输入，RGB值范围0到255，但归一化后范围很小，如果量化前没做fold，误差会放大到后面所有层。我自己的经验是：先算每层输出的余弦相似度，把相似度低于0.95的层列出来，优先给这些层做混合精度（INT16或FP16），通常能恢复3到5个点。如果还不够，再上蒸馏式微调：用FP32 teacher的中间特征图做L2 loss，只微调量化模型的BN和最后两层卷积，学习率设为1e-4左右，跑100步。注意别用原始训练集，用校准集的变体（比如加一点随机裁剪），防止过拟合。最后提一句：如果项目时间紧，直接上INT8+FP16混合精度，往往比纯INT8加一堆补偿更稳，硬件上FP16和INT8吞吐差不多，但省去很多调试时间。你面试时可以主动说这个权衡，比背步骤加分。