我是计算机体系结构方向的硕士，看到很多AI芯片公司都在招聘‘编译器工程师’，要求熟悉TVM、MLIR。我自学过一些基础，但不知道面试会深入到什么程度。想请教一下，对于这个新兴岗位，除了框架的基本使用，面试官通常会重点考察哪些底层原理？比如在TVM中如何进行自动调度（Auto-scheduler）和优化，MLIR的Dialect和Pass管理，以及如何针对一个具体的神经网络加速器架构进行算子融合和代码生成？有没有过来人能分享一下面经重点？
回答 16
我去年秋招面了五六家AI芯片公司的编译器岗，TVM/MLIR是必问的。面试官不会只问你“TVM是什么”，而是会结合具体场景考察你的理解深度。
关于TVM，他们特别喜欢问自动调度（Auto-scheduler）的原理和实现细节。比如，让你描述一下Ansor的工作流程：它是怎么通过采样生成初始调度、构建搜索空间、然后用代价模型和进化搜索来迭代优化的。可能会让你对比Ansor和AutoTVM的区别，为什么Ansor在复杂算子和大网络上更有效。
还会问算子融合（Operator Fusion）的策略。TVM里有哪些融合规则？比如injective、reduce、outEWiseFusable这些标记是怎么用的。可能会给你一个简单的计算图（比如Conv+ReLU+Add），让你手动分析哪些层可以融合，依据是什么，融合后对内存带宽和计算效率有什么影响。
针对特定硬件（比如他们公司的NPU），问题会更实际。比如：“如果我们的NPU有专用的矩阵乘单元和向量处理单元，但片上缓存很小，你在用TVM生成代码时，会如何设计调度原语（schedule primitives）来充分利用硬件？” 这需要你懂tile、reorder、compute_at、storage_align这些基本操作，并能根据硬件约束灵活组合。
我的建议是，不仅要会用TVM的API，最好能读一读Ansor、AutoTVM这些关键论文，并动手改过一些调度代码。把TVM源码里scheduler和auto_scheduler目录下的关键文件过一遍，面试时能说出大概流程和核心数据结构，就很加分了。
从面试官的角度聊几句吧。我们招AI编译器工程师，最看重的是候选人能否把编译器技术和硬件架构知识打通。TVM/MLIR是工具，核心考察的是你如何用它们解决实际问题。
对于TVM，除了楼上说的自动调度，我们常会问一些更底层的问题。比如TVM的中间表示（IR）是怎么设计的？Tensor Expression和Schedule是如何分离的？这样设计的好处是什么？可能会让你手写一个简单的TVM IR，或者解释一下Lowering过程（从计算图调度到LLVM/GPU代码）经历了哪些阶段。
MLIR方面，重点是考察你对多层中间表示的理解。为什么MLIR要用Dialect体系？Linalg、Affine、LLVM这些Dialect分别负责什么抽象层次？我们会问：“如果要为我们的NPU添加一个自定义Dialect，你会怎么设计？需要定义哪些操作（Operation）和类型（Type）？” 这考验你是否真正理解了MLIR的可扩展性设计。Pass管理也很重要，MLIR的Pass是如何组织、依赖、运行的？和LLVM的Pass管理器有什么异同？
关于与硬件协同，问题非常开放。比如：“给你一个典型的Transformer层（有MatMul、Softmax、LayerNorm等），在我们的NPU上（假设有专用矩阵计算单元和分散的SRAM），你会制定怎样的算子融合策略？为什么？融合后的kernel在代码生成时，内存布局（Memory Layout）上要注意什么？” 这里没有标准答案，我们想看你的思考过程：是否考虑了数据局部性、计算密度、硬件并行度、以及编译开销的平衡。
最后给个建议：找一两个开源NPU模型（比如Gemmini）或者用TVM的VTA模拟器，实际走一遍从模型导入、调度优化、到代码生成和性能分析的完整流程。把过程中遇到的坑和你的解决方案总结出来，面试时这就是最好的谈资。
我去年面过几家大厂和独角兽的AI编译器岗，TVM/MLIR是必问的。面试官不会只问你‘TVM是什么’，而是会结合具体场景。比如，给你一个简单的算子（如conv2d），让你描述TVM从Relay IR到TIR再到代码生成的完整流程，并指出在哪个阶段可以插入自定义优化。他们特别爱问自动调度：Auto-scheduler（Ansor）和AutoTVM的区别是什么？Ansor如何通过sketch、annotation、evolutionary search来生成高性能代码？你得能说出大概步骤，最好能举例说明。
关于MLIR，重点不是你会用多少Dialect，而是理解其设计思想：为什么需要多层IR？Linalg、Affine、LLVM Dialect分别对应什么抽象层次？Pass如何管理和组织？我遇到过一道题：给定一个简单的循环，要求用MLIR的Affine Dialect表示并写一个Pass做tiling。这要求你有动手经验。
针对NPU的协同，你得准备一个具体的例子：比如针对某款NPU的脉动阵列，如何做算子融合（比如conv+bn+relu）以减少内存搬运，并通过TVM的Tensor Expression或MLIR的Pattern Rewrite实现。如果没有实际项目，至少要把原理讲清楚，比如数据复用、内存层级、计算映射这些概念。
最后，强烈建议读一下TVM和MLIR的论文，以及看看开源项目（如Apache TVM官网的教程和MLIR的Toy示例），面试很多题都从里面出。
从面试官的角度说几句吧。我们招AI编译器工程师，最看重的是你能否把算法、编译、硬件串起来。TVM/MLIR的基础知识当然要懂，但更希望你能展示出解决实际问题的思路。
比如TVM的自动调度，我们常问：假设你要优化一个matmul算子，在AutoTVM里怎么定义搜索空间？模板怎么写？代价模型怎么构建？如果你用过Ansor，可以对比一下两者的优劣。这里考察的是你对优化自动化的理解深度。
MLIR方面，我们不会要求你写很复杂的Pass，但会问：如果要为自家NPU设计一个Dialect，你会考虑哪些特性？如何与现有的Linalg或Vector Dialect对接？这考察的是你对MLIR扩展性的把握。
至于与硬件协同，重点在算子融合。你得清楚哪些融合模式是常见的（element-wise+reduction，conv+activation等），融合后对内存带宽和计算密度的影响。最好能结合具体硬件架构，比如NPU有专用向量单元，那么融合时要考虑数据布局转换（layout transformation）是否划算。
建议你找一两个开源模型（如ResNet），用TVM/MLIR实际走一遍优化流程，记录下遇到的问题和解决方式。面试时聊这个，比干讲理论加分得多。
简单直接点，我秋招刚拿了这个岗位的offer。面试问到的点大概这些：
TVM部分：
1. Relay和TIR的区别，各自用在哪个阶段？
2. Schedule原语有哪些？split、reorder、compute_at、storage_align这些是高频考点，最好能画图说明它们如何改变循环和数据放置。
3. AutoTVM和Ansor的区别，Ansor的sketch generation怎么工作的？
4. 如何自定义一个算子在TVM中实现？MLIR部分：
1. Dialect、Operation、Attribute、Type的概念，以及Pass如何遍历和改写IR。
2. 为什么MLIR适合做AI编译器？多层IR的好处是什么？
3. 常见的Dialect如Linalg、Affine、LLVM各负责什么？
4. 如果让你实现一个简单的融合优化，在MLIR里大概步骤是怎样的？硬件协同部分：
1. 针对一个矩阵乘法，如何映射到NPU的二维计算阵列？要考虑数据流（weight stationary/output stationary等）。
2. 算子融合的准则：什么时候该融合，什么时候不该？融合后代码生成要注意什么（比如避免bank conflict）？
3. 内存层级（global memory、local memory、register）如何影响调度决策？我的经验是，很多公司会让你在白板上写伪代码或画数据流图，所以基础概念一定要扎实。另外，关注一下最新进展，比如MLIR的GPU方言、TVM的Unified Static Memory Planner等，面试时提一句能显得你跟进前沿。
我去年秋招面了五六家AI芯片公司的编译器岗，TVM/MLIR是必问的。面试官不会只问你怎么用，一定会挖原理和设计思想。
TVM方面，重点准备自动调度（Ansor）和AutoTVM的原理区别。要能说清楚Ansor的搜索空间怎么构建的，比如怎么通过sketch生成初始程序，然后怎么用进化搜索和代价模型去优化。常考题是让你对比手写schedule和自动调优的优劣，或者给个小算子让你现场设计一下怎么tiling和绑定线程。
MLIR会问得比较深，因为现在很多公司都在基于MLIR做自己的编译栈。你得懂多层Dialect的设计哲学，比如为什么要有linalg、tosa这些中间表示。Pass管理常考的是pass pipeline怎么组织，如何自定义一个pass来做算子融合。最好能结合一个具体例子，比如把conv+relu融合成一个算子，在MLIR里该怎么实现。
硬件协同这块，面试官可能会给你一个简化的NPU架构（比如有全局缓存、局部缓存、计算阵列），让你分析怎么把卷积循环嵌套映射上去，怎么安排数据搬运和计算重叠。算子融合的考察点通常是融合的收益和代价，比如融合后减少了中间数据读写，但可能增加寄存器压力，要能权衡。
建议你找一两个开源的NPU项目（比如阿里的Tengine或者一些学术项目），看看他们怎么接TVM/MLIR，自己动手改一改pass，面试时有实际经验会加分很多。
从面试官角度说几句吧，我负责招聘这个岗位。我们最看重的不是你把TVM/MLIR的API背得多熟，而是考察你有没有‘编译思维’——怎么把计算图高效地映射到硬件上。
具体到知识点，TVM的自动调度一定会问，但希望你理解其局限性。比如自动调度在搜索空间巨大时怎么办？代价模型怎么训练的？实际部署时怎么平衡调优时间和性能？这些开放性问题能看出你的思考深度。
MLIR方面，我们会重点考察你对多层中间表示（IR）的理解。为什么MLIR要用Dialect？HAL Dialect、Device Dialect这些层次是怎么划分的？怎么利用MLIR的转换基础设施逐步把高层算子lower到接近硬件的指令？可能会让你在白板上画一下从TorchScript到NPU指令的 lowering 路径。
针对特定硬件架构，你需要展示出体系结构知识。比如我们的NPU有专用的矩阵计算单元和向量单元，你怎么设计编译策略来充分利用它们？算子融合不是越多越好，要能分析融合后对内存带宽、计算资源利用率的影响。
最后给个建议：认真读一下TVM和MLIR的核心论文（比如TVM的OSDI‘18论文，MLIR的PLDI‘21论文），把里面的关键设计思路和实验数据弄明白，面试时能引用论文里的观点会很出彩。
我去年面过几家，感觉重点在TVM的自动调度和硬件抽象层（HAL）。面试官会问你怎么用AutoTVM或者Ansor做自动调优，比如怎么定义搜索空间、用cost model评估性能。还会让你手画一下TVM的整个栈，从Relay到TIR再到CodeGen，特别是算子的lowering过程。
针对NPU，他们喜欢问怎么扩展TVM来支持新硬件，比如写一个自定义的codegen，或者用Tensor Expression（TE）描述新算子。算子融合方面，要懂常见的融合模式（比如conv+bn+relu），以及怎么在TVM里用融合规则实现。
建议你多看看TVM的源码，尤其是src/relay/op和src/target这几个目录。自己动手写一个简单的pass，比如把relu融合到conv后面，面试时能讲清楚步骤会很加分。
从MLIR角度说说吧。面试可能会聚焦在MLIR的多层中间表示（MLIR Dialects）和pass管道。你得解释清楚为什么MLIR用Dialect，比如Tensor、Linalg、Affine这些Dialect各自的作用，以及它们之间怎么通过lowering pass转换。
常考的点包括：怎么定义一个自定义Dialect来表示NPU的特定操作？Pass管理里，pattern rewrite和generic pass的区别是什么？还有，MLIR的单一静态赋值（SSA）形式和图区域（Graph Regions）怎么影响硬件映射？
建议你实践一下用MLIR写一个简单的优化pass，比如做常量折叠或循环融合。面试时如果能结合NPU架构，讲怎么把高层算子lower到硬件特定的Dialect，会显得很有深度。注意别光说理论，面试官爱问实际遇到的问题，比如pass依赖或调试技巧。
我面过编译器岗，感觉问题很务实。除了框架原理，他们特别看重你如何针对具体NPU做优化。比如，给定一个卷积层，你怎么分析数据复用和内存带宽，然后设计融合策略？TVM里可以用schedule primitive（如tile、vectorize）来优化，但面试官会追问为什么选这些参数，以及怎么和硬件特性（比如NPU的矩阵乘单元）匹配。
还会问性能调优经验：你怎么用profiling工具找瓶颈？在TVM或MLIR中，怎么自定义硬件指令？算子融合时，要注意哪些边界情况（比如不同数据类型或形状）？
建议你准备一个实战案例，比如用TVM为某个开源NPU模型（如MobileNet）做优化，记录下性能提升和踩过的坑。面试时多聊细节，比如内存布局转换或并行策略，这比泛泛而谈更有说服力。
发表回答
登录后可在本页底部提交回答
游