2026 LLM 面试到底在考什么：RAG、微调、推理优化高频题拆解

这两年 LLM 相关岗位（MLE、Applied Scientist、LLM Engineer）的面试问题变化挺快，整理了一下最近高频出现的方向，供参考，也欢迎补充。

1）Transformer 基础
- self-attention 的计算过程，Q/K/V 怎么来，复杂度为什么是 O(n²)
- KV Cache 是什么、为什么能加速推理、显存开销怎么估算
- 位置编码：绝对、相对、RoPE 的区别

2）微调
- 全量微调 vs LoRA 的取舍，LoRA 的 rank 怎么选
- SFT、RLHF、DPO 分别解决什么问题
- 数据配比、灾难性遗忘怎么处理

3）RAG
- chunking 策略：固定长度、语义切分、重叠窗口
- embedding 模型选择、向量库检索、rerank 的作用
- 检索效果不好怎么定位问题

4）推理优化
- 量化（INT8/INT4）对精度和速度的影响
- vLLM / continuous batching / PagedAttention 的原理
- TTFT、TPOT 这些指标的含义和优化手段

5）评估与幻觉
- 幻觉产生的原因、缓解手段
- 离线评估指标（BLEU/ROUGE 的局限、LLM-as-judge 的坑）
- 上线前怎么建评估集

我把每个方向的高频题目和答题要点整理成了一份文档，需要的可以论坛私信我。