什么是 LoRA？为什么微调大模型都用它？

LoRA 是 2021 年提出的高效微调方法，核心思路：训练时不改大模型的全部参数，而是给模型外挂两个小的低秩矩阵，只训练这两个小矩阵。效果上，LoRA 微调后的能力逼近全参微调，但显存占用和训练时间少了一个数量级——普通消费级显卡都能微调 7B/13B 模型，这是它成为主流的原因。现在连量化版（QLoRA）都能跑，微调门槛大幅降低。注意：LoRA 适配器是独立文件，推理时叠加到基座模型上，可以一个底座挂多个 LoRA 随时切换。