In-Context Learning 与参数微调有什么本质区别？

面试时怎么答

先用“是否更新参数”划界：ICL 把指令和示例放在上下文中，参数不变；微调通过训练更新原权重或 Adapter。然后比较迭代速度、Token 成本、稳定性和维护成本。若被问实践顺序，可回答先用 Prompt/ICL 建可复现基线，只有质量差距稳定且调用规模足够大时再考虑微调。

可以这样答：

In-Context Learning 把任务说明和示例放进当前上下文，模型参数不变，规则更新快，但会占用 Token，结果也受示例选择与顺序影响。微调则通过训练把任务模式写入模型参数或 Adapter，前期需要数据和训练成本，却更适合稳定、高频且格式固定的任务。实际选择应比较同一评测集上的质量、延迟、调用成本和维护复杂度。

核心回答

In-Context Learning（ICL）把指令和示例放进当前 Prompt，模型权重不更新，行为只在这次上下文中改变；参数微调则用训练数据反向传播更新全部或部分权重，使行为持久写入新检查点。ICL 上手快、便于按请求切换任务，但占上下文、增加 Prefill 延迟且受示例顺序影响；微调前期成本更高，却能减少长 Prompt、稳定特定格式并处理大量领域样本。

展开说明

GPT-3 展示了零样本、一样本和少样本上下文学习能力，但 ICL 并不等于模型现场真正执行梯度下降。微调包括全参数、LoRA 等参数高效方法，都会产生需要版本化和评测的新参数状态。RAG 提供外部事实、ICL 示范任务行为、微调改变模型策略，三者可组合而不是互斥替代。

工程实践

需求早期先用清晰指令和少量示例建立 ICL 基线，统计质量、Prompt Token、TTFT 和单次成本；当示例集稳定、调用量大或上下文预算紧张时，再比较微调。无论哪种方案都要固定模板、Tokenizer 和模型版本；ICL 示例属于不可信输入时，还要隔离数据与指令，防止示例中的注入覆盖系统规则。

常见追问

ICL 会永久学会用户给的样例吗？ 单次推理不会更新权重，样例离开上下文后不再生效；服务是否另行记录数据属于独立的数据治理问题。
微调能替代 RAG 注入最新知识吗？ 通常不能完全替代；频繁变化、需引用来源的事实更适合外部检索，微调更适合行为和格式。
什么时候优先 LoRA？ 基座可用、任务稳定且需要持久适配，同时显存和存储受限时可优先验证 LoRA，但仍需与 Prompt 基线比较。

一句话复习

ICL 用当前上下文临时示范、零参数更新；微调用训练把行为持久写入参数，取舍在灵活性、上下文成本和维护成本。

参考资料

面试主题：LLM Interview Questions
技术依据：Language Models are Few-Shot Learners