大模型面试题

Agent 面试专题

• Agent 面试题介绍
• 1. 什么是 Agent？与大模型有什么本质不同？
• 2. Agent 的基本架构由哪些核心组件构成？
• 3. Workflow，Agent，Tools 这三个的概念和区别介绍一下？
• 4. 了解哪些其他的 Agent 设计范式？Agent 和 Workflow的区别是什么？
• 5. Agent 推理模式有哪些？ReAct 是啥？具体是怎么实现的？
• 6. ReAct、Plan-and-Execute、Reflection 三种范式有什么核心区别？实际项目中该如何选型？
• 7. 复杂任务怎么做的任务拆分？为什么要拆分？效果如何提升？
• 8. 请你介绍一下 AI Agent 的记忆机制，并说明在实际开发中应该如何设计记忆模块？
• 9. Agent 的长短期记忆系统怎么做的？记忆是怎么存的？粒度是多少？怎么用的？
• 10. 什么是 Multi-Agent？
• 11. 说说 Single-Agent 和 Multi-Agent 的设计方案？
• 12. Agent 记忆压缩通常有哪些方法？
• 13. 在工程实践中，为什么有时候选择「手搓」Agent，而不是直接用成熟框架？
• 14. 如何赋予 LLM 规划能力？
• 15. 讲讲 Agent 的反思机制？为什么要用反思？具体怎么实现？
• 16. 如何设计多 Agent 的协作与动态切换机制？

RAG 面试专题

• RAG 面试题介绍
• 1. 什么是 RAG？详细描述一个完整 RAG 系统的详细工作流程？
• 2. 大模型的 RAG 主要用来解决什么问题？
• 3. 相比直接微调 LLM，RAG 解决了什么问题？微调和 RAG 各自的优劣势是什么？
• 4. RAG 中的文档是怎么存的？粒度是多大？详细说说文档切割（Chunking）策略？
• 5. 怎么规避语义被切割掉的问题？
• 6. 在 RAG 中 Embedding 究竟是什么？如何选择和评估一个 Embedding 模型？
• 7. Embedding 有哪几种算法你了解过吗？
• 8. 什么是向量数据库？有没有做过向量数据库的对比选型？
• 9. 讲讲你用的向量数据库？数据量级是多大？性能如何？遇到过性能瓶颈吗？
• 10. 你使用 RAG 给大模型一个输入，系统是怎样的工作流程？
• 11. 请你介绍一下向量检索和关键词检索的区别？
• 12. 如何润色用户的 Query（Query Rewrite）？目的是什么？
• 13. 什么是多路召回？具体怎么做？
• 14. RAG 检索优化策略有哪些？
• 15. 了解哪些更复杂的 RAG 范式？
• 16. 在什么场景下，你会选择使用图数据库来增强传统的向量检索？
• 17. 如何规避 RAG 系统中大模型的幻觉？
• 18. 怎么量化你的 RAG 效果？
• 19. RAG 知识库如何实现动态与持续更新？
• 20. 在实际落地中，你觉得 RAG 最难的地方是哪里？

LLM 工具调用面试专题

• LLM工具调用面试题介绍
• 1. 什么是 Function Calling ？原理是什么？
• 2. LLM 是如何学会调用外部工具的？
• 3. 大模型的 Function Call 能力是怎么训练出来的？
• 4. 什么是 MCP（模型上下文协议）？讲讲它的核心内容？
• 5. MCP 由哪几部分组成？
• 6. MCP 和 Function Calling 有什么区别？有没有实际跑过 MCP？
• 7. Function Calling 也属于工具调用，请问什么场景下使用 Function Calling，什么场景下使用 MCP？
• 8. 为什么有些特定的推理模型不支持 MCP 协议？
• 9. Skill 是什么？
• 10. MCP 和 Agent Skill 的区别是什么？
• 11. Function Calling、Skill、MCP 这三个有什么区别？
• 12. 什么是 A2A 协议？它和 MCP 协议的区别是什么？
• 13. MCP 协议通常采用什么通信方式？
• 14. 说说 WebSocket 和 SSE 通信的区别及局限性？
• 15. 为什么要用 WebRTC 协议？它和 WebSocket（WS）在 AI 对话流中的核心差异是什么？
• 16. 有没有用过大模型的网关框架？网关层解决了什么问题？

大模型工程面试专题

• 大模型工程面试题介绍
• 1. 什么是大语言模型？和传统 NLP 模型有什么区别？
• 2. 讲讲 Transformer 架构基本原理？Encoder 和 Decoder 是什么？
• 3. 多头注意力（MHA）有哪些局限？MQA、GQA、Flash Attention 怎么解决？
• 4. 大模型的位置编码是干什么用的？sin/cos、RoPE、ALiBi 有什么区别？
• 5. 什么是大模型项目的分词器？原理是什么？
• 6. 大模型是怎么训练出来的？
• 7. 什么是 Scaling Law？大模型的「涌现能力」是怎么回事？
• 8. 大模型微调的方案有哪些？
• 9. 请讲一下 LoRA 技术，除了减少参数量，它还有哪些优点？
• 10. SFT 之后还有哪些 Post-Training？RLHF、DPO、GRPO、拒绝采样什么关系？
• 11. 大模型的 DPO 和 PPO 的区别是什么？
• 12. 大模型生成文本时的解码策略有哪些？贪心、Beam Search、采样分别什么时候用？
• 13. 大模型的参数：温度值、Top-P、Top-K 分别是什么？各个场景下的最佳设置是什么？
• 14. KV Cache 是什么？Prompt Caching 的原理是什么？
• 15. 大模型量化是什么？INT8/INT4/AWQ/GPTQ 怎么选？
• 16. 如何写好 Prompt？分享下 Prompt 工程实践经验？
• 17. 什么是 CoT？为啥效果好？它有什么缺点或局限性？
• 18. 大模型为什么会出现幻觉？怎么缓解？
• 19. MoE 混合专家模型是什么？DeepSeek V3、Qwen 为什么用 MoE？
• 20. 大模型部署有哪些主流方案？vLLM、TGI、llama.cpp、SGLang 实际项目里怎么选？
• 21. 大模型能力评测指标有哪些？
• 22. 对比使用过哪些主流大模型？你们项目中最终选用了哪个模型？为什么？

LangChain 框架面试专题

• LangChain 框架面试题介绍
• 1. 你了解过哪些 AI Agent 开发框架？
• 2. 请你谈谈对 LangChain 中核心概念「Chain」的理解，以及它的核心作用与设计理念。
• 3. LangChain 的底层架构与实现原理是什么？
• 4. 使用 LangChain 构建 Agent 的核心步骤是什么？
• 5. 在 LangChain 中，如何为 Agent 注册工具？
• 6. LangChain 如何实现短期记忆和长期记忆？
• 7. LangChain 和 LlamaIndex 有什么区别？
• 8. 请你谈谈 LangChain4j 这类 Java 生态的 LangChain 衍生框架，主要帮开发者解决了哪些核心问题？它的核心适用场景是什么？
• 9. 请你详细说说 LangChain 和 LangGraph 的核心区别是什么？
• 10. LangGraph 相比于 LangChain 有哪些核心优势？更适配哪些 Agent 场景？
• 11. LangChain 大版本升级有哪些核心变化？
• 12. Deep Research 的实现逻辑和适用场景是什么？

原站：小林面试笔记