写点什么

面试被挂的第 3 次,面试官说:你懂的 LLM 框架,只够骗骗自己

作者:王中阳Go
  • 2025-11-18
    北京
  • 本文字数:3287 字

    阅读完需:约 11 分钟

面试被挂的第3次,面试官说:你懂的LLM框架,只够骗骗自己

大家好,我是王中阳,专注 Go+AI,希望这篇文章对你有帮助。


今天给粉丝做一对一腾讯会议沟通的时候,他详细和我分享了他最近面试 LLM 应用开发的经历,还是非常有代表性的。


我过去也辅导了很多,因为学习掌握了 LLM 应用开发的能力,找到了超预期的工作的同学们。


在此真心建议大家,抽时间一定学习如何用 langchain 或者 Eino 做 AI Agent 的开发,是真的香,光卷后端不行的,又苦逼又很难涨薪。

粉丝投稿

他说:“我明明答了 Eino 框架的优势,说它比 LangChain 方便,面试官怎么还追着问‘方便在哪’?”他揉着眉头,手机里存着他背了三天的“面试标准答案”。


我突然想起去年面某大厂 AI 应用岗时,面试官盯着我的眼睛说:“很多人把‘知道框架名字’当成‘会用框架’,但 LLM 开发面试,考的是你踩过的坑、拆过的组件,不是百度来的概念。”


后来我翻遍 3 个主流框架的源码,把电商客服、智能简历分析两个项目的技术细节嚼碎了复盘,再面试时,当我说出“Eino 的 Tool 接口如何帮我省了 30%的复用代码”,面试官当场让我过了二面。


现在把我整理的“避坑指南”掏出来——不是让你背话术,是帮你把“听过”的知识,变成“用过”的经验。毕竟 LLM 应用开发这行,真东西藏在细节里。

一、框架题:别再用“方便”这种空话凑数了

这位粉丝的栽跟头题,也是面试官必问的“开胃菜”:“介绍一个你熟悉的 LLM 应用开发框架,说说它的优势。”


他的回答和去年的我如出一辙:“Eino 是简化开发的框架,封装了好多组件,用起来比 LangChain 方便。”现在回头看,这话跟没说一样。

面试官真正想挖的,是这 3 件事

  1. 你是不是真的搭过项目?有没有踩过框架的坑(比如组件冲突、调用超时);

  2. 你懂不懂框架的设计逻辑?比如 Tool、Flow、Agent 这些核心模块,到底是用来解决什么问题的;

  3. 你有没有技术选型的判断力?知道什么时候该用轻量框架,什么时候必须靠生态撑场面。

能让面试官点头的回答,要带“自己的故事”

我当时后来二面时是这么答的,面试官当场记了笔记:


“我用 Eino 做过一个面试辅助 Agent,对比 LangChain 后最终选了它,核心是三个点戳中了我的需求:


  1. 工具体系特别规范——我需要解析 PDF 简历、调用题库接口、生成评价报告,Eino 用统一的 Tool 接口把这些能力包起来,不管是同步调用(invoke)还是流式返回(stream),写法都一致,我改需求时不用重新适配不同工具的格式,至少省了 2 天开发时间;


  1. 流程编排不用写死代码——原来用 LangChain 做流程,得写一堆 if-else 判断‘什么时候调用简历解析,什么时候生成题目’,但 Eino 直接用 Prompt 定义 Flow 逻辑,我只需要告诉 Agent‘先解析简历里的技能关键词,再匹配对应难度的算法题’,它就自动跑通了,后期改流程只改 Prompt 就行;


  1. 轻量适合快速试错——我们当时是做 MVP 验证需求,不需要 LangChain 那么多社区插件,Eino 开箱就能连大模型 API,我周末两天就搭出了可演示的版本。”


最后补一句“当然如果做超大型项目,LangChain 的生态优势更明显,技术选型还是看场景”,面试官直接说“你对框架的理解很务实”。

二、项目设计题:别只说“接 API、做 RAG”,要讲“怎么落地”

比框架题更能拉开差距的,是场景设计题。比如“让你做一个电商 AI 客服,技术思路是什么?”


我见过最常见的减分回答:“先接大模型 API,再调用商品查询、订单接口,做个 RAG 避免胡说。”这话没错,但任何一个看过技术博客的人都能说,体现不出你的价值。


面试官想看到的,是你作为开发,如何把“业务需求”变成“可落地的技术方案”,甚至能预判可能出的问题。

高分回答要按“三层逻辑”拆,每层都带细节

我现在带新人时,都会让他们按“工具体系→流程编排→性能保障”来答,每个环节都加“我会怎么做”:


“我会从业务痛点出发,分三步搭这个客服系统,核心是让 LLM Agent‘能干活、不出错、好维护’:


  1. 先拆工具体系,解耦业务逻辑——电商客服最常用的功能就是查商品库存、查订单状态、办售后申请,我会把这些拆成独立的 Tool,比如商品查询 Tool 封装‘根据 SKU 查库存和价格’的 API,订单 Tool 封装‘根据手机号查物流’的接口。这么做的好处是,后面后端 API 改了,我只改 Tool 里的调用逻辑,不用动 Agent 的核心代码,之前我做的客服系统就是因为没拆 Tool,后端改了订单接口,我改了一整天 Agent 代码;

  2. 再做流程编排,让 Agent‘有脑子’——用户问‘我的口红什么时候到’,不能直接调用订单接口,得先判断‘用户有没有提供手机号/订单号’。所以我会用两个 Agent 配合:Intent Agent 专门做意图识别和信息补全,比如用户没给订单号,它会自动问‘麻烦提供一下你的下单手机号’;拿到信息后再 路由到 Order Tool 查物流,最后让 Response Agent 把‘物流到哪了’组织成口语化的回复,比如‘你的口红今天下午 3 点已经到 XX 快递点,预计傍晚送达哦’;

  3. 最后做性能保障,避免线上出问题——这步最关键,我踩过坑:


  • 可控性:订单查询 Tool 必须加超时和重试机制,之前没加的时候,后端接口卡了,整个客服都跟着卡死,后来设置 5 秒超时,超时就返回‘正在帮你查询,请稍等’,同时异步重试;

  • 抗幻觉:商品信息必须走 RAG,我用 bge-large 做 Embedding,把商品详情、售后政策存到 Milvus 向量库,用户问‘口红能不能退’,Agent 会先从库中查出‘7 天无理由、未拆封可退’的规则,再结合订单状态回复,比直接让大模型回答准确率高了 40%;

  • 可观测:接入日志系统,监控每次调用的 Token 消耗、响应时间,比如发现‘查库存’的回复总延迟超过 2 秒,就去优化 Tool 的 API 调用方式,之前这么调优后,用户投诉少了 60%。”

三、基础概念题:别只说“是什么”,要说“怎么用”

还有一类题,看似简单,实则是“筛子”——比如“同步工具和流式工具有什么区别?怎么选?”


减分回答:“同步是等结果全出来再返回,流式是边算边返回。”正确但无用,面试官听了只会在心里画叉。


高分回答的关键,是把“定义”和“你的项目经验”绑在一起:


  • “这两种模式我在项目里都用过,选择的核心是‘下游需不需要等完整结果’:

  • 同步工具(invoke)适合任务型场景,比如我做的简历解析 Tool,必须等整个 PDF 解析完,拿到结构化的‘技能、工作经历’这些信息,后续的题目生成模块才能工作,用同步模式逻辑简单,不容易出错;

  • 流式工具(stream)适合交互型场景,比如 AI 对话功能,要是等大模型把一整段回复生成完再返回,用户得等 3-5 秒,体验特别差。用流式的话,模型生成一个字就返回一个字,用户能看到‘打字’的效果,等待感减少了一半,我做的客服系统加了流式后,用户停留时间多了 20%;

  • 还有个进阶用法,我在复杂查询里混合用过:比如用户问‘我的订单物流和口红保质期’,先流式返回‘正在帮你查询物流和商品信息~’,同步调用两个 Tool 查数据,查到后再流式返回具体结果,用户体验更流畅。”

最后:面试过不过,就看“你有没有自己的东西”

复盘了这么多,其实 LLM 应用开发面试的核心就一个:别做“概念背诵机”,要做“问题解决者”


我总结了 3 个让回答“有料”的技巧,肯定对你有帮助,请实践起来:


  1. 话术带“场景”:准备 1-2 个自己做过的项目,把框架、Tool、RAG 这些知识点,都放进项目场景里说,比如不说“RAG 能抗幻觉”,要说“我用 RAG 把客服回答准确率从 50%提到 90%”;

  2. 术语带“细节”:别只说“用了 LoRA 微调”,要说“数据量只有 500 条,所以用 QLoRA 做低秩微调,冻结大模型参数,只训适配层,显存占用从 16G 降到 4G”;

  3. 选型带“判断”:提到框架或工具,加一句“当时为什么选它”,比如“选 Milvus 不选 Pinecone,是因为项目部署在国内,Milvus 的本地化支持更好”。

一起进步

最近很多做 LLM 应用开发的朋友找我交流,有刚入门问“怎么搭第一个 Agent”的,也有资深开发聊“RAG 检索策略优化”的,我干脆建了个交流群,每天会分享面试题、项目源码和最新的框架用法。 想进群的朋友,直接加我微信【wangzhongyang1993】,备注“LLM 面试”就行,我拉你进群。


平时有面试问题也能随时找我聊——毕竟我懂那种“背了很多却没答到点上”的憋屈,能帮一个是一个。


最后说句实在话,LLM 应用开发是个“实战为王”的领域,面试官要的不是你“知道什么”,而是你“能用什么解决问题”。把项目里的坑嚼碎了,把技术细节吃透了,面试时自然能游刃有余。


祝你下次面试,不用再背话术,而是能笑着说“这个问题我踩过坑,我是这么解决的”。

发布于: 1 小时前阅读数: 9
用户头像

王中阳Go

关注

靠敲代码在北京买房的程序员 2022-10-09 加入

【微信】wangzhongyang1993【公众号】程序员升职加薪之旅【成就】InfoQ专家博主👍掘金签约作者👍B站&掘金&CSDN&思否等全平台账号:王中阳Go

评论

发布
暂无评论
面试被挂的第3次,面试官说:你懂的LLM框架,只够骗骗自己_面试_王中阳Go_InfoQ写作社区