# AI 大模型与 Agent 面试题汇总

这份题库写给正在做或准备转 AI 方向的前端、全栈工程师,收的是 AI 应用岗面试里反复出现的题。每道题顶部的速记卡是面试时要说出口的要点,下面是能直接参考的回答;想弄懂原理就展开详细解析,最后的追问是面试官顺着往下挖时最常问的几个方向。

左侧分组按学习顺序从基础排到进阶:先把模型和 Prompt 用明白,再把 AI 接进前端页面,然后是工具调用、RAG、Agent、记忆这些应用核心,接着是让系统能上线的工程化,最后才是模型原理、微调部署和综合场景题。刚入门的话从头往下看,有基础的可以直接跳到自己岗位相关的分组。

复习时建议先只看题目自己讲一遍,讲得顺的跳过,卡壳的再看答案。


# 大模型核心概念

这一组是 AI 面试的开场题,问得最多的就是 LLM、token、上下文窗口和采样参数。答的时候别背定义,多讲讲这些概念在项目里怎么影响成本、效果和稳定性。

# 什么是大语言模型(LLM)?它和过去的 NLP 模型本质区别是什么?

⚡ 30 秒速记

  • 本质:一个预测下一个 token 的概率模型,生成就是「猜一个 → 拼回上文 → 再猜下一个」的循环
  • 区别一:以前一个任务训一个模型,分类、翻译各一套;现在同一个模型靠 prompt 切换任务
  • 区别二:规模上去之后,出现了推理、写代码、跨语言这些小模型上看不到的能力
  • 边界:它保证的是「说得像」,不保证「说得对」,算钱、改状态这类事要交给代码

LLM 说到底是一个预测下一个 token 的概率模型:读上文、猜下一个词,再把猜出来的词拼回去接着猜。 和以前的 NLP 模型比,最大的变化是不用再一个任务训一个模型了,分类、翻译、摘要都能在同一个模型里靠 prompt 切换;参数规模上去以后,推理和写代码的能力也跟着出来了。不过它本质上在算概率,说得流畅不代表说得对,所以项目里涉及金额、权限这类必须准确的环节,我还是会交给确定性代码处理。

考察点:能不能用大白话讲清楚,知道它做的是「概率预测」而不是「理解」。

LLM 做的事其实很单一:给一段上文,算出下一个 token 的概率分布,挑一个拼到上文后面,然后重复。聊天、写代码、翻译,底层都是这一个动作在循环。

拆开看一次生成:文本先被 tokenizer 切成一串编号,经过 Transformer 的注意力层,模型判断当前位置该参考前文的哪些内容,最后输出词表里每个候选 token 的概率。它之所以什么都能聊,是因为预训练阶段把海量文本和代码里的规律压进了参数,运行时并没有去查数据库,也没有在核对事实。

「输出概率」这一步是 Softmax 做的。模型最后一层给词表里每个 token 打一个原始分数(logits),能正能负、加起来也不是 1;Softmax 先取指数再归一化,把它们变成加起来为 1 的概率,temperature 就是在这之前把 logits 除以一个数,调分布的尖锐程度。训练时的损失是交叉熵,也就是 -log(真实下一个 token 的概率):模型给正确答案 0.9 的概率,损失约 0.1;只给 0.01,损失约 4.6,越是自信地猜错罚得越重。所以说大模型就是在整个词表上反复做多分类,并不夸张。

webapp
公众号
开发者导航
切换夜间模式
折叠侧边栏
收起全部