一张地图看懂 LLM 领域
这是 LLM 知识库的入口：沿着一个公司文档助手的任务，看清应用怎样使用模型、模型怎样形成，再按目标选择学习路线。无需前置知识。
先从一个公司文档助手说起
你想做一个公司文档助手。同事问「出差住宿怎么报销」，它找到现行制度，给出答案和出处，同事就不用自己翻找文档了。
试做后，问题接连出现：答案引用了旧制度，追问时忘了出差城市，接上审批系统又提交了重复申请。搜索解决办法，提示词、RAG、Agent、推理、训练这些词一起涌来，你却分不清该用哪个办法排查眼前的故障。
它们到底分别管什么，又怎样合作完成这一次请求？学会使用助手，是否真要先把训练和推理内部全部学完？
我们就沿着这项任务往里看，再回头追问模型从哪里来。运行时谁与谁协作、模型怎样形成、读者先学什么，是三种不同的关系，不能画成一条人人必走的楼梯。
图 1：沿实线读一次问答；虚线动作按需增加，底部只解释被调用的模型从哪里来。
沿任务往里看，再追问模型从哪里来
① 设计应用入口：先明确答案要满足什么要求
同事需要的是「按现行制度解释报销条件」，不是一段像制度的文字。入口可以是聊天框、网页表单或办公软件插件；提示词负责把任务、材料和输出要求说清。
先读提示词工程，学习把「帮我看看」改成可检查的要求。
② 材料与任务由程序组织：RAG 与工具调用
模型通常不知道公司刚更新的制度。程序先从制度库取出相关段落，连同问题交给模型，这就是 RAG（检索增强生成）。
图 2：RAG 的分工——程序负责检索与拼装，模型基于给定材料作答。
RAG 补充的是本次作答的依据，不等于把制度重新训练进模型。文档太多时怎么找，见检索增强生成；追问时该保留城市、日期还是整段历史，见上下文工程。
任务若扩成「查制度、核对费用、提交申请」，程序还要组织工具调用。模型输出的「提交申请」只是请求，真正写入审批系统的是执行工具的程序。
固定步骤由代码安排，是工作流；让模型根据结果动态选择下一步，才进入这里所说的 Agent。Anthropic 的官方工程指南也明确区分这两种方式，并建议许多应用先用单次调用加检索解决问题。
多步任务还需要保存进度、处理失败、核验权限和决定何时停止，这些围绕模型的运行支撑，是 Harness 工程关心的内容；想了解模型怎样根据执行结果选择下一步，可读 Agent 基础。
不是所有应用都是 Agent，也不是每个应用都要另建一层独立 Harness：简单问答可以只有几步应用代码，这些职责也可以内置在产品中。
③ 推理系统让已有模型运行
模型服务在初始化时按模型结构加载权重；请求到达后，系统用这些权重处理输入、逐步生成输出。权重是训练得到的数值参数，不是自己会运行的程序。
图 3：展开图 1 的③——服务每次请求只做计算，权重不随请求重做。
这里的「推理」指用已有参数计算输出，不专指深度思考模式；普通问答也在做推理。
同事同时来问，服务就要安排并发、计算和显存：键值缓存复用已有计算，连续批处理组织请求，分页缓存管理显存空间，这些是推理优化的入口。用托管 API 时，这些主要由供应商实现；你先掌握输入长度、限流、延迟和计费等接口约束，就可以开发应用与 Harness。
④ 架构与训练解释模型为何具备这些能力
分词器把文字转成 token，token 不等于一个汉字；注意力与 Transformer解释模型怎样在序列中取用信息。架构规定计算结构，训练借助数据和优化方法调整其中的参数，两者不是前后两种训练阶段。
预训练与后训练再解释能力和行为怎样形成：预训练学习语言及数据中的模式，监督微调、偏好优化等后训练改善指令遵循和回答行为。
所以，常规部署中的一次提问不会重新训练这些权重；把新制度放进上下文，与用训练改变参数，是不同的动作。
沿这次请求还会牵出的三个方向
它们不是额外的运行层，而是对这项任务提出的新问题：
- 质量与安全：检索前查文档访问权，提交前查操作权限，答完核验引用；训练阶段同样要评估安全行为。见安全边界与评估与失败归因。
- 多模态：制度变成扫描件、凭证变成图片，扩展的是输入信息类型，牵动模型结构、成本与评估。见视觉 token；本库不展开图像生成与语音系统。
- 历史与预算：发展史看技术选择如何演变，规模定律与算力预算看投入怎样换来能力；这是观察视角，不是请求必经的第五层，也不能单凭规模定律决定是否微调。
动手：先定位一次失败，再选学习路线
做一个不需要编程的对照实验，亲自体会「材料」这个变量：
- 取一份可公开使用的制度材料，固定问题与模型。
- 跑三组对照：不提供材料；提供相关原文；提供混有旧版条款的材料。
- 每组从空白会话开始，关闭跨会话记忆和联网检索，避免上一组材料或外部搜索影响对照。
- 统一要求回答附上依据，记录答对了什么、引用是否支持结论。
两条注意：所用产品若无法控制这些条件，就只作体验，不据此比较材料的效果；不要把公司机密直接粘到未获批准的外部服务。
对照图 1 的②，你改变的是输入材料，不是④的权重。若相关原文已经给到，答案仍错误，就不能只怪检索；这个实验用来练习归因，不保证哪次必然翻车。真正搭建和评估管线，可进入RAG 问答项目。
图 4：交付线先完成任务，原理线先解释机制；分支表示选择，不要求先学完训练才能研究推理。
交付线的前两站是提示词工程与 API 调用基本功，再接检索问答项目。原理线从分词和注意力进入，之后按兴趣研究训练或推理系统；并不需要先学 Agent 才能理解模型。想用编码助手辅助实现，可另看 Claude Code 日常使用，它是产品用法样本，不是所有 LLM 应用的共同前置。
卡住时先记录现象，再选回补点；以下是排查起点，不是仅凭症状就能断定的病因：
| 症状 | 先检查什么 | 回补第一站 |
|---|---|---|
| 请求报错或答案被截断 | 消息结构、输出预算与结束原因 | API 调用 |
| 答案引用旧制度 | 检索结果的版本与有效期 | 检索增强生成 |
| 追问忘了出差城市 | 本轮是否带上必要历史 | 上下文工程 |
| 自建服务并发后变慢 | 排队、生成耗时与显存占用 | 推理优化 |
| 材料诱导助手越权提交 | 数据与指令边界、工具授权 | 安全边界 |
边界与取舍：不要为画满地图增加部件
只需查制度时，检索加一次生成可能就够；步骤稳定的申请流程适合工作流，确需动态探索才考虑 Agent。复杂化会增加延迟、成本与失败路径，选择依据应是任务评估，而不是哪个名字更新。
这张图也不是部署拓扑。检索、编排和模型服务可以分开部署，也可以由一个产品封装。应用开发者要懂接口约束，但不必先会写推理内核；研究缓存机制需要注意力知识，却不要求先完成整套对齐训练。
自测
公司文档助手从收到问题到回答，程序、推理系统与模型权重怎样协作？
程序准备指令与可访问的相关材料，调用模型服务；推理系统使用已加载的权重执行计算并返回输出，程序再呈现答案或处理工具请求。权重来自此前的训练，不是在每次问答中重新形成。
查制度与代办申请都必须用 Agent 和独立 Harness 吗？质量安全、多模态、历史与预算分别是什么关系？
不必须。查制度可用检索加单次调用，固定代办流程可用工作流；模型动态决定行动时才需要考虑 Agent，其运行支撑也不必独立部署。质量安全跨环节，多模态扩展信息类型，历史与预算是观察视角，都不是额外的必经运行层。
想先做出文档助手，前两站学什么？引用旧制度或追问遗忘时怎样回补，是否要先学完训练与推理内部？
先学提示词和 API 调用，再进入检索问答项目。引用旧制度先查检索版本，追问遗忘先查上下文是否带上必要历史。不必先学完整训练与推理内部；需要解释具体性能或能力问题时，再按症状进入相应原理分支。
参考与延伸
- 视频版：动画拆解（约 7 分钟）——本篇的交互式演示版，逐节拍推进、可点击回看，支持竖屏模式。
- Anthropic：Building Effective Agents，2024-12-19 发布，2026-09-08 核验。工作流与 Agent 的分界，以及从简单方案开始的工程建议。
- Hugging Face：Text generation，持续更新文档，初始发布日期未知，2026-09-08 核验。示例明确分开加载预训练权重、处理输入和生成输出。
- 下一站按目标选：想上手，做提示词练习；想解释模型，读分词器；想先建立时间背景，读发展史。