讨论生成式 AI 时,名词常常叠在一起:大模型、训练、推理、Token、上下文、幻觉、对齐、RAG。叠在一起听,会以为上了一个名字就同时拥有这些能力。其实它们处在不同阶段,解决不同问题。分开之后,预算和验收才知道该问哪一句。
这篇只固定六个概念,并说明它们各自不能代替什么。读完应能判断:供应商说的「我们做了对齐」并没有回答「制度原文有没有被引用」;「上下文很长」也没有回答「谁有权看见这段上下文」。

训练与推理:一个在更新参数,一个在用参数
训练是用数据调整模型参数,让它以后更会按某种分布续写。预训练、微调和偏好对齐都属于训练侧,成本高,产出的是一版模型。推理是用已经固定的参数,对一次输入算出下一个片段,直到回答结束。你在对话窗口里等待的那几秒,是推理,不是训练。除非另有流程把你的文档写进新一版模型,否则上传文件不会改参数。
这一点能挡掉一种常见误解:把公司文档「训练进去」,模型就永远记住了。多数企业场景是在推理时把文档检索进上下文,模型参数并没变。文档更新后,要更新的是索引和原文,不是重新训练一个基础模型。若供应商报价写的是「训练专属大模型」,应问清是全量训练、少量微调,还是只建了检索库。三件事的周期、数据和退出方式完全不同。
Token 与上下文窗口:这次能带多少材料
Token 是模型读写的碎片,计费、限流和长度都按它算。一段中文制度可能比同样意思的英文占更多 Token,表格和重复的页眉尤其费。上下文窗口是一次推理能同时看见的 Token 上限,里面要放下系统提示、问题、检索段落和必要的历史。窗口大,不等于应该把整库塞进去。塞得越多,无关段落越会干扰下一词,费用也越高。
实用的做法是控制每次放进窗口的段落数量,并让每段带着文档名和版本。窗口里没有的内容,推理时看不到。多轮对话若不断累积,早期的关键约束可能被挤出窗口,模型就会「忘记」你第一句说过的禁区。长对话要在系统侧重申禁区,不能假设它记得。

- 训练改参数,推理用参数,上传文档通常只影响后者
- Token 决定长度和费用,窗口是一次能看的上限
- 幻觉是回答超出了给定材料或事实,流畅不能抵消
- 对齐调整行为偏好,不代替出处核对和权限过滤
幻觉:像真的,但没有落在材料上
幻觉不是语法错误。句子往往更通顺。它指模型写出了上下文和可靠来源都支撑不了的内容:不存在的条款号、拼出来的件号、把已废止文件说成现行。原因回到原理:它在完成一种常见写法。材料不足时,常见写法仍会把结论补完。
压低幻觉的办法是组合,而不是换一个形容词。生成前检索到可核对段落;提示里要求材料不足就拒答;回答附带来源;用冻结题检查拒答和引用。单独说「我们的模型幻觉更低」无法验收。可验收的是:这 30 题里,无出处的断言有多少,废止版本被引用了多少。
对齐:让行为更符合使用方,不是让事实自动正确
对齐通常指用人类偏好或规则,让模型更听话:按指令格式回答、拒绝明显的伤害性请求、少输出不想要的语气。它改善的是行为,不是你的知识库。一个对齐良好的模型仍会在没有制度原文时编出一份像制度的年假说明,而且语气更礼貌、更像官方。
企业还需要另一层「对齐」,但那不是训练术语里的全部含义:哪些问题必须拒答、哪些字段不能进入窗口、哪些回答必须经人工确认才能对外。这些应做成检索条件和业务流程。把它们只写进提示词,叫模型自己遵守,权限一旦进了窗口,模型没有稳定的办法「忘掉」。

用这六个词回看一份方案
可以按顺序问供应商六个问题。数据更新时改的是索引还是模型参数?一次问答的费用按什么 Token 计,窗口里默认放几段?材料不足时是拒答还是补全?引用能否打开到版本和段落?低权限用户的文档会不会先被放进窗口?对外发送前谁确认?六个问题分别对应推理与训练、Token 与窗口、幻觉、出处、权限、对齐之后的人工闸门。答非所问的方案,多半是把名词当成了交付物。
概念分清之后,生成式 AI 就不再是一个要整体相信或整体否定的东西。它是一个会续写的推理过程,加上你为它准备的材料、边界和检查。
这些词不要互相顶替
方案里若用「智能对齐业务」代替「文档进不进检索」,用参数规模代替「一次问答放进几段原文」,用「私有化训练」代替「索引放在哪台机器」,评审就会在名词上通过、在验收时失败。六个概念的价值,是让每一句承诺都能被问成一个可观察的动作:参数变了没有,窗口里有什么,没有材料时拒不拒答,出处打不打得开,权限在检索前还是只写在提示词里,对外发送前谁点了确认。
业务同学不需要会写模型结构,但需要能在会上拦住偷换。听到新名词时,先问它属于训练、推理、材料还是流程。答不上这四类之一,就先不要写进立项范围。能归类的,再决定要不要为它单独立项、单独验收,避免一个「生成式平台」包住所有说不清的交付。
训练决定它像谁说话,推理决定这一次怎么往下说,上下文决定它这一次看见了什么。事实仍要单独核对。
泛友在方案沟通里会先画一张「参数变不变、窗口里有什么、谁来核对」的简图,再讨论模型选型。若你正在看一份生成式 AI 立项材料,把上面六个问题贴进去,能很快看出哪些段落只是在重复名词。

