生成式人工智能里，人们最常接触的是对话模型：你给一段话，它接一段话。看起来像理解了问题，再组织答案。更接近原理的说法没有这么完整。模型在每一步只做一件事：根据已经出现的内容，估计词表里下一个片段的概率，然后选出一个片段，接到后面，再重复。回答是一步步长出来的，不是从数据库里取出一篇写好的文章。
这里的「片段」通常叫 Token，可以是一个字、半个词或一个符号。中文里一个词可能被切成几个 Token。模型并不在内部保存一本词典式的公司制度，它保存的是大规模文本上学到的统计关系：什么样的上文后面，什么样的下文曾经频繁出现。关系足够多，生成的句子就会像人写的；关系并不等于「这句话在事实上为真」。
训练在学分布，不是在背标准答案
预训练阶段，模型阅读大量文本，任务几乎总是「把遮住的下一段预测出来」。预测得越准，参数就越被调整成更会延续常见写法。于是它会学会语法、文体、常见问答的样子，也会学会材料里的偏见、过时信息和互相矛盾的说法。它没有一个单独的步骤叫「只保留真的」。真和假如果在文本里长得一样顺，模型都会学。
后面还有指令微调和人类偏好对齐。这些步骤让模型更愿意按「问—答」的格式说话，少说明显失礼或危险的内容，并不是给它接上一份实时的事实库。所以同一个模型，问「我们公司年假几天」，若上下文里没有制度原文，它仍可能按常见企业的写法编出一个数字。数字像那么回事，是因为训练文本里年假说明常常长那样。
上下文是这一次真正能看见的全部
一次生成能参考的，是当前窗口里的 Token：系统提示、用户问题、检索放进来的段落、之前几轮对话。窗口有长度上限，超出来的早期内容会被丢掉或压缩。模型不能在回答时「再去翻」没放进来的文件。这一点决定了企业用法：要把制度、件号、价格放进这次上下文，而不是指望模型记得上个月的上传。
检索增强就是在生成之前，先从自己的文档里找出相关段落，拼进窗口，再让模型按这些段落继续写。模型仍然是在预测下一词，只是上文里现在有了你的原文。它可能照抄，也可能把两段并不相容的制度揉成一句光滑的话。因此引用要能点回段落，由人或规则核对，不能因为句子通顺就当成已经查证。
- 生成的每一步都是在已有文本上选下一个片段
- 训练学到的是常见续写，不是一份可更新的事实表
- 没放进上下文的文件，这一次回答用不到
- 句子流畅只说明续写自然，不说明与原文一致
为什么每次问，字不完全一样
若总是选概率最高的下一个 Token，回答会比较固定，也容易重复。实际产品会按概率抽样，并调节「温度」这类参数：温度低，更偏向高概率词，口气稳；温度高，更可能选到不那么常见的词，表达多变，也更容易跑题。所以同一问题连问两次，用词不同是正常的。对企业场景，稳定往往比文采重要，关键字段应由检索到的原文或业务系统给出，而不是由抽样决定。
模型也会在概率上「完成一种常见文体」。你若要求它写一份看起来像审计结论的段落，它会把语气、小标题和「综上所述」都补齐，即便材料不够。这不是它故意撒谎，而是这种文体在训练数据里几乎总是带着结论。要把结论限制住，需要在上下文里写明「材料不足就停止，不要补步骤」，并在系统外用题集检查它是否遵守。
原理对落地意味着什么
第一，不要把模型当成会查证的员工。它是一个极强的续写器。第二，事实要在生成前放进窗口，并保留可打开的出处。第三，格式、拒答和边界靠提示与外层规则一起约束，不能只靠「请你一定要准确」。第四，评估用固定题看是否越出材料，而不是看一次演示好不好听。
理解了「下一片段」这件事，后面的概念就容易放回原位：Token 是计量和计费的单位，上下文窗口是这一次的记忆，幻觉是续写超出了材料，对齐是让续写的风格更符合使用方的要求。它们都不是魔法开关。
和搜索结果的差别，问一次就能感到
搜索引擎返回的是链接列表，页在不在、是哪一版，人可以自己点开。生成式模型返回的是一句接好的话，链接有时附在旁边，有时没有。话是新写的，不是某一页的原文拷贝。因此「它回答了」不等于「有一页这样写过」。企业若把回答直接贴到对外窗口，等于把一次续写当成了盖过章的口径。
也正因为是续写，同样的材料换一种问法，侧重点会变。问「能不能做」，模型容易把材料里的可能性说满；问「第一期明确不包含什么」，它才更可能复述边界。提问方式是上下文的一部分，会影响下一个片段选什么。固定题集要连问法一起冻结，不能只冻结主题词。复测时若发现同一材料、两种问法结论相反，先改提示和页面结构，而不是认定模型随机。
生成式模型不取出一篇标准答案。它在你给的上文之后，按学过的写法继续往下写。
泛友在做企业助手时，会把「材料是否进了这次上下文、引用能否打开」放在模型品牌之前。若你正在评估一个对话功能，可以用一条公司内部才知道的规定去问：答得出且出处正确，说明检索接上了；答得很顺却没有出处，说明它只是在完成一种常见文体。
