大模型是什么、为什么会一本正经地出错

你会学到什么

学完本单元，你能用自己的话说明大模型怎样生成回答，并在一段回答里标出需要核对的句子。大模型从大量文本中学会了“接下来最可能出现什么文字”，回答时一段段生成通顺的内容，并不会在每句话后面自动查证。材料里没有的数字、日期、人名或出处，它也可能补出一个看起来合理的版本，这类错误常被称为“幻觉”。语气肯定不代表正确，同一个问题问两次，答案也可能不同。

跟着做

先做一次“逐句贴标签”的练习。下面是本课虚构的图书馆说明，把它当作唯一可信的材料：

社区图书馆周二至周日开放，时间 9:00—20:00，周一闭馆。
凭身份证免费办理借书证，每次最多借 5 本，借期 30 天，可在线续借一次。
逾期归还每本每天收费 0.1 元。

再看一段回答。它由本课编写，用来展示常见错误，不代表某个模型的实际输出：

这家图书馆每天 9:00—20:00 开放。每次最多借 5 本，借期 30 天。可以续借两次。馆内有自习室和免费 Wi-Fi。逾期每本每天 0.1 元。

逐句对照材料：“每天开放”与材料冲突（周一闭馆）；“最多借 5 本、借期 30 天”有依据；“续借两次”与材料冲突（只能续借一次）；“自习室和免费 Wi-Fi”材料没说，可能存在，但不能当作事实；“每本每天 0.1 元”有依据。五句里两句错、一句无依据，整段读起来却很顺。

如果手边有任意 AI 对话助手，可以把材料和下面这段完整提示一起发给它：

只根据下面的材料回答，不要补充材料里没有的信息。
用三句话介绍这家图书馆的开放时间、借书规则和逾期费用。
材料没写的内容（例如自习室、停车）请写“材料未说明”。
写完后，逐句标出它对应材料里的哪一句。

（在这里粘贴上面的材料）

常见失败一：回答仍写“每天开放”。修订时指出错误、给出依据、限定修改范围：“你写了每天开放，但材料写的是周一闭馆。请只改开放时间这一句，其余句子保持不变。”

常见失败二：同一个问题再问一次，回答多出“支持自助机还书”。两次回答不同，不说明哪一次更对；材料里找不到这句，就删去或改成“材料未说明”。在提示里加“请绝对准确”补不出缺失的事实，真正起作用的是给材料、限定依据、要求逐句对应。

想做更完整的核对练习，可以继续读模型输出实操。

动手练习

用本课的图书馆材料，给五句回答逐句标上“有依据 / 与材料冲突 / 材料没说”，并写出对应的材料原句；再只用材料事实写一段三句介绍。如果有 AI 助手，用上面的提示问两次，记录两次回答中不同的句子，判断它们有没有依据。

完成检查

• 五句回答都有标签，并写出对应的材料原句
• “材料没说”的内容没有写进三句介绍
• 能说明语气肯定为什么不等于正确

继续阅读

官方参考资料

本单元为 AIScope 原创学习说明，外部资料用于继续阅读。涉及第三方 API 的示例请以提供商当前文档为准。