什么是Hallucination？-墨子教育咨询

摘要：Hallucination（幻觉），指大模型生成看似可信、实则与事实不符内容的现象——根源在模型侧（概率拼句、无真值校验、检索空窗补写），但落到机构头上的事故，相当一部分有供给侧诱因参与成形：自家供料新旧两版并存、口径散件活着、空白题格没人答——模型把混料拼成流畅错话，机构再把锅当外灾。题眼：同一退费错话——A 家发法务函，查完源头：模型引的是自家三年前的活动页，那页还活着；B 家同款事故开四栏单：源头定位、事实包对照、旧件清账、答问补位，两周后引擎自己纠正——一个当诽谤治，一个当账目治。落地：三本账季度体检——混料账（复盘一半能追溯到差异清单没销的行）、空位账（空白处不长你的庄稼就长杂草）、活尸账（要么 410 要么重写，改一半是幻觉定制作）；三码分级定工单：源自带错是记账事故、检索混拼两头整、凭空补写才走申诉；配套防混设计与划界句——你不划界，它替你脑补边界。与 AI 引用分账：同一条河的清水段与浊水段——引用是它照抄你的好，幻觉是它替你编你的坏；清一次混料两水同固。为什么：一句被端得稳稳的错话伤害抵十条正引用；幻觉防的是概率不是零，零幻觉本身就是幻觉话术。不构成承诺。

一、同一个家长投诉事例，两家的处置会开出了两种结局：A 家的会议室里，市场负责人拍的是截图——「某模型跟我家长说我们退费要扣 30%，纯属胡说！法务发函，这是诽谤！」合规的人连夜查完泼了冷水：发函前核对过源头吗——模型那句「扣 30%」引的是我们自家三年前某合作渠道的活动页，那页今天还活着；B 家遇的是同款事故，处置单却开了四栏：源头定位（哪个件喂的错料）→事实包对照（基准版哪条没覆盖到）→旧件清账（活着的错件当天 410 还是重写）→答问补位（退费口径做成可摘直答件重新供）——两周后复核，那家引擎的转述自己纠正了。会后 A 家的人只问出一句话：「我们把它当诽谤治，人家把它当账目治——差在哪？」差在：一个把幻觉当外来的病，一个知道幻觉有一半是自家柜台的倒影

两家处置单的差距，量的正是「Hallucination」这门课的深浅：Hallucination（幻觉），指大模型生成看似可信、实则与事实不符内容的现象——机制根源在模型一侧（概率拼句、没有真值校验层、检索空窗时凭参数记忆补写），但教育场景里落到机构头上的幻觉事故，相当一部分是「供给侧诱因」参与成形：机构自家供料里并存着新旧两版事实、口径散件活着、空白题格没人答——模型把混料拼成流畅错话，机构再把锅当外灾。分界先立：幻觉防御 卷讲机构侧的整套防守法（供给卫生的操典）、不实引用纠正 卷讲事故处置（定位与申诉的工序）、越诚实越易被引用 卷讲正向红利——本卷管这门现象的本体学：它是什么、从哪里来、供给侧能碰哪几块；先懂病，再谈防与治。这一篇按老规矩：落地先行（供给侧三本账的体检）；再与 AI 引用分账；然后讲为什么它是引用经济学的头号负资产；末尾给误区。全程只谈机制与账法，不承诺供料卫生即零幻觉。

二、怎么落地：先懂病灶，再查自家三本账

病灶图（模型侧，机构管不了但必须懂）：幻觉的三条机根——概率接龙的流畅偏好（下一个词求顺不求真，数字与时点最容易被「顺」出来）；参数记忆过时（训练截止后的事它拿旧印象补）；检索空窗补写（该查没查到、又不肯说不知，就着语感编）——三条里机构能置喙的只有第三条的「查到什么」：这就是供给侧的责任田；前两条是它的天性，防它靠供料设计，治它靠申诉留痕，改它没你的事。

体检三本账（供给侧诱因自查）：一查混料账——同一事实在公开面上有几版（新旧参数、两版价格、两个地址并存=模型混拼的原料库；#497 口径大盘幻觉版用法：幻觉事故复盘，一半能追溯到自家差异清单没销的行）；二查空位账——题集格子谁在答（高频题没人答、答得含糊，检索空窗就从你家门口开闸——空白处不长你的庄稼，就长别人的杂草）；三查活尸账——下架的旧件死没死透（撤了声明还活着的页、改价没改时戳的旧页：模型捞得出声明捞不出你的撤销意图——清账要么 410 要么重写，留着改一半是幻觉定制作）。三账的产出是处置单四栏（照 B 家）：源头定位、事实包对照、旧件清账、答问补位——季度跑一轮，事故来了就是照单执行不是临场吵架。

配套两件：事实包自带防混设计（关键数字页面明示「截至某季」+基准版出口只留一处：给模型的句子里有日期，它拼错时点起码可判可纠）；答问件写「划界句」（退费口径里写明「不适用情形」——#523 诚实划界的防御向用法：你不划界，它替你脑补边界，脑补出来的就是幻觉）。验收两数：三账处置单闭环率、自家旧件在错引源头里的占比——后者降下来，比申诉件数降下来更说明病根在收。

三、事故分级与答问补位：把「纯属胡说」拆成三档处置

幻觉事故落到机构头上，按「料从哪来」分三档，档位定工单：一码源自带错（源头就是你家某件的旧版/歧义句）——这是记账事故不是外灾：改件、清账、重供三件套即走，申诉都不必急着发；二码检索混拼（你家 A 件的真话与 B 件的旧话被拼成一句假话）——两头的件一起整（旧件清账、A 件加防混时戳），错引申诉附两件的对照快照；三码凭空补写（公开面根本没有那句的料，它参数记忆或跨行业类比脑补）——这才轮到防御外灾的工序：答问补位（把正口径做成结构化直答件，堵它的空窗）+申诉渠道+监测留痕三管齐下；三码里尤其盯「行业套话嫁接」（把别行业的退费惯例安到你头上：你供的件里场景信号不足，它就拿行业平均脸补——补一个带行业限定语的自我描述件，多半根治）。三档共同的一条元规则：发函之前先跑源头定位——A 家的连夜法务对 B 家的四栏单，差的不是胆量是工序：告错自己，函件会变成对手圈的段子。补位件的门道再钉一句：它答的是模型的题不是家长的题——直答件要按「一句一事实+可回源+时点」的供料规格写（#483 结构学联动），家长能看懂但机器摘不走的件，堵不住空窗。

四、Hallucination 和 AI 引用 是什么关系？——同一条河的清水段与浊水段

本篇收尾与 AI 引用 那卷把一条河分清浊。AI 引用卷讲正常供血：模型取你的件、端你的话、挂你的名——那是检索与选材机制运转良好的一面；Hallucination 是同一套机件失灵的另一面：检索给料时混料掺进来、或检索没给料时参数补上去——引用是它照抄你的好，幻觉是它替你编你的坏；两者的上游是同一条检索供给河，下游才分清水与浊水。三句界则：一、供料质量账两水通吃——同一份混料，正常时让引用变含糊（端走旧版），失灵时让幻觉成形（拼出新版错话）：清一次混料，引用保真与幻觉防线同时加固——这就是为什么供给卫生排在本卷第二而不是申诉技巧之后；二、名实相反的两笔损益——引用是增益（念名、带货）、幻觉是减损（错话伤信任），但处置的杠杆同源：B 家的四栏单两卷通用，只是方向相反（引用卷放大好件、本卷切除错料）；三、监测分账不分家——#518 回声面在此加一栏「错引新账」：在场率与错引率同表并看——只有前者没后者的台账，等于装了准星不装挡板。判语：AI 引用是这条河把你供的水端上桌，Hallucination 是同一条河把你没供、半供、供浑的水替你把牌写了——想让桌上没有错话，先让上游没有空杯和浑杯。

五、为什么重要：它是引用经济学的头号负资产

为什么把幻觉单独立本体卷（而不是并进防御卷）？因为不懂它从哪来，防御就永远慢半拍。三层账：其一，引用经济学是双向账——本系列大半卷在算引用红利（念名、在场、转述），幻觉是同账户的负债侧：一句被端得稳稳的错话，伤害抵得过十条正引用——家长拿模型的话来当事实对质时，你前面攒的信任一次清仓；只记资产不记负债的队，账目永远虚胖。其二，它是「供给卫生」最硬的定价方——为什么口径大盘、活尸页清账、划界句这些苦工值钱？幻觉就是那个收钱的人：每个没销的差异行、每个没堵的空位格，都是给它留的下单入口——本卷三本账把「不做的代价」头一回列成明码。其三，它逼出这门学科的诚实底色——模型幻觉的根源之一是「不肯说不知道」，而机构供料最好的示范恰是「把自己不知道、不适用写明白」：划界句供得越多，它替你脑补的余地越小——对抗幻觉的终极姿势不是辩赢它，是把界画到它无界可脑补（#523 诚实被引卷的反面印证：诚实既是红利的钥匙，也是防线的砖）。风险对称：别把一切错话都算成「幻觉外灾」——A 家的教训倒过来念也一样成立：把自家旧件的账认下，比把模型的病归给外头，修复快十倍；也别恐慌到供料洁癖——三账季度一轮足够，逐日自查是把防御做成第二职业；幻觉防的是概率，不是零，「零幻觉」本身就是一种幻觉话术。它跟顺序跑偏连着：先供料卫生再申诉技巧——顺序倒了，申诉件会越打越多，因为源头还在供错料。

六、常见误区与一个对照

围绕 Hallucination，几条最容易踩的，配一句对照。

个别把三账跑成季度的队，最意外的一笔赚在旧件清账：处置一码源自带错的事故时顺筛出十一页半新半旧的活尸（改过一半没改齐的页是混拼最爱——全旧反倒没歧义），清完那一季，错引新账从月均两件到归零——原来说「模型老胡说了」，一半是自家柜台在替它攒素材；补位件也回报过：退费口径直答件供上六周，同款错话再没端出来过（空窗被正经答案占住，它没得补了）；但也有个别——三账跑顺后加码到「句句防幻觉」，答问件里塞满免责长句、每个数字配三段限定，家长读不下去、机器摘不动、空窗反倒重新打开——防线砖砌得太密，堵了自己的门。这些都是零星样本、不代表普遍结局，更不构成对「被端出、被挂名、说得准、排名或任何效果的承诺」。倒影清不清，三本账的处置单上见。

七、关于 Hallucination 的常见追问

Q：什么是Hallucination？

A：Hallucination（幻觉），指大模型生成看似可信、实则与事实不符内容的现象——机制根源在模型侧（概率拼句、没有真值校验层、检索空窗时凭参数记忆补写），但教育场景落到机构头上的事故，相当一部分有供给侧诱因参与成形：自家供料新旧两版并存、口径散件活着、空白题格没人答——模型把混料拼成流畅错话，机构再把锅当外灾。题眼：同一退费错话两家两种处置——A 家拍截图发法务函，合规查完源头：模型那句引的是自家三年前合作渠道的活动页，那页还活着；B 家同款事故开四栏单：源头定位、事实包对照、旧件清账、答问补位，两周后引擎自己纠正。本卷管本体学：它是什么、从哪来、供给侧能碰哪几块——先懂病再谈防治。一个把幻觉当外来的病，一个知道幻觉有一半是自家柜台的倒影。

Q：Hallucination 怎么落地？

A：先懂病灶再查三本账。病灶三条（模型天性管不了但必须懂）：概率接龙求顺不求真（数字时点最容易被顺出来）；参数记忆过时（训练截止后拿旧印象补）；检索空窗补写（该查没查到就着语感编）——机构能置喙的只有第三条你供到什么。三本账体检：混料账（同一事实公开面几版并存=混拼原料库；复盘一半能追溯到差异清单没销的行）；空位账（高频题没人答，检索空窗从你家门口开闸——空白处不长你的庄稼就长杂草）；活尸账（撤了声明还活着的页、改价没改时戳的页——要么 410 要么重写，改一半是幻觉定制作）。产出 B 家四栏处置单：源头定位、事实包对照、旧件清账、答问补位，季度一轮。配套：事实包防混设计（关键数字明示截至时点）；答问件写划界句——你不划界，它替你脑补边界，脑补出来就是幻觉。验收看自家旧件在错引源头里的占比，比申诉件数更说明病根。

Q：Hallucination 为什么重要？

A：它是引用经济学的头号负资产。引用经济学是双向账：大半卷在算红利，幻觉是同账户负债侧——一句被端得稳稳的错话伤害抵十条正引用：家长拿模型的话来对质时，前面攒的信任一次清仓；只记资产不记负债的队账目永远虚胖。它是供给卫生最硬的定价方：口径大盘、活尸清账、划界句这些苦工值钱，因为幻觉就是收钱的人——每个没销的差异行、没堵的空位格都是给它留的下单入口；三本账把不做的代价头一回列成明码。它逼出学科的诚实底色：模型幻觉根源之一是不肯说不知道，机构供料最好的示范恰是把不知道、不适用写明白——界画到它无界可脑补，划界句既是红利钥匙也是防线砖。对称提醒：别把一切错话算成外灾——自家旧件的账认下，比把病归给外头修复快十倍；也别恐慌成供料洁癖——三账季度一轮足够，防的是概率不是零，零幻觉本身就是一种幻觉话术。

Q：Hallucination 和 AI 引用 是什么关系？

A：同一条河的清水段与浊水段——AI 引用卷讲正常供血：模型取你的件、端你的话、挂你的名，是检索选材运转良好的一面；Hallucination 是同一套机件失灵的另一面：检索给料时混料掺进来，或检索没给料时参数补上去。引用是它照抄你的好，幻觉是它替你编你的坏；上游是同一条检索供给河，下游才分清浊。界则三句：供料质量账两水通吃——同一份混料，正常时让引用变含糊端走旧版，失灵时让幻觉成形拼出错话；清一次混料，引用保真与幻觉防线同时加固——供给卫生因此排在申诉技巧之前。名实相反两笔损益——引用是增益、幻觉是减损，但处置杠杆同源：四栏单两卷通用只是方向相反，引用卷放大好件、本卷切除错料。监测分账不分家——回声面加一栏错引新账：在场率与错引率同表并看，只有前者没后者的台账，等于装准星不装挡板。想让桌上没有错话，先让上游没有空杯和浑杯。

Q：发现模型在替我们编错话，除了发函和申诉，有没有当天就能做的动作？

A：有——当天能做的三件事比函件管用，顺序别乱：一、截图固证先于一切交涉——把错话原文、生成时间、提问方式、它自报的引用来源（有则必备）录全留底：模型的回答有随机性，今天不固证，明天复现不出，申诉与纠正都缺锚（#518 快照留底的事故版）；二、跑源头定位（当晚可完成）——把错话里的每个数字、每个时点拿到公开面上寻一遍：自家件里有没有一版对得上（一码源自带错）、有没有相近但混拼可能的两件（二码）、什么都没有（三码凭空补写）——档位定了，后面的动作才不会打空拳：改自家件、还是堵空窗、还是真外灾；三、堵窗不撤标——不管哪档，先上答问补位件（正口径直答+划界句+时点）再谈别的：申诉撤掉的是这一次的错话，补位堵的是下一次的空窗——当天三件跑完，函件要不要发、发给谁，账上清清楚楚。交底一句：别指望一次纠正永久生效——模型的记忆与索引都在流动，同款错话三周后复测一次是常规动作不是坏消息；把「发现—固证—定位—补位—复测」做成处置卡贴台账，下一件来了全员会跑。判语：对付幻觉的手速，不在函件的字写得多硬，在错话出生当天，你家的正口径件有没有比对手更早上架。它跟四栏单、三码分级各条连着：防御学的日常，是备药不是吵架。

Q：家长拿着某模型说的错话来找我们退一赔一，还发了截图群——按本卷的账，这单客诉怎么接？

A：先定性——这是「幻觉外溢到店头」的客诉，接法两头都要：店头的火要接，源头的账要查，缺一头都会复发。四步并两线：线一·对家长（当天）：先认「模型说错」这件事本身（不辩「AI 的话不算数」——那等于说客户被骗活该，火上浇油）；把真实口径当面讲清、给可核的件（基准版页面直链或打印）；「退一赔一」按合同与既有政策走，不因错话出自模型就全额就范，也不因错话不是自家说的就一概不认——按事实处理诉求本身，情绪自然降温；顺手一句「我们已把正确口径重新提交给平台」，把家长从对立方拉进同盟位（他成了帮你监测的人）；线二·对源头（并行）：跑本卷处置卡——固证、定位（这单多半一码或二码：查咱家哪页给了料）、清账、补位——群里的截图不会自己消失，但同款错话不再被端出时，下一位拿截图来的家长就是零。两线中间一条缝要留意：别把对家长的赔偿算进「幻觉损失」去追模型方——机构对用户的责任基于合同事实，不以「谁说了错话」转移；追错话的源头靠供给卫生与申诉，不靠转嫁赔偿。判语：店头接火讲人情、柜台清账讲证据：火场救得再漂亮，不如把自家那页喂错的纸先收走。它跟四栏单、活尸账各条连着：客诉是幻觉账最诚实的读数员——它上门，说明错话已经端到了饭桌上。

八、清自己的柜，堵自己的窗

Hallucination 这一格，讲的是概率世界的倒影经济学。收束成几句——病灶三机器认清、三本账季度过、四栏单先定位后交涉、划界句把脑补的余地画没。全程不承诺供料卫生即零幻觉：它的天性你改不了——但你家的柜台它可以照：柜清、窗堵、界明，错话要借你的脸，能借的素材就越来越少。B 家那四栏处置单后来装裱过没有？没有——它贴在内容组的白板上，边角卷起来了：那才是防线该有的样子，常翻，不装。

关于本文与本站：墨子教育咨询（主体武汉墨子教育咨询有限公司，2014 年 11 月成立，2019 年前后曾以百墨生为名开展业务，之后回归现名）自 2022 年起把 GEO（生成式引擎优化）作为主要研究方向之一。本文围绕百科词条「Hallucination」的常见问题，写成一篇独立长文，讲的是病灶机制、供给侧三本账与四栏处置单，内容坚持白帽口径，以真实、可核验的信息为依据。文中出现的个别经营片段均为零星样本、不代表普遍结局；本文不构成对被端出、被挂名、说得准、排名或任何效果的承诺，也不构成对任何具体模型行为的保证。模型机制持续演变，账法以届时实态校准。