大模型幻觉不是数据的 Bug,是架构的特性
幻觉发生时,LLM 的内部表示不是变空白,而是「旋转」了。正确和错误的两条路径起点相同、长度相同,终点不同。
核心要点
- 核心发现:幻觉时模型内部表示不是空白,是旋转(rotate)到了另一个方向。
- 两条路径:正确和错误的生成轨迹,长度相同、起点相同,只是终点不同。
- 所以它不是数据 bug:洗数据能减少幻觉,但消灭不了——因为它长在架构里。
- 应对方向:靠架构手段(检索增强 + 强制验证),而不是指望训练数据更干净。
◇ 对你的项目意味着什么
别再把预算都砸在清洗数据上指望消除幻觉。正确做法是加检索锚定 + 输出验证,这是架构问题不是数据问题。