溯源(Grounding)
定义
溯源是指把语言模型的输出和可辨认的原始材料绑在一起,让每一句说法都能追溯到它所出自的证据,而不是只凭模型本身。
- 相关
- 引用、出处标注、RAG
- 该问的问题
- 精确到什么程度?
- 有用的程度
- 逐字原句
溯源是一道光谱,其中大部分没用
不说清精确程度,这个说法几乎毫无意义,因为下面这些在技术上都算溯源:
回答给了你什么核对一条说法的成本
- 「根据你的文档」无从核对
- 一串文件名逐个打开文件,读到找到为止
- 文档加页码翻到那一页,扫一遍
- 逐字原话,点一下就到原页读一句话
只有最后一行比你自己重读原文更省事——而这正是有人真的会去核对的唯一理由。
同一条说法,四种溯源方式。横条是你核对它要付出的成本。
只有最后一行经得起真实工作的考验。它上面的每一行,核对成本都比你自己重读原文还高——所以没人会去核对,引用也就不再起核对的作用,沦为装饰。一条从没被点开的引用比没有引用更糟,因为它让你白白多了一份信心。
精确程度掩盖的第二件事:一句真实的引文,可能被挂在一个它并不支持的结论上。出处存在,页码也对,推论却是错的。精确到文档的溯源发现不了这一点;精确到句子的溯源,点一下就看得出来。
值得问任何工具的两个问题
- 我能在五秒之内,从一条说法走到确切的原话吗? 如果不能,这种溯源是为厂商的宣传服务的,而不是为你的核对服务的。
- 在我看到之前,有没有东西被核对过,还是只是贴了一条引用? 给生成的文字贴上出处,只是一个排版步骤。核实被引用的文字确实在原文里,是另一件事,也少见得多。
MindMax 怎样处理
每条说法都带着它所依据的逐字引文。回答完成时,每一句引文都会和原文比对,对齐到原文的确切措辞;被改写过、被润色过或者编造出来的引文找不到对应,会在回答里被标出来,而不是冒充已核对。具体机制见引文核对。
点击一句引文,就会在那一页打开文档,并高亮那句话。
展开一条引用:文档、页码,以及那句确切的话——左边 PDF 里同一句被高亮。
常见问题
对 AI 回答来说,溯源是什么意思?
它的说法能追溯到可辨认的原始材料。有多大用处取决于精确程度:一个文件名只告诉你从哪里开始找,逐字原句则让你几秒钟就能核对这条说法。
引用就等于溯源吗?
引用是溯源的一种形式。它有没有用,取决于它指向什么、有没有东西核对过它——一条没核实引文、只是贴在生成文字上的引用,是排版,不是证据。
怎样快速核对一个有出处的回答?
去核对那些你后续工作要依赖的说法,而不是全部。如果每条都指向一句点一下就到的确切原话,核对要紧的那三条只要一分钟。