AI 为什么会编造引用,以及能抓住大部分编造的那一项检查
· 阅读需 5 分钟
AI 会编造引用,因为对语言模型来说,一条参考文献只是又一段应该看起来合理的文字——而一个合理的标题、作者和页码,不需要背后有任何文档就能写出来。能抓住大部分编造的检查很简单:要求给出被引用的确切原话,并在相信这条说法之前,拿它去和原文比对。
这是一项机械性的检查,所以软件能做。大多数工具不做,那些令人难堪的故事就出在这个缺口里。
MindMax 是怎样做出来的,以及为什么这样做。
查看所有标签AI 会编造引用,因为对语言模型来说,一条参考文献只是又一段应该看起来合理的文字——而一个合理的标题、作者和页码,不需要背后有任何文档就能写出来。能抓住大部分编造的检查很简单:要求给出被引用的确切原话,并在相信这条说法之前,拿它去和原文比对。
这是一项机械性的检查,所以软件能做。大多数工具不做,那些令人难堪的故事就出在这个缺口里。
AI 思维导图值得重新用起来,因为它过去的弱点从来不在图本身——而在于一张空白导图只装得下你已经想到的角度。当每条分支都能把一个有名有姓的思维模型用在你真实的材料上时,导图就不再只是映照你的习惯,而是开始拓宽它。
思维导图已经悄悄过时了十年,通常的解释——工具太笨重——从来就不对。工具没问题。是别的地方出了错,值得把它说准确,因为恰恰是那一部分变了。
MindMax 是一款运行在 macOS 和 Windows 上的桌面应用,在一个你已经拥有的文件夹里,陪你读、想、写。关于你文档的回答都带着逐字引文,点一下就回到原页;AI 对你文字的每一处修改,都以一处由你接受或拒绝的修订到达。
现在有很多工具能读一份 PDF,再和你聊聊它。我们做的是另一种形状的东西,值得说清楚为什么。