为什么AI发明东西而不是说“我不知道”。
语言模型不会在事实数据库中查找答案. 它继续采用这种案文通常继续使用的方式,而且它这样做令人信服。 如果你要求一个具体的数字或链接,而模型没有可靠的数据,它仍然会产生一些可信的东西:正确的格式,自信的语气和良好的细节. 这就是为什么你无法用它的声音从发明中说出真相。 一个平稳、详细和冷静的答案对它是否正确没有任何说明。 记住这一点:当一个答案听起来奇怪时,应该有所怀疑,但当它包含一些可以核查的东西,而某种东西则取决于它时,就应该有所怀疑。
AI最常发明的东西
小而可核查的细节是最危险的. 最常被发明的项目是确切数字和百分比、事件日期、个人和组织名称、法律和文章编号、引用“取自一本书”或“访谈”、网站地址和研究论文标题、以及不存在的程序功能或设置。 与来源的链接也不能证明:AI也可以发明这些内容,用可信的出版物名称和年份完成. 一般推理,概念解释和自己文字的重写被发明得少得多,所以这就是首先指向AI的地方.
四张支票,需要五分钟
第一:要求源头,自己打开. 如果页面不存在或者有其他说法,请不要使用答案. 第二:找到原始值。 请检查date=中的日期值 (帮助) 校对:Soup 第三:用不同语言在新的聊天中提出同样的问题。 如果答案大相径庭,那就是警告信号。 第四:请大赦国际将其答复分为“自信”和“不确定,需要检查”。 虽然不能保证,但它显示出弱点。 主要规则:任何您要发布,发送或签名的,都要与主源对照检查.
如何写一个减少编解答的提示
削减发明的最佳方法不是要求AI回忆,而是给予它材料. 粘贴一个文本,一个表格或一个节选,并说它只能从中回答. 添加“案文没有说”的许可:许多模型需要明确告知,不允许知道。 请求简短的回答,并引用你的材料,所以每个声称都很容易检查. 不要要求“记忆中的准确数字”,不要在AI犹豫时推:压力增加了发明的机会。 如果您需要新数据, 请使用已有的网络搜索模式, 并且仍然打开链接 。
当你不能信任AI而不检查
某些话题有很高的误差成本:健康与药品,法律问题与最后期限,税收与金钱,安全,以及任何你用自己的名字或手向客户发布的东西. 在这些领域,大赦国际作为准备问题和起草草案的助手是好的,但不是决定的来源。 就健康和法律而言,最后的答案来自一位专家,数字和联系由官方来源证实。 一个有用的习惯:在使用结果之前,问问自己如果结果不真实会发生什么. 如果答案是“不严重”,快速检查就够了。 如果“有后果”,请检查主要来源或咨询专家。