为什么AI在长篇大论中感到困惑
每次,一个语言模型都会以一个大文本和基于它的答复来接收整个对话. 该案文的篇幅有限,而且整个模式的注意力分布不均:从一开始,最新和最明确的事物比协议更重要。 所以在长时间的聊天中,原始规则会失去分量,答案的准确度会降低,早期的错误和出错的细节开始影响新的规则. 这不是人类意义上的记忆,而是对大小和上下文使用方式的限制. 聊天的时间越长 越乱 错过重要东西的机会就越多
第一个技术:一个聊天,一个任务
避免混淆的最可靠方式是不要将不同的任务混为一谈. 如果您已完成给客户端的一封信, 现在需要演示文稿大纲, 请打开新的聊天 。 这样,任何额外都不要停留在上下文中,模型也不试图将不相容的东西结合起来。 聊天标题也有所帮助: 您很容易找到合适的对话 。 如果任务很大,则将它分成几个阶段,并给每个阶段一个短而自成一体的以它需要的数据作为提示,而不是希望模型能一时掌握一切.
第二种技术:协议摘要和重新启动
当聊天时间长了,请AI写出一个简短的总结:目标,做出的决定,格式和语气的要求,以及做了些什么. 检查并改正. 然后打开新的聊天并粘贴摘要作为第一个消息,并添加了新的任务. 你得到一个干净的背景, 重要的东西在开始 而不是埋在额外的谈话。 这对您运行过几天的项目特别有用: 在笔记中保留摘要,并在每次返回工作时粘贴.
第三个技术:在他们不会丢失的地方 修正规则
永久规则(语言,风格,限制,答案格式)在每次聊天中最好不要用手来重复. 许多服务都有自定义指令设置或项目工作空间,其中规则单独存储并自动被应用. 名称和特征取决于服务,所以在设置中查看. 无论如何, " 回答不超过五句 " , " 使用正式的`你 ' " 。 长而模糊的指示比短而具体的指示差.
如何检查AI记得一切
在进行重要工作之前,请模型简要地重复它所遵循的哪些要求:目标、格式、限制。 如果复述中缺少什么,请明确添加. 对于很长的文档,而不是粘贴出一个巨大的文本,而是将其分拆成若干个部分并进行处理,然后在结尾集合结果. 如果您注意到在长时间的对话后答案会越来越差,请不要乞求模型记住:用摘要开始新的聊天. 它比修正累积的漂移速度快、可靠。