系统提示正在过时! 这是从构建现实世界代理中得到的一个反直觉的教训: 编写巨大的系统提示并不会提高代理的性能;它往往会使情况变得更糟。 例如,你添加了一条关于退款政策的规则。然后是一条关于语气的规则。再然后是一条关于何时升级的规则。不久之后,你就有了一本 2000 字的说明手册。 但我们学到的是:大型语言模型(LLMs)在处理这些方面非常糟糕。 最近的研究也证实了我们许多人所经历的情况。存在一个“指令诅咒”。你在提示中添加的规则越多,模型在遵循任何单一规则时的表现就越差。 这里有一个更好的方法:上下文条件指导。 与其使用一个巨大的提示,不如将你的指令分解成模块化的部分,只有在相关时才加载到 LLM 中。 ``` agent.create_guideline( condition="客户询问退款", action="首先检查订单状态以查看是否符合条件", tools=[check_order_status], ) ``` 每个指导都有两个部分: - 条件:何时加载? - 行动:代理应该做什么? 魔法发生在幕后。当查询到达时,系统评估哪些指导与当前对话状态相关。 ...