热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
系统提示正在过时!
这是从构建现实世界代理中得到的一个反直觉的教训:
编写巨大的系统提示并不会提高代理的性能;它往往会使情况变得更糟。
例如,你添加了一条关于退款政策的规则。然后是一条关于语气的规则。再然后是一条关于何时升级的规则。不久之后,你就有了一本 2000 字的说明手册。
但我们学到的是:大型语言模型(LLMs)在处理这些方面非常糟糕。
最近的研究也证实了我们许多人所经历的情况。存在一个“指令诅咒”。你在提示中添加的规则越多,模型在遵循任何单一规则时的表现就越差。
这里有一个更好的方法:上下文条件指导。
与其使用一个巨大的提示,不如将你的指令分解成模块化的部分,只有在相关时才加载到 LLM 中。
```
agent.create_guideline(
condition="客户询问退款",
action="首先检查订单状态以查看是否符合条件",
tools=[check_order_status],
)
```
每个指导都有两个部分:
- 条件:何时加载?
- 行动:代理应该做什么?
魔法发生在幕后。当查询到达时,系统评估哪些指导与当前对话状态相关。
...

热门
排行
收藏