400 字
约 1 分钟
1
系统提示词问题
2026-09-18
系统提示词问题
q:系统提示词的六个槽位上,SlotPlanner我理解是记录DAG状态是吧,SlotTaskMem记录具体节点的结果和状态,那系统提示词会一直频繁变化,会不会导致缓存经常不命中消耗大量token?如果有这两个东西了,还需要动态运行时记忆做什么?a:确实会消耗大量token,这个设计的时候没有...
字数: 298 | 语雀原文
q:
系统提示词的六个槽位上,SlotPlanner我理解是记录DAG状态是吧,SlotTaskMem记录具体节点的结果和状态,那系统提示词会一直频繁变化,会不会导致缓存经常不命中消耗大量token?如果有这两个东西了,还需要动态运行时记忆做什么?
a:
确实会消耗大量token,这个设计的时候没有考虑Prompt Cache,应该把固定的放前面,动态的放后面。
有了 Planner 和 TaskMem,为什么还需要动态运行时记忆?
严格来说,RuntimeContext 不是与这两个 Slot 并列的第三份记忆。它是“本轮上下文装配层”,Planner 和 TaskMem 是它的两个输入源。
它还需要解决 Planner/TaskMem 覆盖不了的内容:
- 用户稳定偏好:
SlotProfile - 当前安全和沙箱约束:
SlotConstraints - 可用工具、近期工具故障:
SlotToolState - 与当前问题相关的跨任务记忆:
SlotRecall - 根据 chat/tool/react/rag 模式决定注入哪些信息
- 对所有内容做 TopK、相关性过滤和 token budget 裁剪
评论
0 条
还没有评论,先写一条吧。