400 字
约 1 分钟
1
系统提示词问题

系统提示词问题

q:系统提示词的六个槽位上,SlotPlanner我理解是记录DAG状态是吧,SlotTaskMem记录具体节点的结果和状态,那系统提示词会一直频繁变化,会不会导致缓存经常不命中消耗大量token?如果有这两个东西了,还需要动态运行时记忆做什么?a:确实会消耗大量token,这个设计的时候没有...

字数: 298 | 语雀原文


q:

系统提示词的六个槽位上,SlotPlanner我理解是记录DAG状态是吧,SlotTaskMem记录具体节点的结果和状态,那系统提示词会一直频繁变化,会不会导致缓存经常不命中消耗大量token?如果有这两个东西了,还需要动态运行时记忆做什么?

a:

确实会消耗大量token,这个设计的时候没有考虑Prompt Cache,应该把固定的放前面,动态的放后面。

有了 Planner 和 TaskMem,为什么还需要动态运行时记忆?

严格来说,RuntimeContext 不是与这两个 Slot 并列的第三份记忆。它是“本轮上下文装配层”,Planner 和 TaskMem 是它的两个输入源。

它还需要解决 Planner/TaskMem 覆盖不了的内容:

  • 用户稳定偏好:SlotProfile
  • 当前安全和沙箱约束:SlotConstraints
  • 可用工具、近期工具故障:SlotToolState
  • 与当前问题相关的跨任务记忆:SlotRecall
  • 根据 chat/tool/react/rag 模式决定注入哪些信息
  • 对所有内容做 TopK、相关性过滤和 token budget 裁剪 ​
系统提示词问题
http://www.clxhxhhr.top/posts/788/
作者
clxstart
发布于
2026-09-18
许可协议
CC BY-NC-SA 4.0
评论
0 条
还没有评论,先写一条吧。