2047 字
约 6 分钟
11
S21-J18 · 后记与思考题索引:两朵乌云,一次共同演进

适用读者:读完全书、想判断"接下来该关注什么"的人;用思考题复习的人。
前置:S21-J08–J17(教材层全部章节)。
覆盖旧文:A-4577(后记,4,272 字符)、A-4578(思考题参考答案,27,053 字符)→ 2 章 / 约 3.1 万字符。
扩展点:E-S21-056(两朵乌云:实时交互与持续学习)、E-S21-057(模型与 Agent 的飞轮关系)。
上一篇:S21-J17 · 多 Agent 协作:一条判据、六种失败、三类架构
下一篇:回到 S21 目录 / S21 验收报告 。


1. 两朵乌云(E-S21-056)

1900 年开尔文说物理天空还有两朵乌云,后来成了相对论与量子力学。今天 Agent 的天空也有两朵。

乌云一:如何流式地、实时地与环境交互

现状:绝大多数 Agent 仍是轮次式"请求—应答"——你说完一句,它想一整段,再吐结果。但世界不停下来等它想完:话会被打断、画面在变、邮件在到。

两条路(常常并行):

路 做法 依据
架构快慢分离 前台快模型维持节奏、后台慢模型深度思考 实时与智能是两条正交轴,单模型难兼顾
把推理做快 提高 decode 速度,让"想完再说"的等待短到近乎消失 芯片与推理引擎推进

原文引述的数字(待核):小米 MiMo 让 1T 参数模型在单 8 卡节点上超过 1000 token/s;Taalas HC1 把 80 亿参数模型固化进芯片,约 17000 token/s、响应 <100 ms。

乌云二:如何像人一样从成败中持续积累经验

现状:今天的模型像"记性极好、却学不会新东西的天才"——训练时把人类知识背熟,上岗后几乎不再成长。

两种针锋相对的假设:

假设 主张 结论指向
小世界 足够大的模型装得下物理世界几乎所有通用知识,学一次就够 瓶颈在数据:去跟各行业合作,把专业能力蒸馏进同一个模型
大世界 属于某个用户、某家公司的知识不在任何语料里,且时时在变 必须上岗后持续学习(J10 记忆 + J16 进化)

旁证:AI 今天唯独编程最强,不是因为代码特殊,而是编程是人类最开放的领域——海量开源代码可供学习。

前沿方向:RSI(递归自我进化)、AI for Science——在没有现成答案的地方,只能从一次次实验成败中自主学习。

判据:模型最强的能力,终将不是记住,而是学习与适应。


2. 模型与 Agent 的共同演进(E-S21-057)

回看 Harness 里那些"丑"的兜底:多级上下文压缩、失败数千次才熔断的重试、默认"不安全"的权限判断。每一段丑代码,记录的都是模型此刻还做不稳的地方。

用户提出真实难题
  → 应用层用 Harness 补上模型暂时做不好的事
  → 这些补救沉淀为下一轮训练信号
  → 下一代模型把约束内化
  → 对应代码被删掉
  → 循环

这就是自我强化的飞轮,也回答了第一章悬着的问题:模型会不会吃掉 Harness?——吃掉的是"今天的补丁",不是"保障层"本身。保障会随模型能力迁移位置,但不会消失。

判据:"屎山"是模型能力边界的化石记录。 看到一段兜底代码,先问"它在补哪个能力缺口"。


3. 思考题索引:十二章的问题与答案要点

答案由作者用 AI 生成、经人工略作审校;原文声明"多为开放性问题,答案不唯一"。下表是要点索引,完整答案见 A-4578。

章 主题 代表问题 答案要点
1 Agent 入门 只能加一项能力,选模型/上下文/工具? 先找短板:通常补上下文;推理不够才换模型;动作不足才加工具
1 ReAct 缓存读取为何近似 O(n²)? 累计读取而非占用;达阈值批量压缩、中间结果外置、子 Agent 隔离;不能每轮压
1 "模型即 Agent"与 Harness 更重要如何共存? 马与缰绳:越自主越需约束;框架价值转向保障层
1 无限循环的其他诱因与终止机制? 工具重复报错、幻觉工具、压缩丢状态、任务无解;最大迭代 + 相同调用指纹检测 + 升级人工
1 航班订票选工作流还是自主 Agent? 主体工作流(合规顺序、缩小注入面),开放环节自主,高风险加人工确认
1 低风险工具在特定参数下变高风险,怎么评? 评级对象细化到"工具+参数";规则化确定性检查,不交给模型判断
2 上下文 静态前缀与轨迹的取舍 前缀稳定可缓存;压缩只动尾部;保留决策/约束/失败/引用
3 记忆 四种存储格式怎么选 关键少量用 Advanced JSON Cards,海量非关键用 Simple Notes
4 工具 工具太多怎么办 索引化、主动发现、Skills 按需;形态与披露分开决策
5 Coding 何时开始动手 模型策略决定;Harness 只能放大或抑制
6 交互 同步 vs 异步边界 事件驱动 + 时间驱动;原生异步需接口支持
7 评估 Pass@k 还是 Pass^k 探索看 @k,关键操作看 ^k
8 后训练 SFT 还是 RL 定协议用 SFT,求泛化才 RL;先补底座
9 进化 哪些不能自动改 权限、奖励、评估集、审计
10 多 Agent 何时真正优于单 Agent 是否引入新信息

用法建议:先答再看——开放题的答案是"一种合理回答",不是标准答案;对不上不代表你错,要能说出自己的条件。


4. 全书回望:三层结构

层 章节 回答什么
构建 1–6 Agent 由什么组成、怎么扩展观察与动作空间
验证 7 怎么知道它行不行
改进 8–10 怎么让它变好、怎么让多个它协作

判据:没有第 7 章,第 8–10 章都是盲改。 评估是进化的前置。


5. 自测

  1. 两朵乌云各是什么?各有哪些推进路线?
  2. "小世界"与"大世界"假设的分歧点在哪?
  3. 为什么说"屎山是模型能力边界的化石记录"?
  4. 读思考题时最该避免的误区是什么?
答案
  1. 实时交互(快慢分离 / 把 decode 做快);持续学习(沉淀知识/指令/程序/参数)。
  2. 通用知识是否"一次学够";大世界认为私有且时效性的知识必须上岗后学。
  3. 每段兜底都在补模型当下的能力缺口;模型内化后补丁可删。
  4. 把开放题的参考答案当唯一标准答案。

6. 下一篇

回到 S21 目录 。教材层 11/11 完成,系列验收见 acceptance.md 。


本篇属于系列《S21 · Agent 工程与 MCP》。旧文来源:A-4577/4578(后记与思考题参考答案);扩展点 E-S21-056/057。思考题答案由原作者用 AI 生成并经人工审校,本文只做要点索引。

S21-J18 · 后记与思考题索引:两朵乌云,一次共同演进
https://www.clxhxhhr.top/posts/5502/
作者
clxstart
发布于
2024-12-31
许可协议
CC BY-NC-SA 4.0
评论
0 条
还没有评论,先写一条吧。