883 字
约 2 分钟
8
S27-B01 · 心智模型与成本:AI 是"文字接龙"
适用读者:想搞明白"为什么它会一本正经地胡说"的人。本系列第一篇。
前置:S24-B01(AI 编程工具)、S19-B01(LLM 基础)。
说明:安装与登录流程见 S24-B02,本篇不重复。
覆盖旧文:134(554) 135(553) 204(548) 278(459) 297(403) 244(235) 260(245) 264(290) = 3,287 点。
覆盖扩展:E-S27-001(文字接龙的推论)、E-S27-002(配额与成本)。
下一篇:S27-B02 · 顺畅使用。
1. 一句话结论
"AI 是文字接龙"不是一个贬义比喻,而是一个精确的能力边界:它在预测"下一个最可能的词",所以它擅长"像样的文本",不擅长"事实核查"。
| 推论 | 现象 |
|---|---|
| 按概率生成 | 越常见的说法越容易被说出(哪怕错) |
| 没有"事实表" | 会编造不存在的 API/引用 |
| 上下文决定概率 | 提示词里写了什么,就更可能顺着写 |
| 无自我校验 | 不会主动说"我不确定"(除非被要求) |
"这解释了幻觉":它不是在"撒谎",是在"补全"——所以"要求它引用来源/允许说不知道"才有效(S20-B04)。
2. 从"接龙"推出的三条实践(E-S27-001)
| 实践 | 原因 |
|---|---|
| 给它材料(RAG/文件) | 降低"自由补全"的空间 |
| 要它引用 | 让补全受材料约束 |
| 小步验证(跑测试) | 它不会自己验证 |
判据:"这个答案,是我给它材料后得出的,还是它'想当然'的?" 后者 → 必须验证。
3. 配额与成本的直觉(E-S27-002)
| 事实 | 影响 |
|---|---|
| 按 token 计费(输入+输出) | 长上下文=贵 |
| 中文 token 效率低(≈0.94 字符/token) | 同字数中文更贵(S20-J02) |
| 缓存/批处理可降本 | 重复前缀有折扣(按厂商策略) |
| 订阅 vs 按量 | 高频用按量更贵 |
"为什么要在意成本":Agent 一次任务可能 10+ 次调用(S21-B02)——单次几分钱,乘起来就是预算问题。
4. Agent 化:从"接龙"到"循环"
| 阶段 | 能力 |
|---|---|
| 单轮补全 | 一次生成 |
| 多轮对话 | 带历史 |
| Agent 循环 | 观察→行动→再判断(S21-B01) |
"循环为什么危险":它把'一次错误的补全'放大成'十步错误链'——所以步数上限不是保守,是必需(S21-B02 实测 token 减半)。
5. 五个误区
| 误区 | 真相 |
|---|---|
| "它知道事实" | 它预测文本 |
| "它说自己不确定就是不确定" | 也可能自信地错 |
| "上下文越长越准" | 注意力会稀释 |
| "订阅了就随便用" | 有配额与限速 |
| "多轮 = Agent" | 差别在循环(S21-B01) |
6. 自检
- "文字接龙"推出的四个现象?
- 三条实践分别解决什么?
- 为什么中文更贵?
- Agent 循环为什么放大风险?
- "它说不知道"为什么不能全信?
7. 下一篇
S27-B02 · 顺畅使用:配置、Skills、规范与反模式
心智模型讲完,下一篇讲"同一工具为什么有人效率翻倍"。
本篇属于系列《S27 · AI 辅助后端工程实战》。旧文来源:A-134/135/204/278/297/244/260/264;扩展点 E-S27-001/002。
S27-B01 · 心智模型与成本:AI 是"文字接龙"
https://www.clxhxhhr.top/posts/5614/ 评论
0 条
还没有评论,先写一条吧。