883 字
约 2 分钟
8
S27-B01 · 心智模型与成本:AI 是"文字接龙"

适用读者:想搞明白"为什么它会一本正经地胡说"的人。本系列第一篇。
前置:S24-B01(AI 编程工具)、S19-B01(LLM 基础)。
说明:安装与登录流程见 S24-B02,本篇不重复。
覆盖旧文:134(554) 135(553) 204(548) 278(459) 297(403) 244(235) 260(245) 264(290) = 3,287 点。
覆盖扩展:E-S27-001(文字接龙的推论)、E-S27-002(配额与成本)。
下一篇:S27-B02 · 顺畅使用。


1. 一句话结论

"AI 是文字接龙"不是一个贬义比喻,而是一个精确的能力边界:它在预测"下一个最可能的词",所以它擅长"像样的文本",不擅长"事实核查"。

推论 现象
按概率生成 越常见的说法越容易被说出(哪怕错)
没有"事实表" 会编造不存在的 API/引用
上下文决定概率 提示词里写了什么,就更可能顺着写
无自我校验 不会主动说"我不确定"(除非被要求)

"这解释了幻觉":它不是在"撒谎",是在"补全"——所以"要求它引用来源/允许说不知道"才有效(S20-B04)。


2. 从"接龙"推出的三条实践(E-S27-001)

实践 原因
给它材料(RAG/文件) 降低"自由补全"的空间
要它引用 让补全受材料约束
小步验证(跑测试) 它不会自己验证

判据:"这个答案,是我给它材料后得出的,还是它'想当然'的?" 后者 → 必须验证。


3. 配额与成本的直觉(E-S27-002)

事实 影响
按 token 计费(输入+输出) 长上下文=贵
中文 token 效率低(≈0.94 字符/token) 同字数中文更贵(S20-J02)
缓存/批处理可降本 重复前缀有折扣(按厂商策略)
订阅 vs 按量 高频用按量更贵

"为什么要在意成本":Agent 一次任务可能 10+ 次调用(S21-B02)——单次几分钱,乘起来就是预算问题。


4. Agent 化:从"接龙"到"循环"

阶段 能力
单轮补全 一次生成
多轮对话 带历史
Agent 循环 观察→行动→再判断(S21-B01)

"循环为什么危险":它把'一次错误的补全'放大成'十步错误链'——所以步数上限不是保守,是必需(S21-B02 实测 token 减半)。


5. 五个误区

误区 真相
"它知道事实" 它预测文本
"它说自己不确定就是不确定" 也可能自信地错
"上下文越长越准" 注意力会稀释
"订阅了就随便用" 有配额与限速
"多轮 = Agent" 差别在循环(S21-B01)

6. 自检

  1. "文字接龙"推出的四个现象?
  2. 三条实践分别解决什么?
  3. 为什么中文更贵?
  4. Agent 循环为什么放大风险?
  5. "它说不知道"为什么不能全信?

7. 下一篇

S27-B02 · 顺畅使用:配置、Skills、规范与反模式

心智模型讲完,下一篇讲"同一工具为什么有人效率翻倍"。


本篇属于系列《S27 · AI 辅助后端工程实战》。旧文来源:A-134/135/204/278/297/244/260/264;扩展点 E-S27-001/002。

S27-B01 · 心智模型与成本:AI 是"文字接龙"
https://www.clxhxhhr.top/posts/5614/
作者
clxstart
发布于
2024-12-31
许可协议
CC BY-NC-SA 4.0
评论
0 条
还没有评论,先写一条吧。