367 字
约 1 分钟
1
训练 vs 推理:两个不同的过程
无标签

基础原理 训练 vs 推理:两个完全不同的过程 很多人以为 AI 每次回答都在学习。实际上完全不是这么回事。 一句话速览 对话不是学习,参数冻结,按 Token 计费,这些是 AI 产品必懂的底层逻辑 对比

类比学生考试: 训练 = 多年备考,反复刷题,记住知识 → 推理 = 上考场作答,参数冻结,不再学习新东西

训练(Training) 在海量数据上调整数十亿个参数,让模型记住世界知识。

执行频率 一次性 算力需求 千~万块 GPU 参数状态 持续更新 成本 数亿美元 时长 数周~数月

推理(Inference) 用固定参数,针对你的输入生成回答。每次对话参数完全不变。

执行频率 每次对话 算力需求 1~数块 GPU 参数状态 完全冻结 计费 按 Token 计费 时长 1~10 秒/次

互动实验:你说的话会改变参数吗?

发送

Context Window(上下文窗口)

AI 你好!有什么我可以帮你的?

模型参数(示意)

🔒 参数完全冻结 对话不改变任何权重

你和 AI 说的话, 不会修改任何参数 。今天告诉它「你叫小明」,明天重开对话它不记得,因为对话只存在于上下文, 对话不是学习。

训练 vs 推理:两个不同的过程
http://www.clxhxhhr.top/posts/3871/
作者
clxstart
发布于
2026-09-25
许可协议
CC BY-NC-SA 4.0
评论
0 条
还没有评论,先写一条吧。