1445 字
约 4 分钟
1
权重是什么?一个模型的全部本事
无标签

开源专题 · 开源到底开的是什么 权重是什么?一个模型的全部本事 新闻里天天说「某某模型开源了」。开源的到底是什么东西?是代码吗?其实主要是一个文件: 权重 。搞清楚它是什么,后面所有关于开源的争论你都能自己判断。 一句话速览 训练几个月最后凝结成的那个文件:它长什么样、多大、为什么说拥有权重就是拥有控制权 先说结论

权重就是模型训练完之后留下的一堆数字。 训练花掉的几千万美元、几个月的算力,最后全部凝结成这一个文件。拿到它,你就能在自己的机器上跑出一模一样的模型,不需要联网,不需要向任何人付费。

这一章的例子基本都取自 Qwen,先说清楚为什么。

尺寸铺得最全。 Ollama 官方库里 Qwen3.5 一代从 0.8B 一直排到 122B,中间有 2B、4B、9B、27B、35B。本章后面每讲到一档设备,都能对应上一个真能下载下来的文件,不用换品牌凑数。 别人拿它当底座。 DeepSeek-R1 放出的六个蒸馏版里有四个用的是 Qwen 底座——这是第三方的选择,不是自家宣传。 它自己就是个反面教材。 Qwen2.5 时期的 3B 和 72B 用过非标准许可证,正好拿来讲「开源」这两个字有多不可靠,这一节在 第二节 。

中文社区里有人管它叫 「源神」 ,开源之神。这是网友的戏称,不是评价标准,也不代表它每一项都最强。 本章拿它举例是因为素材齐、方便动手,不是因为它最好。 你学完这一章要拿到的是判断标准,不是一个品牌名——同一套标准套到任何一家身上都应该照样能用。

它长什么样

模型内部没有规则、没有知识库、没有 if-else。有的只是一个巨大的数字表格。下面这些格子里的每个数,就是一个权重,颜色深浅表示它的绝对值大小。

正值 负值 颜色越深,绝对值越大

上面是 36 个数。一个 Qwen3-8B 模型有 80 亿个 这样的数。训练的全部意义,就是把这几十亿个数从随机值一点点调整到合适的值。调完了,参数冻结,模型就定型了。

这也解释了大模型原理篇讲过的那件事:模型跟你聊天时并不会学到任何东西。权重是训练阶段定死的,对话阶段只读不写。你告诉它的事,它下次就忘了。

参数量决定文件体积

每个权重占多少字节,取决于存储精度。模型发布时通常用 FP16,也就是每个数占 2 个字节 。所以文件体积有一个很好记的估算:

权重文件体积(GB)≈ 参数量(B)× 2 80 亿参数 × 2 字节 = 160 亿字节 ≈ 16 GB

公式记住了,但它到底意味着什么,拖一下就知道了。下面这个滑块从 0.5B 拖到 2.4 万亿,你可以顺手切换存储精度,看同一个模型的文件是怎么胀大和缩小的。

把参数量拖到 8B,然后在 FP16 和 INT4 之间来回切一次。

参数量

8 B

存储精度

FP32 FP16 INT8 INT4

16 GB

下面用一组真实的模型对比一下。这里选 Qwen 系列做尺子,是因为它的尺寸谱系目前最完整,从 0.6B 一直到 2.4T 都有公开型号,同一个系列内部比较不会掺进架构差异的干扰。

Qwen3-0.6B 约 1.2 GB

Qwen3-8B 约 16 GB

Qwen3-32B 约 64 GB

Qwen3-235B-A22B 约 470 GB

Qwen3.8-Max(2.4 万亿参数) 数 TB 量级

参数规模来自各模型官方发布说明;体积为 FP16 下的理论估算值,实际文件会因分片方式与附带的配置文件略有出入。Qwen3.8-Max 总参数 2.4 万亿、激活 950 亿,发布于 2026-08-03。

一个容易混淆的地方

存储体积和运行时占用是两码事。文件 16 GB,不代表 16 GB 显存就能跑起来。模型运行时还要额外开销一块地方存放对话的中间状态,也就是Harness 核心篇讲过的 KV Cache。算下来通常要在参数量的基础上多留三到五成。

这一章最后有一页交互工具,你可以直接选自己的显卡或者 Mac 型号,看能跑哪些模型。这里先记住结论: 看文件大小估显存,会低估。

为什么权重这么关键

把上面的事情串起来,权重的意义就清楚了。它不只是一个文件,它是 控制权 。

离线 不依赖任何服务商 拔掉网线也能跑,对方涨价、限流、下架都影响不到你

可改 能在它基础上继续训练 用自己的数据微调出一个专属版本,这是调 API 做不到的

留痕 数据不出自己的机器 医疗、法务、内部代码这类不能外发的场景,只有这一条路

反过来说,只提供 API 的模型,你租的是使用权。价格、可用性、什么时候下线,都由对方决定。这个区别在做技术选型时会直接变成风险,也是下一节要拆的东西: 各家嘴里的「开源」,含义差得非常远。

权重是什么?一个模型的全部本事
http://www.clxhxhhr.top/posts/4076/
作者
clxstart
发布于
2026-09-25
许可协议
CC BY-NC-SA 4.0
评论
0 条
还没有评论,先写一条吧。