资讯 · 改写稿

AI 为什么能回答问题:参数、推理、联网三种机制

结论先给:大模型能回答提问,靠三种机制分工——参数负责「记住」、推理负责「算出」、联网负责「现查」。分清这三者,你就能判断一个问题是模型答不好,还是它本来就不该靠模型答。

这个框架来自一篇面向非专业读者的科普:不必啃论文,只要知道 AI 的三个机制,就能理解它「怎么会知道答案」。下面按参数、推理、联网三层拆开说。

机制一:参数——把知识压进权重里

宏观上,所有大模型都是对人类知识的一次建模:它把知识切成一个个「词元」(token),再计算词元之间的数学关系,这个过程叫「训练」。这种关系用海量参数表示。来源举的例子是 GLM 5.3,它有 7440 亿个参数——所谓训练,就是找出这 7440 亿个权重,把人类知识的构成描述出来。

所以模型本质上是一种「压缩—生成」机制:先把知识抽象进参数,回答时再按权重找出最可能的词元,生成符合概率的答案。

本站计算——把 7440 亿参数换成体感:即便按 4-bit 量化存储,也需要 7440 亿 × 4 ÷ 8 = 3720 亿字节,约 372 GB。这解释了为什么同规模模型很难塞进普通笔记本,而「能本地跑」的模型通常靠更小的参数或更激进的量化。

机制二:推理——算出来的知识

参数不可能无限增加:训练与使用成本会直线上升,运算时间也会变长。而且很多知识本来就不必记进参数——它们可以通过逻辑推导得到。来源举的例子很直观:只要知道一个城市的出生率和死亡率,就能立刻得出人口净增长率,不需要「记住」它。

推理机制就是让模型基于参数里的知识、按逻辑规则,推出那些没有被直接记住的结论。这也是为什么参数更少、但推理更好的模型,有时能赢过参数更多的对手。

机制三:联网——查不到就去搜

再多的参数、再强的推理,也覆盖不了全部知识。比如「今天股票的收盘指数」,参数里没有、也推不出来。这时模型要依靠 Agent 或应用框架提供的联网机制,自动去互联网检索它不知道的信息。

来源顺带给了一个案例:一个匿名模型 Ox Alpha 因为表现不错被各方猜测来历,最后智谱承认它是 GLM 5.3 Flash。它在 Artificial Analysis 上得分 57,高于 DeepSeek V4 Pro 的 53,而激活参数只有 18B,小于后者的 49B——参数小到可以在本地跑。

怎么用这个框架

把问题按三种机制归类,很多困惑就清楚了:问「常识与写作」主要靠参数;问「计算与推导」主要靠推理;问「今天发生的事」必须靠联网。反过来,如果你没给模型联网能力,却问它实时信息,它答不好不是「笨」,而是你问了它机制上做不到的事。

容易踩的坑

把「参数多」等同于「更聪明」——参数与推理是两种机制,小模型靠推理也能在窄任务上领先。

指望不联网的模型回答实时信息(如今天的股价),它在机制上就做不到。

以为训练是「往模型里塞事实」——它建模的是词元之间的关系,不是逐条存储。

自检清单

常见问题

大模型到底是怎么「知道」答案的?

靠三种机制分工:参数负责记住(训练出的权重)、推理负责算出(逻辑推导)、联网负责现查(Agent 检索)。

为什么参数多的模型不一定更好?

参数只是「记住」的容量。很多知识可以通过推理得到,所以参数更少、推理更强的模型,在部分任务上能反超。

GLM 5.3 有多少参数?

来源给出的数字是 7440 亿个参数,用来构建所有词元之间的关系(权重)。

Ox Alpha 是哪个模型?

来源称智谱承认它是 GLM 5.3 Flash,Artificial Analysis 得分 57,激活参数 18B。

来源参考

以上为外部来源;本文为 RefHub 用自己的结构重写,事实以来源页为准,价格与政策会变,请回源核对当日。

下一步:想理解模型本地化运行的取舍,读 本地模型能顶掉订阅吗;要估算自己的额度够跑多少,用 Muse 额度计算器。