

你买到的模型,可能是“二手模型”
图片来源 | 网络(如侵权请联系删除)部分AI生成
我有个做 Agent 创业的朋友,上周遇到一件特别膈应的事。
同一套 prompt,同一份文档,上周跑出来的结构化结果准确率还在九成以上,这周突然开始频繁“犯迷糊”:关键字段漏填,推理步骤变短,偶尔还会把两个实体张冠李戴。
他翻遍了调用日志,model 字段清清楚楚写着旗舰型号,计费单价一分没降。
他怀疑后台被换了模型,但拿不出任何证据。去质问中转平台,对方甩回来一句“模型厂商更新了版本,属正常波动”,他哑口无言。
这不是他一个人的困境。过去一年多,大模型 API 的“套壳掉包”已经从零星的江湖传闻,变成了供应链里一个半公开的秘密。
你付的是旗舰模型的钱,后台真正干活的可能是一个便宜几倍甚至几十倍的缩水版本;你以为是官方直连,但其实中间可能隔了两层路由、一次量化压缩、甚至一轮 prompt 改写。
问题的要害不在于“有没有人这么干”,毕竟答案是肯定的,关键问题在于,受害者手里没有任何一件可以拿去对质的硬证据。

你的旗舰模型,可能早被“降级”了
大模型 API 这门生意,表面上卖的是 token,实际上卖的是信任。
你没法像验显卡一样拆开 API 看里面跑的是什么权重,也没法像查快递物流一样追踪一次请求经过了哪些节点。
你唯一能看到的,就是返回的那段文本,以及账单上那个 model 名称。而这两样东西,恰恰都是后台可以生成的。
斯坦福大学的研究团队曾经做过一次系统的审计,测试了 2024 年四款 Llama 模型的 31 个商业 API 端点,发现其中 11 个端点的输出分布与 Meta 官方发布权重的参考分布存在统计上的显著差异。
换句话说,超过三分之一的被测端点,你拿到的“同一个模型”,和官方权重跑出来的东西,在统计意义上就不是同一个东西。
这个比例放在实验室里是论文数据,放在商业世界里就是一句潜台词:API 供应链的掉包,并非偶发事故,而是结构性风险。
更麻烦的是,普通开发者几乎没有低成本的反制手段。
你问模型“你是谁”,它当然会按照训练数据里的自我认知回答你;你甩几道数学题去试探,它碰巧答对了也说明不了任何问题。
模型自报家门的那句话本身就是后台生成的,拿它当身份证明,等于让嫌疑人自己写口供。
于是整个行业陷入一种奇怪的默契:所有人都知道可能存在掉包,所有人都默认自己可能被掉包,但所有人都拿不出证据。
平台用“版本更新”“正常波动”“负载均衡”来解释一切异常,客户用“可能是我 prompt 写得不好”来安慰自己。
这就是 API 供应链的信任赤字:验证的成本和举证的责任,被系统性地错配了。
怀疑的人拿不到证据,能提供证据的人没有动力提供。

给模型权重“按手印”
真正让这个局面出现松动的是 2026 年 11 月初的一件事。Anthropic 的前沿红队开源了一个叫 FlashProve 的研究原型,试图用零知识证明把“这条回答到底是不是你买的那个模型生成的”从一个只能靠体感和口碑争论的问题,变成一个可以在普通笔记本电脑上跑 17 秒就出结果的数学判定。
它的流程设计得很巧妙,但逻辑并不复杂。
模型上线之前,服务商用一张 H100 花大约 39 分钟,对模型权重生成一个唯一的密码学“承诺”,其实你可以把它理解成权重的数字 DNA 指纹。
这个指纹公开,但任何人都无法从指纹反推出权重本身,厂商的知识产权不受影响。
之后每处理一次请求,GPU 会顺手生成一份大约 19MB 的证明文件,附在输出旁边。
用户或者审计方拿到输出和证明,用普通 CPU 跑一个验证程序,17 秒就能判断这份输出是不是由那个“按过手印”的权重算出来的。
这里的关键词是零知识。服务商证明了一件事:“这个输出确实来自被承诺的权重”,却不需要交出权重、中间激活值,甚至不需要暴露 MoE 模型调用了哪些专家。
验证者不需要信任服务商,也不需要信任 Anthropic,只需要信任数学。
支撑这套机制的是 zkSNARK,安全性建立在 BLAKE2 哈希函数上,不依赖椭圆曲线,理论上对未来的量子攻击也有抵抗力。
如果只看这一层,故事很漂亮:数学可验证性第一次被塞进了大模型 API 的供应链里,“相信服务商”开始有了被“核验证明”替代的技术路径。
以后客户再遇到“这周怎么变笨了”的质疑,平台不能再靠一句“正常波动”糊弄过去,你得把证明拿出来。
但 FlashProve 的论文里,藏着一个让这个故事瞬间从理想主义跌回现实主义的数据。


数学很便宜,算力很贵
生成证明所需的 GPU 时间,大约是普通推理的 70 到 95 倍。
单张 H100 的证明生成吞吐大约是 110 token/秒,当前上下文上限只有 1024 token。
而且 Anthropic 自己明确标注这是研究原型,没有部署计划,仓库也不维护。
70 到 95 倍是什么概念?如果你是一家服务商,正常推理一张 H100 每小时能处理的请求量,在开启证明之后会坍缩到原来的七十分之一到九十五分之一。
多出来的算力成本,不会因为“数学很优美”就自动消失。它必须有人买单。
这就是整个事件里最值得玩味的地方。
需要验证的是客户,但必须掏钱做证明的是服务商。
客户被掉包的痛感是真实的,但这份痛感是分散的、个体的、事后才能感知的;服务商部署证明的成本却是集中的、前置的、每一笔请求都在烧的。
一个靠掉包赚钱的中转站,没有任何理由主动给自己上这套“防伪系统”,毕竟相当于给自己戴上一副每秒钟都在计费的电子镣铐。
即便是一家合规经营的服务商,在竞争压力下也会算一笔账:把 70 倍的 GPU 开销摊进 API 单价,客户会立刻用脚投票流向更便宜的未证明端点;不摊进去,自己的毛利直接被吃掉。
诚实变成了一种需要额外付费的奢侈品,而市场还没有准备好为它定价。
更微妙的是,FlashProve 目前只覆盖整数模型加贪心解码,上下文卡在 1024 token,而真实的生产调用动辄几万 token 的上下文、复杂的采样策略、多轮工具调用。
即便技术继续迭代,成本曲线下降,激励结构也不会自动修复。
服务商可以选择只在“高价值客户”身上开启证明,可以选择性地为审计场景生成证明而对日常调用静默跳过,也可以在证明的粒度上做文章,证明“这个输出来自这个模型”,和证明“这个请求没有被中间人篡改、没有被路由到量化版本”,在工程上并不是同一件事。
技术解决了“能不能证明”,但“谁有动机去证明”这个问题,技术管不了。

验证是公共品,成本是私有品
把 FlashProve 的困境拆开看,会发现它撞上的是一个经典的经济学难题:公共品困境。
一个中转站客户不会因为“我这次调用附带了 19MB 的零知识证明”而愿意多付一倍的钱,因为他要的不是证明,他要的是不出问题的确定性。
但确定性是一种公共品:一旦有人提供了证明,所有使用同一端点的客户都受益,而成本却由服务商独自承担。
这就导致一个很拧巴的局面:越是有动机掉包的服务商,越不会主动上证明;越是有能力上证明的合规服务商,越要承受成本转嫁带来的价格劣势。
劣币驱逐良币的老剧本,在 AI 供应链里换了个技术外壳重新上演。
有人会说,那就让客户在合同里强制要求服务商提供证明。逻辑上没错,但现实里大部分中小客户根本没有议价能力。
你一个每月花几百美元的开发者,跑去跟平台说“请你为我的每次调用生成零知识证明”,对方只会觉得你在开玩笑。
只有那些采购量足够大、合规要求足够硬的企业客户,才可能把“可验证推理”写进合同条款。
所以 FlashProve 的真正意义,不在于它现在能不能用,而在于它把一道选择题摆到了台面上。
过去行业默认的答案是“相信品牌、相信合同、相信口碑”,现在数学给出了另一个选项,但这个选项标着一个大多数服务商不愿意主动支付的价格。
技术证明了“可以验证”,经济学却还没有解决“谁有动机去验证”。
如果把视线稍微拉远一点,你会发现OpenAI 几乎在同一时间发布的安全研究,恰好从另一个方向照出了同一个问题。
他们用一个尚未发布的网络安全模型搭了一条自动化流水线,在 Linux 内核超过 4000 万行代码里圈出 280 万行高价值目标,跑了 12 小时交出 2308 个疑似漏洞,30 小时内复现 1724 个,最终生成 948 个可用的提权漏洞利用程序。
整个过程的 API 成本是 121 万美元,平均每个漏洞利用程序的开发成本 1279 美元。
这个数字之所以值得和 FlashProve 放在一起看,是因为它展示了另一种激励结构。
在漏洞挖掘的场景里,谁受益、谁付费、谁验证,三者是重合的:OpenAI 自己承担 API 成本,自己验证漏洞的可利用性,产出的补丁提交给内核社区,安全价值的归属是清晰的。
1279 美元一个漏洞利用程序,听起来不便宜,但和人类顶尖安全研究员一年只能找到大约 20 个同类漏洞的效率相比,成本收益比是压倒性的。
当证明的产出可以被精确计价、被市场直接定价时,70 倍的算力开销只是一个需要优化的工程参数,而不是一个无解的政治经济学困局。
API 模型验证的麻烦恰恰在于,它产出的“证明”本身很难被定价。
你很难跟客户说:因为我给你附了证明,所以这次调用要贵 70 倍。
客户会问:那我怎么知道你这个证明不是假的?你看,又绕回来了。
漏洞利用是私有品,谁用谁付费;模型验证是公共品,所有人受益,服务商买单。
两种激励结构,决定了同一类密码学技术在两个场景里的命运完全不同。

防伪身份证,先卖给谁?
短期内,最可能先落地这套逻辑的,不是消费级 chatbot 的日常调用,而是那些验证成本可以被转嫁、或者验证收益可以被内部化的场景。
第一类是受监管的金融和医疗采购。合同里可以白纸黑字要求服务商附带证明,并为此支付溢价。
对这类客户来说,合规成本本来就是预算的一部分,多一道密码学验证,比事后被监管罚款划算得多。
第二类是企业内部的模型审计。安全团队本来就有独立的预算科目,他们需要向董事会证明“我们用的模型没有被掉包”,FlashProve 这类工具至少提供了一个可操作的抓手。
第三类是模型厂商之间的“互验”。当一家实验室声称自己的评测成绩来自某个模型时,竞争对手有充分的动力去核验那张“指纹”对不对得上。
这种场景下,验证的受益方和付费方是同一拨人,激励是自洽的。
至于普通开发者和中小团队,指望服务商自发地、免费地、全量地附上证明,在激励结构没有外部力量扭转之前,大概率是不现实的。
更现实的路径可能来自监管侧的介入,如果“模型来源可验证”成为某些受监管行业的准入要求,服务商就没有选择余地了。
或者来自买方侧的集体议价,当足够多的企业客户在采购合同里把“可验证推理”列为必选项,证明的成本才会从“服务商的额外负担”变成“市场的入场券”。
但这两条路都需要时间,而 API 供应链的信任赤字,每天都在产生新的受害者。

FlashProve 是一个漂亮的技术起点,但它把 AI 供应链最尴尬的那层窗户纸捅破了:
在验证这件事上,最需要证据的人离证据最远,最有能力提供证据的人最没有动力提供。
数学解决了“能不能证明”的问题,但“谁来付钱证明”的问题,数学管不了。
70 到 95 倍的算力开销不会凭空消失,它要么变成服务商的成本,要么变成客户的价格,要么变成某种第三方审计的公共开支。
在这三种归宿里,没有一种会自动发生。
所以,下一个真正值得关注的节点,不是 FlashProve 的性能优化到多少倍,也不是上下文窗口从 1024 扩展到多少 token,而是:
第一份把“密码学证明”写进 SLA 的商业合同什么时候出现;第一个因为“无法提供证明”而被采购流程淘汰的服务商什么时候出现。
在那之前,防伪身份证仍然只是一张放在展示柜里的样品,好看,但还戴不到任何一个真实模型的脖子上。
原文标题 : 你花顶配的钱,可能买到的是缩水模型
(来源:维科网)






