换型号
对外仍是同一个名字,后端换成更小的型号。简单问答几乎无差别,长上下文与复杂推理会明显掉分。
识别:能力上限压测 + 输出指纹
不能。两次一致只排除了「这一次不稳定」;要判断降智,需要覆盖能力上限、档位一致性与长上下文三类探针。
同一提示词跑两次、答案一致,不能证明模型未被降级:它只排除了单次不稳定。降智有三种典型形态——换更小型号、调低推理档位、虚标上下文长度——分别需要用能力上限压测、档位一致性、长上下文探针来识别。单题对比只适合做快速筛查,不能作为合格证明。
引用请注明来源 https://zhongzhuancha.com/guides/two-prompt-degradation(抓取日期 2026-10-28)。
不是「测了没用」,而是「测的量级不对」
单题一致率 = 一致次数 ÷ 抽样次数;n=2 时,一致率只有 0%、50%、100% 三档,无法区分
两次采样只能产生三个结果,任何阈值都没有区分度。更关键的是:便宜的替代模型在简单题上同样稳定, 「稳定」和「是真的」是两个独立维度。
真正能区分型号的是「资源密集任务」——长上下文检索、多步逻辑、严格格式约束、指令冲突处理。 这些任务的失败率在替代模型上显著升高,在真模型上保持稳定。所以测试设计要往难的方向走, 而不是往「多跑几次」的方向走。
先知道要找什么,才知道该测什么
对外仍是同一个名字,后端换成更小的型号。简单问答几乎无差别,长上下文与复杂推理会明显掉分。
识别:能力上限压测 + 输出指纹
型号没变,但推理档位被调低。不报错、不提示,只是思考深度变浅,速度反而更快。
识别:档位一致性 + 同题多轮对比
宣称支持超长上下文,超过某长度后前面的内容实际被丢弃,模型「忘了」开头。
识别:长上下文探针(needle 测试)
每一项都对应一个可判定的失分点
| # | 检查项 | 判定规则 |
|---|---|---|
| 01 | 型号指纹匹配 | 响应里的 model 与请求的 model 完全一致 |
| 02 | 逻辑求解稳定性 | 同一逻辑题两次作答一致,且结论正确 |
| 03 | 结构约束遵循 | 返回可解析 JSON,且字段值符合指定 schema |
| 04 | 调用参数保真 | temperature / top_p / max_tokens 原样回显 |
| 05 | 指令层级遵循 | 用户诱导覆盖时,仍遵守 system 指令 |
| 06 | 协议字段规范 | HTTP 200、响应结构有效、返回可用 usage |
| 07 | 流式响应完整性 | 流式探针完成且流内型号与请求一致 |
套件分 = 通过项数 ÷ 7 × 100;≥85 通过,60–84 存疑,<60 不通过,被拒绝则记「未检测」
注意最后一档:探针被大量拒绝(例如仅接受官方客户端)时判「未检测」,不判「不通过」。 这两者含义完全不同——前者是没有证据,后者是有反证。
不接工具也能做一个粗筛
要求长上下文检索或严格格式输出,避免简单问答。题目固定,便于前后对比。
比较「正确率」而不只是「一致率」。正确率才是能力指标,一致率只是稳定性指标。
明显更快返回且质量下降,是降档位的典型信号。把耗时与正确率一起记录。
不能。两次采样的一致率只能排除「这一次不稳定」,无法证明后端是宣称的型号。便宜的替代模型在简单题上同样能给出稳定答案;真正的差异出现在资源密集任务(长上下文、复杂逻辑、严格格式约束)上,这些恰恰是单题对比测不到的。
三种典型形态:一是换了更小的型号但保留对外名称;二是型号不变但推理档位被调低(不报错,只是变笨);三是上下文长度虚标,超过某个长度后模型实际看不到前面内容。前者靠能力检查,中者靠档位一致性,后者靠长上下文探针。
有用,但定位是「快速筛查」而不是「证明」。同一段提示词画图,如果明显更粗糙、明显更快返回,值得警惕;但画得好不能反推模型没问题。它的价值在于低成本试出明显异常,不能作为合格证明。
建议 7 项:型号指纹、逻辑稳定性、结构约束、参数保真、指令层级、协议字段、流式完整性。少于 3 项只能看出来「有问题」,看不出「哪里有问题」;7 项能定位到具体失效点。