OLMo笔记本实测量化前后对比评测复盘：哪些结论被推翻了
带着你自己的任务来对号入座。下面这些，都是亲手测过才敢写。
下面这些，都是亲手测过才敢写。
删掉了形容词，留下的都是核对过的数字。
评测维度速查表
五个维度各自测什么。
| 维度 | 测什么 | 怎么测 | 权重参考 |
|---|---|---|---|
| 质量 | 回答正确与可用 | 盲评打分 | 40% |
| 速度 | 响应与首字延迟 | 计时取中位数 | 20% |
| 成本 | 单价与额度 | 账单折算 | 25% |
| 稳定 | 高峰与长跑表现 | 连续七日记录 | 10% |
| 生态 | 接口与联动 | 功能清单核对 | 5% |
01横向相对而言
第一周最大的发现，是高峰期和闲时能差出一倍。对手选的是同档最热的三款，输了不冤赢了不虚。
具体说监控大屏下那一轮：盲评顺序记错了一次，整组作废重来。高峰期单独加测一轮，闲时成绩不算数。
多花了一杯咖啡的时间核对来源，省下了一次翻车。把对手的优点也写出来，报告才立得住。
复测时发现：试过更花哨的评测框架，最后退回一张表格。被推翻的结论不删除，划线存档并注明。分数是死的，你的任务才是活的。
02口径说明
每组测试跑三遍取中位数，抖动超过一成就重测。
实测中意外的是：当时随手存的原始输出，后来成了唯一的证据。给每个数字标上时间戳，三个月后还能对账。
口径统一后：现在回看，压测只跑五分钟几乎是必然的。样本量写清楚，十道题的结论撑不起「完胜」。
这事没捷径，只有不跳步。失败的用例原样保留，那是报告的一半价值。
复测时发现：结论与口碑冲突时，两头都重查一遍。给每篇评测定一个复核日期，到期强制回看。
03成绩摆出来
现在回看，压测只跑五分钟几乎是必然的。每项得分都标了测试时间和条件。
复测时发现：那一个月只加了一个习惯：先亮方法再亮结论。题目一半自编一半公开，防止套题。
补充一组数据：没什么诀窍，就是每个数字都留了原始记录。让没用过的人参与盲评，老手会被经验污染。
当时随手存的原始输出，后来成了唯一的证据。引用别人的数据必须标来源和测试条件。
试过更花哨的评测框架，最后退回一张表格。以「你每天重复最多的任务」为第一测试项。数据都在附录，不信就来复现。
04它做不到什么
把异常截图集固定放在监控大屏下，测试条件再没乱过。先把丑话说完，剩下的才好意思夸。
复测时发现：有个细节：把结论先压三天再发的时候测，成绩稳定得多。结论压三天再发，是给自己留推翻的余地。
口径统一后：把反对意见原样贴出来，比一致好评有用。测速脚本开源出来，接受同样的审视。
对照记录看：第一周最大的发现，是高峰期和闲时能差出一倍。只测一遍就下结论，等于没测。数据都在附录，不信就来复现。
“失败用例，是报告的一半。”
05总判定
判定只针对测试条件内的场景，越界不算。
那阵子压测过了上线安心是整份报告里最硬的一条。题目一半自编一半公开，防止套题。
现在回看，压测只跑五分钟几乎是必然的。别用厂商给的演示样例，那是考过的题。
复测时发现：把反对意见原样贴出来，比一致好评有用。别用厂商给的演示样例，那是考过的题。
先说反例：分数变化百分之五以内，视为人手误差。预算和需求不同，结论就不同，别滥用通用分。分数是死的，你的任务才是活的。
06高频八问
问答比正文诚实，语气都保留了。
盲评环节里：具体说监控大屏下那一轮：盲评顺序记错了一次，整组作废重来。测试环境写进附录，是可复现的最低要求。
追问下去：题目一半自编一半公开，防止套题。只测一遍就下结论，等于没测。
盲评环节里：给每个数字标上时间戳，三个月后还能对账。响应速度单独测，别和正确率混在一个分里。结论不妨质疑，方法随时欢迎检查。
一轮评测的工时构成
07下一步
评测是长跑，这篇只是其中一个刻度。
值得单独说明：测试环境写进附录，是可复现的最低要求。方法有缺陷就写进「已知局限」，别装没有。
把报告拆两半发，中途设了个勘误窗口。方法有缺陷就写进「已知局限」，别装没有。
盲评环节里：这事没捷径，只有不跳步。别用厂商给的演示样例，那是考过的题。
08免责与说明
多花了一杯咖啡的时间核对来源，省下了一次翻车。测试有边界：版本、时间、样本量都圈死了结论的适用范围。
换个角度看：盲评时把品牌信息全部去掉，编号打乱。失败的用例原样保留，那是报告的一半价值。
最有用的一条：允许结论被推翻。把对手的优点也写出来，报告才立得住。
追问下去：那阵子压测过了上线安心是整份报告里最硬的一条。测试环境写进附录，是可复现的最低要求。
补充一组数据：这事没捷径，只有不跳步。引用别人的数据必须标来源和测试条件。结论不妨质疑，方法随时欢迎检查。
09人群画像
试过更花哨的评测框架，最后退回一张表格。判断标准只有一条：你的高频任务是不是它的强项。
补充一组数据：把异常截图集固定放在监控大屏下，测试条件再没乱过。评测报告里最值钱的是失败记录。
后来把题量压到「谁都能测完」的规模，反而坚持下来了。连续测七天，稳定性自己会现形。
后来把题量压到「谁都能测完」的规模，反而坚持下来了。引用别人的数据必须标来源和测试条件。
当时随手存的原始输出，后来成了唯一的证据。分数保留一位小数就够了，假精度没有意义。数据都在附录，不信就来复现。
| 评测项 | 怎么测 | 常见失真 | 怎么算数 |
|---|---|---|---|
| 基准 | 固定环境跑公开题 | 环境不固定 | 成绩可复现 |
| 吞吐 | 并发压测取中位 | 单流当并发 | 压测脚本公开 |
| 显存 | 满上下文实测峰值 | 空载报数 | 峰值有记录 |
报告交了，剩下的看你的任务怎么对号。
有更严的测法，欢迎来信指教。
常被问到的
- 怎么判断成绩是真实的还是调参调出来的？
- 看有没有公开测试脚本和原始输出。能一键复现的是评测，不能复现的是宣传。
- 评测报告应该包含什么？
- 五件套：环境说明、题集来源、原始成绩、失败用例、复测指引。少一件，三个月后连你自己都不信。