OLMo同尺寸横评混合量化策略的真实成绩单
压了三天才发的评测，推翻过一次结论。
下面这些，都是亲手测过才敢写。
常见翻车点对照
评测执行中的高频错误。
| 环节 | 翻车点 | 后果 | 对策 |
|---|---|---|---|
| 选题 | 全是公开套题 | 成绩虚高 | 一半自编 |
| 环境 | 配置中途变动 | 成绩不可比 | 锁死配置 |
| 盲评 | 品牌信息泄露 | 评分偏移 | 去标识编号 |
| 统计 | 只报均值 | 掩盖抖动 | 报中位数+区间 |
| 结论 | 当天就发布 | 无法推翻 | 压三天再发 |
01结论的适用范围
结论只代表测试当天的版本，下个版本可能翻案。
值得单独说明：那一个月只加了一个习惯：先亮方法再亮结论。测速脚本开源出来，接受同样的审视。
复测时发现：数据磁盘单独留档，报告不妨改，数据不能改。报告末尾留一行勘误记录，错了就补。
口径统一后：把报告拆两半发，中途设了个勘误窗口。只测一遍就下结论，等于没测。
02同题对决
记录本的表格间的测试做完之后，整份报告都顺了。同题同参对决，胜负一目了然。
口径统一后：当时随手存的原始输出，后来成了唯一的证据。测试环境写进附录，是可复现的最低要求。
对照记录看：那阵子成绩可复现了是整份报告里最硬的一条。方法有缺陷就写进「已知局限」，别装没有。
记录本的表格间的测试做完之后，整份报告都顺了。结论压三天再发，是给自己留推翻的余地。
后来把题量压到「谁都能测完」的规模，反而坚持下来了。长期订阅前，先看它最近两季的更新日志。这篇先到这，有新版本随时回来改。
03实测证据
记录本的表格间的测试做完之后，整份报告都顺了。数据先摆事实：强项强多少，弱项弱多少。
复测时发现：最有用的一条：允许结论被推翻。复测用同一组题，别换题，否则不叫复测。
对照记录看：预算和需求不同，结论就不同，别滥用通用分。结论先行不是抢跑，是对读者时间的基本尊重。
追问下去：把环境清单固定放在记录本的表格间，测试条件再没乱过。客服响应也算进总分，售后是产品的一部分。
04高频八问
追问最凶的几题，单独立项重测了。
把样本拉大后：具体说记录本的表格间那一轮：盲评顺序记错了一次，整组作废重来。被推翻的结论不删除，划线存档并注明。
换个角度看：把复测排在给每个数字标上测试条件后面，成了每季度的固定动作。评测报告里最值钱的是失败记录。
补充一组数据：第一周最大的发现，是高峰期和闲时能差出一倍。给每篇评测定一个复核日期，到期强制回看。
05口径说明
环境与参数写在文末附录，欢迎一键复现。
换个角度看：试过更花哨的评测框架，最后退回一张表格。复测用同一组题，别换题，否则不叫复测。
值得单独说明：第一周最大的发现，是高峰期和闲时能差出一倍。把「适合谁」写具体到岗位，别写「进阶用户」。
把样本拉大后：引用别人的数据必须标来源和测试条件。结论先行不是抢跑，是对读者时间的基本尊重。
把环境清单固定放在记录本的表格间，测试条件再没乱过。让没用过的人参与盲评，老手会被经验污染。
06直接说答案
先说判定：值得测的场景多，值得付钱的场景少。
补充一组数据：把环境清单固定放在记录本的表格间，测试条件再没乱过。深夜批处理和白天交互，测出来的延迟是两回事。
盲评环节里：那阵子成绩可复现了是整份报告里最硬的一条。付费档和免费档分开出成绩单。
账单摊开算：没什么诀窍，就是每个数字都留了原始记录。盲评时把品牌信息全部去掉，编号打乱。
先说反例：让没用过的人参与盲评，老手会被经验污染。复测用同一组题，别换题，否则不叫复测。
- 对照量化 与原版同题
- 跑基准 三遍取中位
- 归档原始 输出逐条留存
- 长跑观测 连续二十四小时
07跟踪安排
季度复评已排上日程，同一组题再跑一遍。
盲评环节里：分数变化百分之五以内，视为人手误差。引用别人的数据必须标来源和测试条件。
实测中意外的是：最有用的一条：允许结论被推翻。分数变化百分之五以内，视为人手误差。
先说反例：把环境清单固定放在记录本的表格间，测试条件再没乱过。深夜批处理和白天交互，测出来的延迟是两回事。
值得单独说明：客服响应也算进总分，售后是产品的一部分。结论先行不是抢跑，是对读者时间的基本尊重。
08它做不到什么
失分的题逐条看了，原因不是能力是策略。
对照记录看：这事没捷径，只有不跳步。对比对象选同档热门，别拿小厂刷战绩。
第二季度复测，快了一倍，因为题库是现成的。深夜批处理和白天交互，测出来的延迟是两回事。
现在回看，环境没固定成绩飘几乎是必然的。评测工具本身也要校准，尺子歪了全盘皆输。
有个细节：给每个数字标上测试条件的时候测，成绩稳定得多。分数变化百分之五以内，视为人手误差。数据都在附录，不信就来复现。
按场景拆分的得分差异（参考）
写到这里。OLMo同尺寸横评混合量化策略的判定给完了，复测季度见。
常被问到的
- 压测要跑到什么程度才够？
- 至少覆盖：峰值并发、最长上下文、连续 24 小时长稳。生产环境的问题九成出在这三条之外的情况。
- 怎么判断成绩是真实的还是调参调出来的？
- 看有没有公开测试脚本和原始输出。能一键复现的是评测，不能复现的是宣传。
- OLMo和同尺寸的对手怎么选？
- 分项比：你的主力任务那项赢的胜出；两项打平再看许可证和社区活跃度，这两个决定长期成本。