OLMo基准复测中贡献者风向实测中的意外发现
不接广告不恰饭，分数只对题目负责。
下面这些，都是亲手测过才敢写。
篇幅不长，每节都能独立引用。
01先给结论
监控大屏下的测试做完之后，整份报告都顺了。判定只针对测试条件内的场景，越界不算。
当时手头只有监控面板，照样把整轮测试跑完了。每组测试至少三遍，取中位数，抖动大就重测。
把报告拆两半发，中途设了个勘误窗口。数据磁盘单独留档，报告不妨改，数据不能改。
当时手头只有监控面板，照样把整轮测试跑完了。引用别人的数据必须标来源和测试条件。先拿免费档试一周，再回来对答案。
02得分明细
当时随手存的原始输出，后来成了唯一的证据。数据先摆事实：强项强多少，弱项弱多少。
后来把题量压到「谁都能测完」的规模，反而坚持下来了。数据磁盘单独留档，报告不妨改，数据不能改。
把监控面板固定放在监控大屏下，测试条件再没乱过。分数变化百分之五以内，视为人手误差。
先说反例：那阵子成绩可复现了是整份报告里最硬的一条。分数变化百分之五以内，视为人手误差。
当时手头只有监控面板，照样把整轮测试跑完了。评测工具本身也要校准，尺子歪了全盘皆输。
03对决结果
那阵子成绩可复现了是整份报告里最硬的一条。对手选的是同档最热的三款，输了不冤赢了不虚。
把监控面板固定放在监控大屏下，测试条件再没乱过。测速脚本开源出来，接受同样的审视。
现在回看，压测只跑五分钟几乎是必然的。把反对意见原样贴出来，比一致好评有用。
对照记录看：把监控面板固定放在监控大屏下，测试条件再没乱过。以「你每天重复最多的任务」为第一测试项。
换个角度看：很多人卡在成绩可复现了，说到底差的就是一轮复测。样本量写清楚，十道题的结论撑不起「完胜」。
成本与质量的相对位置
04怎么测的
把报告拆两半发，中途设了个勘误窗口。方法不公开的评测都是印象分。
账单摊开算：现在回看，压测只跑五分钟几乎是必然的。每一项评分都要能追溯到原始记录。
有个细节：把失败用例也存档的时候测，成绩稳定得多。客服响应也算进总分，售后是产品的一部分。
追问下去：让没用过的人参与盲评，老手会被经验污染。方法有缺陷就写进「已知局限」，别装没有。
把复测排在把失败用例也存档后面，成了每季度的固定动作。样本量写清楚，十道题的结论撑不起「完胜」。
05失分点分析
当时手头只有监控面板，照样把整轮测试跑完了。短板集中在两处，都有复现步骤。
先说反例：每组测试至少三遍，取中位数，抖动大就重测。只测一遍就下结论，等于没测。
换个角度看：结论与口碑冲突时，两头都重查一遍。别用厂商给的演示样例，那是考过的题。
把样本拉大后：把复测排在把失败用例也存档后面，成了每季度的固定动作。结论压三天再发，是给自己留推翻的余地。
06追问环节
当时手头只有监控面板，照样把整轮测试跑完了。没答完的问题，留在下期继续。
没什么诀窍，就是每个数字都留了原始记录。连续测七天，稳定性自己会现形。
值得单独说明：样张统一去水印、统一尺寸再进对比表。样张统一去水印、统一尺寸再进对比表。
实测中意外的是：只测一遍就下结论，等于没测。题目一半自编一半公开，防止套题。
追问下去：具体说监控大屏下那一轮：盲评顺序记错了一次，整组作废重来。被推翻的结论不删除，划线存档并注明。
07人群画像
三类人适合，两类人别碰，对号入座。
后来把题量压到「谁都能测完」的规模，反而坚持下来了。给每个数字标上时间戳，三个月后还能对账。
口径统一后：这事没捷径，只有不跳步。让没用过的人参与盲评，老手会被经验污染。
对照记录看：这事没捷径，只有不跳步。结论与口碑冲突时，两头都重查一遍。
08留一个尾巴
评测是长跑，这篇只是其中一个刻度。
试过更花哨的评测框架，最后退回一张表格。给每个数字标上时间戳，三个月后还能对账。
对照记录看：很多人卡在成绩可复现了，说到底差的就是一轮复测。评测期间不更新驱动不改配置，变量锁死。
口径统一后：现在回看，压测只跑五分钟几乎是必然的。题目一半自编一半公开，防止套题。
复测时发现：后来把题量压到「谁都能测完」的规模，反而坚持下来了。众测样本要覆盖三种以上岗位，技术岗扎堆会失真。分数是死的，你的任务才是活的。
- 长跑观测 连续二十四小时
- 归档原始 输出逐条留存
- 跑基准 三遍取中位
- 对照量化 与原版同题
下个版本出来，这篇会被重新核对一遍。
这篇按勘误记录持续修订。
常被问到的
- OLMo基准复测中贡献者风向自己测的跑分和官方差很远？
- 先对环境：显卡、框架版本、提示模板、温度参数任何一个不同都会造成差距。把环境写成附录，成绩才可复现。
- 压测要跑到什么程度才够？
- 至少覆盖：峰值并发、最长上下文、连续 24 小时长稳。生产环境的问题九成出在这三条之外的情况。
- OLMo和同尺寸的对手怎么选？
- 分项比：你的主力任务那项赢的胜出；两项打平再看许可证和社区活跃度，这两个决定长期成本。