把Yi-Large开学季横评家庭套餐评估放进真实工作里测了一周
结论可能反常识，但每一条都有出处。
下面这些，都是亲手测过才敢写。
篇幅不长，每节都能独立引用。
常见翻车点对照
评测执行中的高频错误。
| 环节 | 翻车点 | 后果 | 对策 |
|---|---|---|---|
| 选题 | 全是公开套题 | 成绩虚高 | 一半自编 |
| 环境 | 配置中途变动 | 成绩不可比 | 锁死配置 |
| 盲评 | 品牌信息泄露 | 评分偏移 | 去标识编号 |
| 统计 | 只报均值 | 掩盖抖动 | 报中位数+区间 |
| 结论 | 当天就发布 | 无法推翻 | 压三天再发 |
01免责与说明
把切换清单固定放在实测记录的本子旁，测试条件再没乱过。测试有边界：版本、时间、样本量都圈死了结论的适用范围。
把报告拆两半发，中途设了个勘误窗口。盲评时把品牌信息全部去掉，编号打乱。
最有用的一条：允许结论被推翻。题目一半自编一半公开，防止套题。
先说反例：把复测排在月底把账单折成单价后面，成了每季度的固定动作。深夜批处理和白天交互，测出来的延迟是两回事。
实测中意外的是：把报告拆两半发，中途设了个勘误窗口。把「适合谁」写具体到岗位，别写「进阶用户」。
02对决结果
对比表在下面，每一格都能溯源到原始记录。
实测中意外的是：有个细节：月底把账单折成单价的时候测，成绩稳定得多。客服响应也算进总分，售后是产品的一部分。
复测时发现：分数保留一位小数就够了，假精度没有意义。样本量写清楚，十道题的结论撑不起「完胜」。
把报告拆两半发，中途设了个勘误窗口。方法有缺陷就写进「已知局限」，别装没有。判定给完了，复测的事我们季度见。
03复评预告
季度复评已排上日程，同一组题再跑一遍。
现在回看，政策没读就接入几乎是必然的。众测样本要覆盖三种以上岗位，技术岗扎堆会失真。
账单摊开算：对比对象选同档热门，别拿小厂刷战绩。引用别人的数据必须标来源和测试条件。
最有用的一条：允许结论被推翻。题目一半自编一半公开，防止套题。
换个角度看：给每篇评测定一个复核日期，到期强制回看。盲评时把品牌信息全部去掉，编号打乱。结论不妨质疑，方法随时欢迎检查。
04人群画像
把报告拆两半发，中途设了个勘误窗口。画像列在下面，越靠前匹配度越高。
账单摊开算：具体说实测记录的本子旁那一轮：盲评顺序记错了一次，整组作废重来。被推翻的结论不删除，划线存档并注明。
补充一组数据：后来把题量压到「谁都能测完」的规模，反而坚持下来了。众测样本要覆盖三种以上岗位，技术岗扎堆会失真。
复测时发现：数据磁盘单独留档，报告不妨改，数据不能改。别用厂商给的演示样例，那是考过的题。
对照记录看：实测记录的本子旁的测试做完之后，整份报告都顺了。高峰期单独加测一轮，闲时成绩不算数。
- 分组出题 中文专项分五组
- 三段计时 早中晚各一轮
- 并用切换 双模型并行两周
- 用满额度 上限亲手摸到
05实测证据
试过更花哨的评测框架，最后退回一张表格。表格里是全部原始成绩，没有挑拣。
盲评环节里：把复测排在月底把账单折成单价后面，成了每季度的固定动作。评测报告里最值钱的是失败记录。
对照记录看：试过更花哨的评测框架，最后退回一张表格。方法有缺陷就写进「已知局限」，别装没有。
补充一组数据：被推翻的结论不删除，划线存档并注明。样张统一去水印、统一尺寸再进对比表。
- 折算会员 按用量算单价
- 用满额度 上限亲手摸到
- 三段计时 早中晚各一轮
- 并用切换 双模型并行两周
06追问环节
那阵子中文高低一目了然是整份报告里最硬的一条。没答完的问题，留在下期继续。
对照记录看：试过更花哨的评测框架，最后退回一张表格。分数变化百分之五以内，视为人手误差。
追问下去：把复测排在月底把账单折成单价后面，成了每季度的固定动作。深夜批处理和白天交互，测出来的延迟是两回事。
试过更花哨的评测框架，最后退回一张表格。付费档和免费档分开出成绩单。
盲评环节里：试过更花哨的评测框架，最后退回一张表格。付费档和免费档分开出成绩单。
07一句话判定
最有用的一条：允许结论被推翻。答案不绕弯，证据在后面逐条摆。
补充一组数据：让没用过的人参与盲评，老手会被经验污染。复测用同一组题，别换题，否则不叫复测。
补充一组数据：试过更花哨的评测框架，最后退回一张表格。测试环境写进附录，是可复现的最低要求。
账单摊开算：多花了一杯咖啡的时间核对来源，省下了一次翻车。失败的用例原样保留，那是报告的一半价值。
08泼冷水环节
那阵子中文高低一目了然是整份报告里最硬的一条。失分的题逐条看了，原因不是能力是策略。
补充一组数据：当时随手存的原始输出，后来成了唯一的证据。复测用同一组题，别换题，否则不叫复测。
口径统一后：别用厂商给的演示样例，那是考过的题。价格按测试当天折算，注明汇率与活动。
复测时发现：这事没捷径，只有不跳步。对比对象选同档热门，别拿小厂刷战绩。
一轮评测的工时构成
09口径说明
环境与参数写在文末附录，欢迎一键复现。
先说反例：试过更花哨的评测框架，最后退回一张表格。付费档和免费档分开出成绩单。
对照记录看：最有用的一条：允许结论被推翻。测试环境写进附录，是可复现的最低要求。
把复测排在月底把账单折成单价后面，成了每季度的固定动作。测速脚本开源出来，接受同样的审视。
数据和短板都摆全了，放心引用。
常被问到的
- Yi-Large的隐私政策要注意什么？
- 三处：数据留存期限、是否用于训练、企业数据隔离。个人用户重点看第一处，企业用户三条都要落实。
- Yi-Large开学季横评家庭套餐评估免费档和付费档差距大吗？
- 多数差距在规格和限速，不在智能水平。重度用户先算单价：超过每天三次高频使用，付费档通常更划算。