一份可复现的Yi-Large老用户复评纪要整理对比评测
这份报告里没有惊喜，只有核对过的数据。
下面这些，都是亲手测过才敢写。
01评测流程
这事没捷径，只有不跳步。同一组题、同一台机器、同一套提示词，变量只剩模型。
账单摊开算：当时随手存的原始输出，后来成了唯一的证据。测试环境写进附录，是可复现的最低要求。
当时手头只有政策摘录，照样把整轮测试跑完了。结论压三天再发，是给自己留推翻的余地。
值得单独说明：把反对意见原样贴出来，比一致好评有用。预算和需求不同，结论就不同，别滥用通用分。
复测时发现：数据磁盘单独留档，报告不妨改，数据不能改。结论先行不是抢跑，是对读者时间的基本尊重。
| 评测项 | 怎么测 | 常见失真 | 怎么算数 |
|---|---|---|---|
| 中文 | 成语公文古文分组测 | 拿英文题推断 | 分组有得分 |
| 速度 | 早中晚三时段计时 | 只测一次 | 时段分开报 |
| 额度 | 免费档用满实测 | 按宣传口径 | 上限实测过 |
02成绩摆出来
数据先摆事实：强项强多少，弱项弱多少。
对照记录看：最有用的一条：允许结论被推翻。数据磁盘单独留档，报告不妨改，数据不能改。
复测时发现：给每个数字标上时间戳，三个月后还能对账。盲评时把品牌信息全部去掉，编号打乱。
没什么诀窍，就是每个数字都留了原始记录。复测用同一组题，别换题，否则不叫复测。
试过更花哨的评测框架，最后退回一张表格。结论压三天再发，是给自己留推翻的余地。
03后续计划
评测是长跑，这篇只是其中一个刻度。
把样本拉大后：当时手头只有政策摘录，照样把整轮测试跑完了。样张统一去水印、统一尺寸再进对比表。
那一个月只加了一个习惯：先亮方法再亮结论。付费档和免费档分开出成绩单。
补充一组数据：复测用同一组题，别换题，否则不叫复测。盲评时把品牌信息全部去掉，编号打乱。
口径统一后：那一个月只加了一个习惯：先亮方法再亮结论。给每篇评测定一个复核日期，到期强制回看。
04读者问答复盘
问答比正文诚实，语气都保留了。
那一个月只加了一个习惯：先亮方法再亮结论。评测工具本身也要校准，尺子歪了全盘皆输。
把样本拉大后：样本量写清楚，十道题的结论撑不起「完胜」。测速脚本开源出来，接受同样的审视。
值得单独说明：后来把题量压到「谁都能测完」的规模，反而坚持下来了。让没用过的人参与盲评，老手会被经验污染。
对照记录看：预算和需求不同，结论就不同，别滥用通用分。客服响应也算进总分，售后是产品的一部分。
“方法公开，结论才站得住。”
05它做不到什么
试过更花哨的评测框架，最后退回一张表格。这几处翻车不是版本问题，短期内别指望修复。
换个角度看：付费档和免费档分开出成绩单。样本量写清楚，十道题的结论撑不起「完胜」。
把样本拉大后：第二季度复测，快了一倍，因为题库是现成的。评测报告里最值钱的是失败记录。
很多人卡在会员费花得明白，说到底差的就是一轮复测。长期订阅前，先看它最近两季的更新日志。
06测试的边界
把政策摘录固定放在实测记录的本子旁，测试条件再没乱过。结论只代表测试当天的版本，下个版本可能翻案。
把政策摘录固定放在实测记录的本子旁，测试条件再没乱过。连续测七天，稳定性自己会现形。
换个角度看：被推翻的结论不删除，划线存档并注明。给每个数字标上时间戳，三个月后还能对账。
现在回看，免费档没摸到上限几乎是必然的。别用厂商给的演示样例，那是考过的题。
值得单独说明：题目一半自编一半公开，防止套题。测试环境写进附录，是可复现的最低要求。判定给完了，复测的事我们季度见。
07人群画像
当时随手存的原始输出，后来成了唯一的证据。判断标准只有一条：你的高频任务是不是它的强项。
实测中意外的是：那一个月只加了一个习惯：先亮方法再亮结论。每一项评分都要能追溯到原始记录。
换个角度看：别用厂商给的演示样例，那是考过的题。盲评时把品牌信息全部去掉，编号打乱。
多花了一杯咖啡的时间核对来源，省下了一次翻车。被推翻的结论不删除，划线存档并注明。数据都在附录，不信就来复现。
08横向相对而言
对手选的是同档最热的三款，输了不冤赢了不虚。
第一周最大的发现，是高峰期和闲时能差出一倍。客服响应也算进总分，售后是产品的一部分。
没什么诀窍，就是每个数字都留了原始记录。高峰期单独加测一轮，闲时成绩不算数。
现在回看，免费档没摸到上限几乎是必然的。别用厂商给的演示样例，那是考过的题。判定给完了，复测的事我们季度见。
按场景拆分的得分差异（参考）
先跑一遍附录里的复现步骤，再决定信不信。
有新版本我会回来更新这篇报告。
常被问到的
- Yi-Large和同行比最该看哪一项？
- 看你用什么：办公族看文档和表格处理，学生看讲解和翻译，创作者看文风。没有全能冠军，只有场景冠军。
- Yi-Large老用户复评纪要整理对比免费档和付费档差距大吗？
- 多数差距在规格和限速，不在智能水平。重度用户先算单价：超过每天三次高频使用，付费档通常更划算。
- Yi-Large的中文真的比海外模型强吗？
- 分任务：成语、公文、分寸感普遍占优；英文语料和代码生态仍是海外强项。拿你最高频的三类任务各测十题，答案自己会出来。