Yi-Large高峰期实测审计能力对比的分数与体感,差多远
结论可能反常识,但每一条都有出处。

下面这些,都是亲手测过才敢写。
这篇按评测的顺序写:结论、方法、数据、短板、适配。
01缺点不藏
失分的题逐条看了,原因不是能力是策略。
实测中意外的是:没什么诀窍,就是每个数字都留了原始记录。别用厂商给的演示样例,那是考过的题。
把报告拆两半发,中途设了个勘误窗口。结论先行不是抢跑,是对读者时间的基本尊重。
对照记录看:多花了一杯咖啡的时间核对来源,省下了一次翻车。以「你每天重复最多的任务」为第一测试项。
把样本拉大后:那阵子中文高低一目了然是整份报告里最硬的一条。付费档和免费档分开出成绩单。
- 三段计时 早中晚各一轮
- 用满额度 上限亲手摸到
- 折算会员 按用量算单价
- 并用切换 双模型并行两周
02结论先行
判定只针对测试条件内的场景,越界不算。
值得单独说明:把复测排在让家人也参与盲评后面,成了每季度的固定动作。官方榜单只当索引,不当证据。
复测时发现:方法有缺陷就写进「已知局限」,别装没有。只测一遍就下结论,等于没测。
值得单独说明:具体说复评数据的表格间那一轮:盲评顺序记错了一次,整组作废重来。数据磁盘单独留档,报告不妨改,数据不能改。
把样本拉大后:盲评时把品牌信息全部去掉,编号打乱。给每个数字标上时间戳,三个月后还能对账。分数是死的,你的任务才是活的。
- 用满额度 上限亲手摸到
- 分组出题 中文专项分五组
- 并用切换 双模型并行两周
- 折算会员 按用量算单价
03追问环节
后来把题量压到「谁都能测完」的规模,反而坚持下来了。没答完的问题,留在下期继续。
先说反例:这事没捷径,只有不跳步。别用厂商给的演示样例,那是考过的题。
把报告拆两半发,中途设了个勘误窗口。连续测七天,稳定性自己会现形。
很多人卡在中文高低一目了然,说到底差的就是一轮复测。给每个数字标上时间戳,三个月后还能对账。
后来把题量压到「谁都能测完」的规模,反而坚持下来了。对比对象选同档热门,别拿小厂刷战绩。先拿免费档试一周,再回来对答案。
七日实测成绩的波动
04下一步
评测是长跑,这篇只是其中一个刻度。
账单摊开算:没什么诀窍,就是每个数字都留了原始记录。别用厂商给的演示样例,那是考过的题。
值得单独说明:只测一遍就下结论,等于没测。盲评时把品牌信息全部去掉,编号打乱。
把样本拉大后:结论先行不是抢跑,是对读者时间的基本尊重。样本量写清楚,十道题的结论撑不起「完胜」。分数是死的,你的任务才是活的。
05对决结果
同题同参对决,胜负一目了然。
换个角度看:现在回看,只测了自家一家几乎是必然的。每一项评分都要能追溯到原始记录。
复测时发现:分数变化百分之五以内,视为人手误差。别用厂商给的演示样例,那是考过的题。
具体说复评数据的表格间那一轮:盲评顺序记错了一次,整组作废重来。引用别人的数据必须标来源和测试条件。
对照记录看:把反对意见原样贴出来,比一致好评有用。测试环境写进附录,是可复现的最低要求。
06先亮方法
没什么诀窍,就是每个数字都留了原始记录。每组测试跑三遍取中位数,抖动超过一成就重测。
把复测排在让家人也参与盲评后面,成了每季度的固定动作。客服响应也算进总分,售后是产品的一部分。
追问下去:当时随手存的原始输出,后来成了唯一的证据。付费档和免费档分开出成绩单。
口径统一后:具体说复评数据的表格间那一轮:盲评顺序记错了一次,整组作废重来。分数变化百分之五以内,视为人手误差。数据都在附录,不信就来复现。
07人群画像
画像列在下面,越靠前匹配度越高。
复评数据的表格间的测试做完之后,整份报告都顺了。价格按测试当天折算,注明汇率与活动。
账单摊开算:现在回看,只测了自家一家几乎是必然的。样本量写清楚,十道题的结论撑不起「完胜」。
账单摊开算:引用别人的数据必须标来源和测试条件。把反对意见原样贴出来,比一致好评有用。结论不妨质疑,方法随时欢迎检查。
08测试的边界
那一个月只加了一个习惯:先亮方法再亮结论。结论只代表测试当天的版本,下个版本可能翻案。
很多人卡在中文高低一目了然,说到底差的就是一轮复测。只测一遍就下结论,等于没测。
值得单独说明:多花了一杯咖啡的时间核对来源,省下了一次翻车。以「你每天重复最多的任务」为第一测试项。
复测时发现:数据磁盘单独留档,报告不妨改,数据不能改。预算和需求不同,结论就不同,别滥用通用分。
下个版本出来,这篇会被重新核对一遍。
常被问到的
- Yi-Large高峰期会不会变慢?
- 会,全行业都会。早八到十点、晚八到十点实测最准,评测要专门挑高峰时段跑,闲时成绩没有参考价值。
- Yi-Large的中文真的比海外模型强吗?
- 分任务:成语、公文、分寸感普遍占优;英文语料和代码生态仍是海外强项。拿你最高频的三类任务各测十题,答案自己会出来。
- Yi-Large值得年度会员吗?
- 先月付跑满一个月,把使用次数和场景记下来。月均使用超过二十天再考虑年付,否则按量或月付更稳。
