做了几年模型评测,我越来越觉得,一份年度排名好不好,功夫全在榜单之外。大家看榜的时候盯着第一名是谁,我盯的是这套标准当初想解决什么问题、又承认自己解决不了什么问题。这个定位要是不清楚,后面所有分数都是空中楼阁。
我理解的年度排名,本质上是在“综合能力”“场景表现”和“可复现”这三条线之间找平衡。综合能力评估回答的是“这个模型整体素养如何”,场景化评估回答的是“放到具体任务里它行不行”,可复现性回答的是“换个人、换个时间、换个环境,还能不能得到差不多的结论”。三条线经常打架。综合分高的模型,做客服对话未必顺手;某个场景里表现惊艳的模型,换一批测试数据可能就露怯。
适用边界这件事,我觉得比排名本身更值得说。年度排名不是选型说明书,它给的是一个相对位置,不是绝对答案。有人拿着榜单第一名就去签采购合同,我一般会劝一句:先想清楚你的业务到底在测什么。排名能告诉你模型在公开基准上的大致水位,告诉不了你它在你们公司那套脏数据上会不会翻车。
1.2 核心评测指标体系
核心指标这块,我习惯把它拆成六块来看:语言理解、知识问答、逻辑推理、数学能力、代码生成、多模态理解与生成。每一块背后都有一堆门道,不是随便找几个题跑一跑就完事。
语言理解测的是模型对语义、指代、上下文关系的把握。这块看起来最基础,实际最容易掺水。有些基准题目太规整,模型靠模式匹配就能拿高分,真到口语化、带歧义的输入就原形毕露。我自己做内部测试时,会故意塞一些带错别字、语序颠倒的句子,看模型是真正理解还是硬猜。
知识问答和逻辑推理经常被混在一起谈,我觉得得分开。知识问答考的是模型肚子里装了多少东西、能不能准确调出来;逻辑推理考的是它能不能在已知信息上往前走几步。一个模型可能知识面很广,但一遇到多步推理就断片。数学能力更是照妖镜,步骤一多、条件一绕,差距立刻拉开。
代码生成这两年权重明显上来了。我观察下来,代码评测不能只看“能不能写出来”,还得看写出来的东西能不能跑、边界条件处理得怎么样、风格是否符合工程习惯。多模态这块的评测更难做,图文理解、视频理解、跨模态生成,每一条子赛道的数据集质量参差不齐,分数可比性要打个折扣。
1.3 工程与治理指标扩展
早几年的榜单,基本只看“聪明不聪明”。现在不行了,模型是要落地的,工程和治理指标的分量越来越重。长上下文、工具调用、响应稳定性、推理成本、部署门槛、安全合规与隐私保护,这些词以前是附加项,现在我觉得该算主项。
长上下文我深有体会。标称支持一百万字,和真能在一百万字里准确找到关键信息,完全是两码事。有些模型上下文一长,中间部分就开始“走神”,业内叫迷失在中间。工具调用也是,能不能稳定地按格式调用、调用失败后会不会自己纠正,这些细节直接决定智能体项目能不能上线。
响应稳定性和推理成本,这两项特别现实。同一个问题问十遍,答案质量忽高忽低,这种模型没人敢放进生产环境。推理成本更直接,单位token多少钱、延迟多少毫秒,算下来就是真金白银。部署门槛我也很在意,有些模型效果不错,但动辄要求一堆高端卡,中小团队根本玩不转。
安全合规与隐私保护这块,过去常被当成“合规部门的事”。我现在觉得它是评测体系里最不能糊弄的部分。幻觉控制做得怎么样、敏感内容怎么处理、训练数据版权清不清楚、用户数据会不会被拿去再利用,这些问题一旦出事,前面所有分数都归零。
1.4 评测方法与数据来源
评测方法上没有银弹,我的经验是几种手段搭着用。公开基准适合做横向对比,大家用同一套题,分数至少有个共同参照系。专家评测能补上基准测不出来的东西,比如回答的专业深度、表述是否得体。人类偏好对比更贴近真实感受,A/B盲测让普通人投票,往往能暴露一些指标看不出的问题。
自动化评测这两年用得越来越多,尤其是代码、数学这类有客观答案的任务,跑起来快、成本低。我比较警惕的是把自动化评测当成万能药。模型评判模型,容易出现偏好趋同,评出来的分数看着漂亮,实际偏差被放大了。
数据污染控制是评测里的隐痛。公开基准用久了,题目难免进入训练数据,分数虚高就成了普遍现象。我现在的做法是留一批不公开的“暗题”,定期轮换,配合盲测机制,尽量把“背答案”和“真能力”区分开。这件事没有一劳永逸的办法,只能持续对抗。
1.5 指标权重设计与争议点
权重设计是整份榜单最有争议的地方,也是我最不愿意拍脑袋的部分。综合分怎么给权重,直接决定谁排前面。语言理解给三成还是两成,代码给一成五还是两成五,稍微动一动,名次就能翻个个儿。我的原则是权重必须公开、必须能解释,读者不认同可以,但不能不知道你是怎么算的。
综合分和分场景分的矛盾一直存在。有人要一个总排名,图省事;有人只关心自己那摊事,总排名对他没意义。我的处理方式是两份都给,综合分看大盘,场景分看落地。权重敏感性也得测,把几套不同权重跑一遍,看看排名稳不稳。排名大起大落的模型,说明能力结构偏科,读者心里要有数。
基准饱和是另一个绕不开的问题。有些老基准,头部模型分数挤在九十几分,区分度几乎没了。这时候还拿它当主要依据,等于用一把刻度太粗的尺子量头发丝。评测公平性和结果可解释性,我越来越看重。不同模型参数量、训练数据、推理预算都不一样,放在一张表里比,得把前提说清楚。分数背后是什么、短板在哪、适不适合你,这些解释比一个冷冰冰的数字有用得多。
每年榜单出来那几天,我手机基本就被问爆了。朋友发一张截图过来,配一句“这个排第一的到底行不行”,我得先反问一句:你拿它干嘛使?不是说排名没用,是榜单这玩意儿得配着场景看。今年我前后翻了十来份主流榜单,有学术机构出的,有社区投票的,也有商业平台自己攒的,横着竖着比过去,格局比去年热闹不少。
头部那几家还是稳,可“稳”的内容变了。去年大家还在比谁家参数大、谁家跑分高,今年头部模型的差距已经缩到很难靠单一指标拉开。有榜单把前五名的综合分挤在三分以内,这种时候排名先后更像是在比谁家评测当天状态好。追赶者这边冒出来几个狠角色,开源阵营尤其明显,几个开源模型在代码和数学子榜上直接杀进第一梯队,搁一年前我是不太敢信的。
闭源和开源这条线,今年我感受特别深。闭源模型在综合体验、稳定性、工具生态上还是有优势,可开源模型迭代速度太快了,社区反馈一周一个版本,某些专项能力反超闭源并不稀奇。我自己的小团队现在做内部工具,首选已经换成开源模型自己部署,成本可控,改起来也方便。这个变化放在年度榜单里看,就是开源阵营的“上榜数量”和“上榜位次”同时往上走。
2.2 国内外主流大模型横向对比
横向对比这件事,我一般不看总分,看分项雷达图。总分高可能是六边形战士,也可能是某一项特别突出把平均分拉上去了。今年几份主流榜单里,国内模型在中文理解、知识问答上表现相当扎实,尤其是涉及本土语境、政策法规、文化常识的题,优势很明显。国外模型在英文推理、代码生成、多步工具调用上依然强势,这个差距在缩小,但还没完全抹平。
我印象比较深的是数学能力这块。头部几个模型在标准数学基准上都能刷到很高,可我把题目换个问法、加一层现实背景,差距就出来了。有的模型是“刷题型选手”,题干一绕就懵;有的模型是真能一步步拆解。代码开发也是类似,榜单上分数接近的两个模型,实际写一个完整小项目,一个能跑通、一个到处是隐藏bug,这种差异榜单不一定能体现出来。
版本迭代差异也得说。同一个模型,三个月前的版本和现在的版本,能力结构可能完全不一样。我见过某模型在一次大版本更新后,代码能力涨了一大截,可长文本稳定性反而掉了。所以看横向对比,我第一眼先找版本号和评测日期,拿半年前的榜单数据去指导今天的选型,风险很大。
2.3 分场景排行榜单解读
分场景榜单是我最推荐大家去看的部分。通用对话这个场景,头部模型之间的差距真的不大,日常问答、闲聊、简单写作,前几名用起来感受接近。真正拉开差距的是复杂指令遵循和多轮对话里的上下文保持,有些模型聊到第五轮就开始忘前面说过什么。
代码开发场景,今年榜单变化最剧烈。几个专门做代码的模型冲得很猛,通用大模型在代码子榜上的位置被挤压。我自己测下来,代码榜单排名靠前的模型,在补全、调试、重构这些任务上确实顺手,可一旦涉及跨文件的项目级开发,排名参考价值就打折扣了。数学推理场景,我关注的是“过程分”而不只是“结果分”,有些模型答案对了但过程经不起推敲,换个数字就错。
多模态和长文本这两个场景,榜单的可比性我觉得要打个问号。多模态评测的数据集质量差异太大,图像描述、图表理解、视频问答,每条子赛道用的测试集不一样,分数放一起比有点勉强。长文本更明显,标称上下文长度是一回事,实际“有效检索长度”是另一回事。智能体任务榜单今年新冒出来不少,我看了几份,评测设计还在摸索阶段,排名波动大,参考价值有但别全信。
2.4 榜单数据来源与可信度核验
榜单靠不靠谱,我一般先看三样东西:谁出的、样本多大、多久更新一次。学术机构出的榜单,方法论通常写得清楚,可更新慢,模型版本一换就过时。社区投票类榜单更新快、贴近真实使用感受,可样本偏差大,活跃用户的口味会主导排名。商业平台出的榜单,我得额外留个心眼,评测方和被评测方有没有利益关系,这个得自己判断。
样本规模这个事容易被忽略。有些榜单每个模型只跑几百道题,置信区间宽得能跑马,排名差个两三名根本没统计意义。我见过一份榜单,第十名和第十五名的分差不到零点五分,这种排名看看就好。复现实验也很关键,我会挑几个自己关心的模型,拿榜单同款题目私下跑一遍,对得上就多信几分,对不上就得琢磨是环境差异还是别的原因。
商业因素这块我不回避。有些榜单的赞助商就是参评模型的公司,有些评测机构靠模型厂商付费做深度评测。这不代表榜单一定有问题,可读者得知道这层关系。我的习惯是交叉验证,同一批模型看三份以上不同来源的榜单,排名趋势一致的部分可信度高,互相打架的部分就得自己动手测。
2.5 排名变化背后的关键信号
排名升降本身是表象,我更关心升降背后的东西。今年最明显的信号是“能力跃迁”从单点突破变成系统提升。去年某个模型可能靠一项绝活冲上来,今年头部模型是语言、推理、代码、多模态一起往上走,偏科生越来越难挤进前列。
成本下降这个信号,我觉得被很多人低估了。同样的综合分,今年达到这个水平的推理成本比去年降了一大截。榜单上分数没变,可背后的性价比完全不一样了。小模型蒸馏和端侧部署的进步也在榜单里有所体现,一些轻量模型在特定任务上的表现已经够用,企业没必要非得追最大最强的那个。
生态完善是另一个隐性信号。工具调用、插件生态、开发者社区活跃度,这些不太容易量化进榜单,可实际选型时权重很高。一个排名第五但生态成熟的模型,落地速度可能比排名第二但工具链残缺的模型快得多。竞争焦点也在转移,从“谁更聪明”往“谁更可靠、更便宜、更好集成”的方向走,这个趋势在今年的榜单指标设计里已经能看出苗头。
把今年几份主流榜单的分项数据摊开来看,我最大的感受是:单项能力的“天花板”还在往上顶,可不同模型之间的能力结构差异越来越值得琢磨。排名只是一个切面,切进去看每个维度的走势,才能摸到这一年技术演进的真实脉搏。
3.1 推理能力年度趋势:复杂推理、多步规划、数学与科学问题表现
推理能力这块,今年榜单给我的直观感受是“标准题越来越不够用了”。主流数学基准上头部模型的得分已经挤在高分段,差距小到要看小数点后两位。我一个做评测的朋友私下吐槽,说他们内部已经不太看GSM8K这类基准了,模型刷得太熟,分数参考价值在下降。换到更复杂的多步推理题,比如需要中间假设、反证、分情况讨论的题目,模型之间的差距才重新拉开。
我自己的体验也印证这一点。拿一道涉及现实约束的规划题去测几个排名靠前的模型,有的能一步步拆解约束条件、列出可行方案再回验,有的上来就给结论,中间步骤经不起追问。这种差异在榜单总分里不一定显眼,可放到实际业务场景里,就是能不能用的区别。科学问题表现也是类似,物理、化学里的计算题,模型公式记得住,单位换算和量纲检查却经常翻车。
今年一个明显的趋势是多步规划能力开始被单独拎出来评测。智能体任务榜单里,涉及任务分解、路径规划的指标权重在增加。我看了几份评测报告,排名靠前的模型在“把大任务拆成小步骤”这件事上进步很快,可一旦某一步执行失败,回退和重规划的能力还是参差不齐。这个短板在年度排名里体现得不够充分,我觉得明年应该会有更细的评测维度出来。
3.2 代码与智能体能力趋势:代码生成、调试修复、工具调用、多智能体协作与任务自动化
代码能力今年的变化幅度,在我印象里是各维度中最大的。去年榜单上代码子榜还是通用大模型的天下,今年专门做代码的模型和开源阵营的选手把格局搅了个遍。我拿同一个需求——一个带分页和搜索的表格组件——让几个排名靠前的模型分别写,有的模型一次成型、边界条件都考虑到了,有的模型功能能跑但样式错位、异常处理缺失。榜单分数接近,实际产出质量差得不少。
调试修复这个环节,我觉得比代码生成更能看出水平。给一段有bug的代码让模型找问题,有的模型能定位到具体行、解释清楚为什么错、给出修复方案,有的模型绕着bug说一堆正确的废话。工具调用也是,今年榜单里工具调用指标的权重明显上来了,可实际测下来,模型在“什么时候该调工具、调哪个、参数怎么填”这上面还是容易犯迷糊。多智能体协作听起来很热,榜单上相关任务也多了,可我看到的评测设计还比较初级,几个模型分别扮角色对话,任务完成度波动很大。
任务自动化这块我持谨慎乐观。年度排名里智能体相关榜单数量翻了一倍,说明行业在往这个方向使劲。可自动化任务的评测环境、成功判定标准、失败恢复机制,各家榜单做法不统一,横向比较起来费劲。我自己用下来,简单流程自动化已经比较靠谱,复杂长链条任务还是得有人盯着。
3.3 多模态与长上下文趋势:图文音视频理解、文档解析、长文本检索与跨模态生成
多模态今年榜单上热闹得很,可我要泼一点冷水。图文理解这块进步确实大,给一张图表让模型读出趋势、算出关键数值,头部模型基本能应付。视频理解就差一些,短视频片段还能描述个大概,长视频里的时序逻辑、事件因果关系,模型经常抓不住重点。音频这块评测榜单本来就少,有的榜单拿语音转文字之后的文本去评理解能力,这中间转写损耗算谁的,说不清楚。
文档解析是我今年特别关注的方向。实际工作里pdf、扫描件、带表格和公式的文档一大堆,我拿几份复杂财报让模型解析,有的模型能把表格结构还原得七七八八,有的模型把跨页表格读得支离破碎。这个能力在榜单上的呈现方式我觉得还不够细,很多榜单只测纯文本问答,文档解析单独拎出来评的少。
长上下文这个维度,榜单标称的数字和实际可用性之间的落差,我今年感受最深。标称一百万token上下文的模型好几个,可真塞进去一本长篇小说让模型找细节,有效召回的长度远低于标称值。跨模态生成今年也有进展,文生图、图生文的质量在提升,可评测的主观性太强,榜单排名看看就好,别太当真。
3.4 效率与成本趋势:推理速度、单位 token 成本、小模型蒸馏、端侧部署与绿色计算
效率这块的变化,我觉得是今年榜单里最被低估的信号。同样的综合分,达到这个水平的单位token成本比去年降了一大截。我翻了几家云厂商的报价单,主流模型的推理价格这一年降了不止一个台阶。榜单上分数没变,可背后的性价比完全不一样了,这对企业选型的影响比排名升降大得多。
小模型蒸馏的进步在榜单上也有体现。几个轻量模型在特定任务上的表现已经够用,文本分类、信息抽取、简单问答这些场景,用不着一上来就追最大最强的那个。我自己的团队现在做内部工具,首选都是小模型或者蒸馏版,跑在端侧设备上,响应快、成本低、数据不出本地。端侧部署这块,手机和笔记本上跑的小模型今年明显多了,虽然能力有限,可处理日常任务够使。
绿色计算这个概念今年开始出现在一些榜单的附加指标里,我看了觉得方向对,可量化方法还在摸索。推理能耗、碳排放这些数据,厂商披露的意愿和口径都不一样,横向比较难度大。不过趋势是清楚的,效率会越来越成为排名里的一等公民,不只是看谁聪明,还要看谁聪明得省。
3.5 安全与可信趋势:幻觉控制、内容安全、版权合规、数据隐私与模型可审计性
安全可信这个维度,今年榜单给我的感觉是“终于开始认真对待了”。去年很多榜单把安全当附加项,今年不少主流榜单把幻觉率、内容安全通过率单独列出来打分。我拿一些需要严谨事实的问题去测,头部模型的幻觉控制确实在进步,不知道就说不知道的比例在上升,胡编乱造的情况比去年少。
内容安全和版权合规这块,榜单评测的覆盖度还不够均匀。有害内容拒答率这类指标相对好测,版权合规就麻烦得多,模型训练数据里有没有侵权内容、生成内容跟现有作品的相似度怎么判定,这些评测方法还在早期。数据隐私方面,我关注的是模型会不会在对话里泄露训练数据里的敏感信息,今年有榜单专门设计了探测性测试,结果有好有坏,说明这个问题没被完全解决。
模型可审计性是我个人很看重但榜单覆盖最少的部分。模型为什么给出这个回答、决策链条能不能追溯、日志记录够不够细,这些在企业落地时权重很高,可量化进榜单的难度大。我看到的趋势是,安全可信正在从“合规成本”变成“竞争力要素”,排名靠前的模型如果安全短板明显,企业选型时一票否决的情况越来越多。
榜单刷完一遍,我常跟同事说一句话:排名是给人看的,不是给人抄的。真到掏钱、做技术选型的时候,把年度排名当成购物清单直接照搬,翻车的速度比模型迭代还快。这一章我想聊的就是怎么把排名用起来,怎么读出不写在榜单上的信息。
4.1 企业选型方法:从榜单排名到业务需求匹配、场景测试与总拥有成本评估
我见过不少团队选模型的流程是这样的:打开榜单,看前三名,找销售聊价格,走采购流程。省事是真省事,可落地三个月之后发现模型在自家业务上的表现跟榜单分数对不上,再回头换,迁移成本已经堆起来了。我的建议是把榜单当筛子用,不当尺子用。先用它把明显不合适的模型排除掉,留下五六个候选,剩下的工作在榜单外面做。
具体怎么筛,我自己习惯按三层来。业务需求第一层,把场景拆清楚:是实时对话还是离线批处理,是纯文本还是带文档和图片,对延迟敏感还是对准确率敏感。这三四个问题问下来,候选名单往往就砍掉一半了。场景测试第二层,这一步偷不得懒,拿自己业务里的真实数据搭个小测试集,一两百条就够,让候选模型跑一遍,人工看结果。我发现榜单排名接近的两个模型,在自己的测试集上打分能差出一大截。
总拥有成本评估是第三层,也是最容易被忽略的一层。很多人算成本只看token单价,这远远不够。部署方式、推理硬件、并发承载、运维人力、数据回流处理、微调投入、隐性故障成本,这些都要摊进来算。我做过一个内部测算,两个模型单价差三成,可规模跑起来之后,成本差距主要来自架构和运维,单价反而成了小头。榜单上不写这些,得自己动手算。
4.2 不同用户群体的阅读重点:开发者、企业决策者、研究者与普通用户如何理解排名
同一份榜单,不同人翻出来的东西完全不一样。这挺正常的,问题在于很多人拿别人的阅读重点来指导自己的决策,错位就产生了。
开发者看榜单,我的经验是重点盯分场景子榜和评测方法部分。综合分对写代码的人参考价值有限,代码生成、调试修复、工具调用这些子项的具体得分和评测用例更值得花时间。还有一点,开发者要关注版本号和评测时间,模型小版本迭代可能让能力变化很大,半年前的榜单数据拿去指导今天的选型,风险不小。我自己踩过这个坑,拿一个旧榜单上的分数做判断,上线之后才发现模型团队早把默认配置换了。
企业决策者的阅读重点应该往成本和治理指标偏。推理成本、部署门槛、安全合规、数据隐私这几项,直接对应预算和法务风险。综合排名前十还是前二十,对业务的影响远没有可审计性和合规性重要。我认识的一家金融机构,选型时安全评测不达标的模型直接出局,哪怕它综合分排第一。研究者的视角又不同,他们更关心评测方法本身哪块有漏洞、哪个维度设计得不合理、有没有能发论文的新评测方向。普通用户其实最该看的是使用体验类榜单和人类偏好对比结果,那些跟日常使用感受最接近。
4.3 排名局限与常见误区:基准偏差、场景迁移失效、版本时效性与单一分数误读
误区这块我得展开说,因为踩过的坑实在太多。第一个高频误区是拿综合分当唯一标准。综合分是加权出来的,权重怎么设各家都不一样,加权过程中丢掉的恰恰是分项差异。一个模型综合分第三,可能在你的核心场景里连前十都进不去,这种事年年都有。
场景迁移失效这个现象也特别普遍。某模型在公开基准的数学题上表现惊艳,换成行业里的业务计算题就原形毕露,原因是公开基准的题目模式被训练数据充分覆盖了,业务数据分布完全不同。基准偏差的问题今年越来越严重,主流基准被模型刷了几年,题目本身的区分度在下降。我拿几个榜单的高分模型做同一份内部测试,排名跟公开榜单的相关系数并没有想象中那么高,有时候简直是两套排序。
版本时效性是个容易被忽略但后果很严重的问题。榜单评测有周期,模型更新没周期,一份三个月前的排名,参考价值可能已经打了对折。我现在的做法是,官方榜单只用作方向性参考,具体到某个模型的当前状态,自己定期跑一套小规模回归测试,数据留在自己手里才踏实。还有一个隐蔽的误区是误读排名的置信区间,榜单上第一和第二差零点几分,很多人就认为存在能力差距,实际上可能只是评测噪声。这个道理评测机构都懂,可呈现分数的时候很少标注置信区间,用户就容易被小数字诱导。
4.4 行业落地参考:客服、编程、教育、金融、医疗、内容生产与数据分析等场景的模型选择建议
聊几个具体行业,都是我接触过或者跟踪比较多的,说点实在的选型体会。
客服场景我最熟悉。这个场景的核心诉求是稳定和可控,响应速度、并发承载、拒答边界、多轮对话中的上下文保持,比综合智力重要得多。排名前十的模型在客服任务上拉不开明显差距,反而小模型或者专门优化过的对话模型性价比更高。我给几个团队做过建议,结论都差不多:客服场景不必追头部排名,把意图识别准确率和转人工衔接做好,效果比换大模型明显。
编程场景正好相反,模型能力差距真实存在,而且影响很大。选型时建议重点看代码子榜的调试修复和工具调用得分,再拿自己代码库里的真实任务测一轮。有个细节值得注意,不同模型喜欢的代码风格和框架偏好不一样,跟团队的工程规范匹配度也纳入考量,不然生成的代码看着挺对,review的时候全是风格冲突。
金融和医疗这两个行业,我放一起说,因为共性很明显:对准确性和合规性的要求压过一切。选型建议是安全可信指标一票否决,幻觉率要单独测,而且要用行业真实问题测。金融场景还要额外关注数据不出域、可审计、版本冻结这些能力,很多排名靠前的通用模型在这些方面反而不如专做行业垂直的模型。医疗场景我建议模型只做辅助,评测重点放在知识准确性和危险建议的拦截率上。
教育场景要多看人类偏好对比结果,因为体验好不好,学生用起来最有发言权。内容生产场景看多模态生成和长上下文,数据分析场景看代码生成加结构化数据理解,这两类场景榜单分项数据比较丰富,选型时把子榜权重适当提高就行。
4.5 未来展望:动态评测体系、场景化榜单、实时排行榜与年度排名生态的发展方向
要说未来怎么走,我的判断是评测这件事会从"一年一考"变成"常态化监测"。现在榜单的更新频率跟不上模型迭代速度,一两个月就出一个新版本,年度排名根本追不上。我看到的几个动向,行业机构在推动态评测体系,模型新版本上线之后按周甚至按天跑自动化回归测试,分数实时更新。这个方向对用户是好事,对评测机构的技术和资金投入要求不低。
场景化榜单也会越来越多。通用榜单的区分度在下降,用户需求却在分层,金融榜、法律榜、医疗榜、教育榜这类垂直评测的市场需求已经起来了。我比较期待的是场景化榜单和真实业务数据打通,评测集就是脱敏后的生产数据,这样评分的迁移性会好很多。
实时排行榜和年度排名会形成两层生态。实时榜负责快速反映能力变化和价格波动,年度排名负责沉淀结构性结论和方法论。两者互相补充,各自解决不同的问题。还有一点我觉得值得关注,就是排名生态的透明化。评测代码开源、测试集定期轮换、评测机构的商业关系披露,这些机制建起来,榜单的可信度才能跟着能力一起涨。选型的人最终要的不是一个分数,而是一个能解释、能复现、能对得上业务的判断依据。