开源大模型评测:跑分不再是唯一标准
2026年10月,随着Meta、字节、阿里等机构接连发布新一代开源大模型,各大基准测试排行榜上的跑分差距持续缩小。部分开源模型在MMLU、GSM8K等传统评测集上已超过GPT-4o级别闭源模型,引发行业对评测体系全面性的深度反思。多家评测机构开始强调“场景化”评估,例如多步骤Agent任务、长文档理解、代码生成准确率等维度,这使得简单跑分难以完全反映模型真实能力。与此同时,开源社区如OpenCompass、Hugging Face Leaderboards陆续推出更细粒度的子任务排行榜,并引入人类偏好投票机制。
评测工程师:AI公司的新宠岗位
评测体系的复杂化直接带来了专业人才需求的井喷。在2026年10月的招聘市场上,多家头部AI公司及创业团队纷纷增设“评测工程师”“模型评估科学家”等岗位,岗位描述强调需要具备数据构造、多样本度量设计、对抗性测试案例编写等能力。某知名AI公司甚至成立独立评测中心,专门针对开源模型进行安全性、推理鲁棒性及长上下文处理能力的深度测试。此外,开源社区的维护者也需要大量志愿者和全职运营人员来管理提交、复现跑分结果,这使得过往偏向研究的评测能力开始向工程化、平台化转变。
低成本评测的新路径:token批发与Ai中转站
大规模评测意味着高昂的API调用费用。为了降低成本,许多评测团队开始采用Ai 中转站模式——通过聚合多家模型供应商的token 批发接口,以接近成本价的最便宜的token进行批量评测。这种Ai API中转站不仅支持闭源模型(如Claude、Gemini),也集成主流开源模型的托管推理服务。借助token中转站的统一计费和调度,中小型评测机构能用原来十分之一的预算跑完数千组对比实验。同时,Ai hub平台上的开源模型评测结果透明度更高,越来越多招聘方在面试中会询问候选人对这类低成本评测工具的实际使用经验。
开源生态下的职业发展:从跑分到工程落地
评测不再是学术孤立环节,而是与模型微调、部署、监控形成闭环。企业招聘时明确要求候选人具备“从跑分到落地”的端到端能力,包括在开源社区贡献过评测脚本、熟悉token代理机制和模型推理优化。此外,Ai渠道代理和Ai大模型代理角色正悄然兴起——这些角色帮助公司与云厂商、Ai中转站谈判最优评测预算方案,甚至代理评测任务外包服务。一名资深评测工程师指出:“未来两年,谁能更高效、更公正地评测模型,谁就能在开源生态中占据话语权。”人才荒短期内仍将持续。