CMMLU 针对的是英文基准难以覆盖的中文能力:它的题目以多项选择题形式组织,覆盖需要计算与推理的自然科学、需要知识积累的人文科学和社会科学,以及需要生活常识的中国特定内容,如驾驶规则等,其中不少任务的正确答案具有鲜明的中国语境特点。项目在 GitHub 上开源了数据集、评估代码与提交方式,任何团队都可以按统一流程跑分,并把结果提交到公开排行榜,评测同时支持零样本与少样本两种设置。
它适合大模型研发团队做中文能力的自测与横向对比,也适合研究者分析模型在不同学科和中国特定主题上的表现差异。对于关注大模型选型的产品与技术负责人来说,CMMLU 榜单也是判断模型中文知识与推理水平时常用的参考之一。
©️版权声明:若无特殊声明,本站所有文章版权均归AI工具集原创和所有,未经许可,任何个人、媒体、网站、团体不得转载、抄袭或以其他方式复制发表本站内容,或在非我站所属的服务器上建立镜像。否则,我站将依法保留追究相关法律责任的权利。