AI模型评测

CMMLU

CMMLU 是综合性的中文大模型评估基准,专门衡量语言模型在中文语境下的知识与推理能力。它涵盖从基础学科到高级专业水平的 67 个主题,包括自然科学、人文社科和中国驾驶规则等本土化内容,并提供公开排行榜,适合模型研发与评测研究人员使用。

标签:
CMMLU 针对的是英文基准难以覆盖的中文能力:它的题目以多项选择题形式组织,覆盖需要计算与推理的自然科学、需要知识积累的人文科学和社会科学,以及需要生活常识的中国特定内容,如驾驶规则等,其中不少任务的正确答案具有鲜明的中国语境特点。项目在 GitHub 上开源了数据集、评估代码与提交方式,任何团队都可以按统一流程跑分,并把结果提交到公开排行榜,评测同时支持零样本与少样本两种设置。 它适合大模型研发团队做中文能力的自测与横向对比,也适合研究者分析模型在不同学科和中国特定主题上的表现差异。对于关注大模型选型的产品与技术负责人来说,CMMLU 榜单也是判断模型中文知识与推理水平时常用的参考之一。
©️版权声明:若无特殊声明,本站所有文章版权均归AI工具集原创和所有,未经许可,任何个人、媒体、网站、团体不得转载、抄袭或以其他方式复制发表本站内容,或在非我站所属的服务器上建立镜像。否则,我站将依法保留追究相关法律责任的权利。

类似网站