复旦测评13家大模型高考数学成绩,字节豆包II卷超GPT-4o夺冠

来源: 半岛晨报
2024-06-14 20:23:14

  新民晚报讯(记者金志刚)近日,复旦大学自然语言处理(NLP)实验室LLMEVAL团队公布了2024年高考数学大模型评测结果。数据显示,字节豆包在2024高考数学新II卷客观题正确率达到74.66%,在13家大模型中排名首位,阿里千问和GPT-4o分列二三位。而在高考数学新I卷评测排名中,字节豆包也排在前列。

  据悉,LLMEval是由复旦大学NLP实验室推出的大模型评测基准,专注于评估专业领域的知识能力。评测团队表示,全新出炉的高考试题具备高度的独创性和保密性,是用来评测大模型的“绝好评测集合”。因此,团队在高考后第一时间对13家大模型进行了评测。

  评测选取2024高考数学新I卷和新II卷的14道客观题,参评“选手”涵盖GPT-4o、文心一言、 阿里千问、字节豆包等主流大模型。GPT-4o是OpenAI于今年5月新推出的大语言模型,数学能力是其发布会现场着重展现的能力模块。但结果显示,部分国产大模型在本次数学评测中的成绩优于GPT-4o。在新II卷客观题测试中,字节豆包成绩排在首位,其次是阿里千问和GPT-4o。

  今年5月,豆包大模型在火山引擎原动力大会上正式发布。相关数据显示,在MMLU、BBH、GSM8K、HumanEval等11个业界主流的公开评测集上,Doubao-pro-4k的总分为76.8分,优于同期测试的其他国产模型。在数学能力、语言理解能力,以及综合评测集CMMLU和CEval的评测上,豆包也有不错的表现,得分排在前三。

本次世界杯上,在卡塔尔对阵厄瓜多尔的揭幕战上,海信集团“中国第一,世界第二”的场边大幅汉字广告在吸引世界目光的同时,也通过央视转播得到国内关注。

2022年卡塔尔世界杯

前两届世界杯,还会在现场卖啤酒,一边喝酒一边看比赛,是很多球迷的标配。但今年卡塔尔的场馆是禁售啤酒的,不过我觉得入乡随俗也很正常,还是要尊重世界的多元化,3个小时不喝酒也没什么。

前两届世界杯,还会在现场卖啤酒,一边喝酒一边看比赛,是很多球迷的标配。但今年卡塔尔的场馆是禁售啤酒的,不过我觉得入乡随俗也很正常,还是要尊重世界的多元化,3个小时不喝酒也没什么。

有媒体报道

也是从这届世界杯开始,我真正迷恋上了这项赛事——原来世界上还有这样一项运动,它在短短的90分钟内有无限可能。

陈怡友

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有