背景
自从ChatGPT出现以来,在国内外掀起了大语言模型(LLM)研究和应用的浪潮,在LLM中看到了实现通用人工智能(AGI)的可能性。LLM的研究热潮让LLM的评测成为亟待解决的问题,原有自然语言处理(NLP)领域的评测经验已无法满足LLM模型评测的要求。如何客观的评估LLM的能力,同时客观反映LLM模型需要解决的问题成为了相较LLM的研究和开发更为紧迫和重要的任务。
构建客观、全面的LLM评测体系已成为LLM一个新的研究方向,同时LLM中涌现出来的通用人工智能能力,决定了LLM的评测已不是传统NLP评测的方式。事实上,评测体系以及评测数据的建设需要以通用人工智能能力的评测为目标,借助更多样的群体来完成。
本平台期望通过每位用户对大模型应用的理解以及自身具备的不同领域的知识,设计高质量的评测数据来对大模型进行综合的评估。
活动提交的数据分为两种类型:
奖励规则
本次活动为用户提供丰富的奖励机制,共计30万元现金奖池。具体的,针对任务一和任务二,平台将分别提供10万元的现金奖池;同时,平台还为积分榜单前六的用户提供总计10万元的额外现金奖励。用户可以通过贡献单条评测数据、贡献评测数据集、邀请新用户以及参与积分总排行四个方面获得积分奖励以及现金奖励。
- 在单条评测数据任务中,用户每提交一个单条数据,有机会获得0~4积分,与之对应可以获得0~4元现金奖励。
- 在评测数据集任务中,用户有机会获得0~500积分奖励,与之对应可以获得0~1000元的现金奖励;针对质量特别高的数据集,用户还有机会获得最高1000元的额外现金奖励。
- 在本活动周期结束后,平台依据积分排名,会为前六名发放1~3万元不等的现金奖励。
- 除此之外,用户还可以通过自己的邀请码邀请新用户参与活动,当被邀请用户在平台获得了10积分及以上,邀请者可获得10积分的奖励。点击查看我的邀请码
具体数据&奖励规则参考:【任务一】单条评测数据提交说明与奖励规则、【任务二】评测数据集提交说明与奖励规则、奖励规则说明
活动须知
- 活动期间,用户不得抄袭他人作品、交换答案或使用多个账号;平台有权对活动规则和活动安排进行调整和修改,对存在作弊行为及影响比赛公平性的用户进行判定和处置。
- 用户提交的评测用例中不得包含任何有害内容,包括但不限于侵犯个人隐私、违反国家法律、侵犯知识产权等。
- 活动主办方拥有数据作品(包括但按不限于方案设计、数据、代码脚本等)使用权,有权将活动作品、作品相关信息用于宣传、发布等。
- 用户可多次修改个人用户名,但所使用个人用户名不能涉及有害、敏感信息等。一经发现将强制改名,且后续不能自行改名。
反作弊说明
在活动过程中如出现以下情况将被视为作弊,我们将取消用户的活动资格及其在整场活动中的奖金获取资格。
- 禁止提交已开源的数据集
- 禁止同一份数据集以多账号重复提交
- 禁止恶意提交无效数据
- 禁止利用规则漏洞或技术漏洞等不正当途径提高成绩排名
活动安排
本次活动设立多个周期,第一期活动结束时间为2023年12月12日23点59分59秒
注册报名
用户必须保证注册信息的真实可信,否则将取消活动资格。
在活动过程中遇到的任何问题,欢迎扫描下方二维码,添加AI-Ceping小助手进入平台交流群,或者发邮件到aiceping2023@163.com咨询。
