京东言犀获离散推理型阅读理解DROP冠军

林月 2022-03-14 14:08:09
行业观察 2022-03-14 14:08:09 阅读 1673 评论 0

3月14日消息,据京东科技News消息,近日,在由Allen AI研究院发起的离散推理型阅读理解榜单DROP上,京东智能客服言犀团队(JDAI research)提出的NR-Rino模型以90.26%的准确率登顶DROP Leaderboard冠军。

format-jpg

据了解,DROP榜单是一个国际著名的评测任务,主要用于测试计算机在语言理解中的数学推理能力。不同于许多单轮问答,离散推理型阅读理解数据集DROP要求模型在语义理解的基础上,具备数值推理能力。本次DROP数据集任务吸引了国际众多参赛队伍,包括Google Research、中国平安、腾讯等。

DROP数据集的难点在于问题的答案无法通过直接与文章匹配得到,需要结合不同位置的数字及其上下文表示,来进行推理得出。此外,加法、排序、统计等符号运算对模型的综合推理能力也是极大的挑战。

format-jpg

京东言犀团队提出了NR-Rino模型,主要是对基于多头预测器方法进行创新和改进,NR-Rino采用了编码层、数字推理层、预测层的三级结构。

除了模型结构的优化外,NR-Rino还进行了训练优化,以充分利用预训练语言模型中蕴含的知识,包括对模型参数的正则化约束和Dropout正则化。

format-jpg

京东科技表示,未来言犀将进一步推动离散推理型阅读理解的发展,包括涉及背景知识的数字推理、复杂数字推理等问题。包括NR-Rino模型在内的AI能力也将广泛应用于京东零售、京东物流、京东健康,以及外部金融、政务、泛互的行业,涉及数字分析、金融报告分析、体育数据分析,智能交互RPA等环节。

声明:
  1. 该内容为作者独立观点,不代表电商报观点或立场,文章为作者本人上传,版权归原作者所有,未经允许不得转载。
  2. 电商号平台仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。
  3. 如对本稿件有异议或投诉,请联系:info@dsb.cn
请勿发布不友善或者负能量的内容。与人为善,比聪明更重要!
讨论数量: 0
暂无评论