京东探索研究院织女模型Vega v1登GLUE榜首

林月 2022-01-05 14:39:22
行业观察 2022-01-05 14:39:22 阅读 2892 评论 0

1月5日消息,据京东科技News微信公众号消息,在近日公布的全球自然语言处理领域顶级测试GLUE中,京东探索研究院联合悉尼大学、武汉大学以及北京航空航天大学组成梦之队(JDExplore Dream Team, d-team)参与其中,其提出的织女模型Vega v1以总平均分91.3分荣登榜首,再次刷新自然语言理解技术世界纪录。

format-jpg

(图源京东探索研究院,下同)

据悉,测试中织女模型在九个子任务中的四个单项任务,即情感分类任务SST-2(The Stanford Sentiment Treebank)、语义相似度任务MRPC(Microsoft Research Paraphrase Corpus)、问句语义等价任务QQP(The Quora Question Pairs)和指代消解任务WNLI(winograd NLI)中均位列第一。尤其在情感分析任务SST和指代消解任务WNLI中首次超越人类智能水平。

织女模型Vega v1采用了“预训练-微调”范式,依托于多个重要预训练的技术创新实现突破,例如采用了高效节能的并行化训练框架以及数据利用方法,使用了数十亿参数量的创新模型架构、更好的自监督信号以及多粒度句子级表征等。

format-jpg

京东表示,织女模型Vega v1问鼎GLUE榜单并超越人类的表现,将京东探索研究院NLP模型水平推上新台阶,有望以创新性科技更好助动智能城市、供应链管理、智能零售等应用研究,更快推进数智化产业蓬勃发展。

未来还将考虑融合可信人工智能等技术对织女模型进行全面升级,让其不仅具有强大的文本理解能力,还能具备稳定性、可解释性、保护隐私、公平性等重要属性。

据了解,京东探索研究院在自然语言处理及机器视觉等领域拥有世界领先的智能人机交互技术,在国际顶级学术会议上发表了520余篇论文,获得了33项国际AI比赛冠军并多次获得国际大奖,且拥有370余项专利。依托京东的应用场景,打造了新一代多模态智能客服产品,涵盖了全链条客户服务场景。

format-jpg

声明:
  1. 该内容为作者独立观点,不代表电商报观点或立场,文章为作者本人上传,版权归原作者所有,未经允许不得转载。
  2. 电商号平台仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。
  3. 如对本稿件有异议或投诉,请联系:info@dsb.cn
请勿发布不友善或者负能量的内容。与人为善,比聪明更重要!
讨论数量: 0
暂无评论