蚂蚁集团何征宇呼吁行业加强软硬协同与生态建设

周兴 2023-11-09 14:10:42
人物 2023-11-09 14:10:42 阅读 3506 评论 0

11月9日消息,在2023世界互联网大会乌镇峰会“数字化绿色化协同转型发展”分论坛上,蚂蚁集团首席技术官何征宇表示,AI和大模型的爆发推高了智能算力需求,数字化、绿色化协同发展的使命,要求行业亟需构建绿色、高质量的计算基础设施。

他呼吁行业加强软硬协同与生态建设,共同提升计算基础设施算力规模、可用性与宽容度。

何征宇认为,AI大模型时代,行业智能化的深度和广度在扩展,双化协同也迎来提速。“大语言模型与生成式AI让计算机开始具备语言与内容生产能力,将我们带入了通用人工智能时代,承载这种能力的智能计算资源需求也随之井喷,算力基础设施的效率提升和绿色化是必经之路。”

据何征宇介绍,上周蚂蚁百灵大模型正式通过了备案,蚂蚁集团搭建的绿色计算体系,也正在为百灵大模型提供绿色化的计算能力。蚂蚁建设了万卡异构集群,其中硬件算力效率(HFU)超过60%,集群有效训练时长占比90%以上,RLHF训练在同等模型效果下训练吞吐性能相较于业界方案提升3.59倍,推理性能相较于业界方案提升约2倍,处于业界先进水平。

format-jpg

蚂蚁集团首席技术官何征宇

图源新浪科技

值得一提的是,11月7日,由上海人工智能实验室与商汤科技联合主办的IEEE“人工智能大模型”标准大会在深圳市工业和信息化局、IEEE标准协会指导下和深圳市市场监督管理局支持下顺利召开,近300位产业专家参加大会。会上,中国电子技术标准化研究院、上海人工智能实验室、华为云、百度、腾讯、蚂蚁、商汤科技、360、中兴通讯、美的、海信集团等国内首批11家单位发起成立了IEEE大模型工作组。

据介绍,此次大会上发起成立的IEEE大模型标准工作组,将协同国内外大模型产业力量,制定大模型技术规范、测评方法、安全可信、可靠决策等领域国际先进标准,为全球大模型产业技术创新和发展提供更好支撑。IEEE国际标准体系也将首次新增人工智能大模型领域国际标准。会后,由首批成员单位代表组成的编写组,连同国际专家,正式立项IEEE大模型标准工作组的首个标准《大规模深度学习模型评估框架及流程》。

format-jpg

IEEE大模型标准工作组正式成立

图源商汤科技SenseTime公众号

声明:
  1. 该内容为作者独立观点,不代表电商报观点或立场,文章为作者本人上传,版权归原作者所有,未经允许不得转载。
  2. 电商号平台仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。
  3. 如对本稿件有异议或投诉,请联系:info@dsb.cn
请勿发布不友善或者负能量的内容。与人为善,比聪明更重要!
讨论数量: 0
暂无评论