百度沈抖:千帆平台纳管的国内外主流大模型达到42个

周兴 2023-09-06 04:30:00
人物 2023-09-06 04:30:00 阅读 1980 评论 0

9月6日消息,2023百度云智大会上,百度智能云千帆大模型平台宣布实现2.0全面升级,首次公布月活企业数已近万家,覆盖金融、制造、能源、政务、交通等行业的400多个业务场景。

据百度集团执行副总裁、百度智能云事业群总裁沈抖介绍,升级后的百度智能云千帆平台2.0拥有“四个最”:预置最多的大模型和数据集、有最丰富最全面的工具链、最佳算力效能、最完备的大模型安全方案。

format-jpg

(图源百度智能云视频号截图,下同)

沈抖指出,相比过去,千帆平台纳管的国内外主流大模型达到42个,还预置了41个高质量有行业特色的数据集,预装了知识问答、客服对话、代码助手等10个精选应用范式,大幅降低企业使用、训练和推理大模型的门槛。对于除文心大模型之外的第三方大模型,千帆平台不只是简单的接入,还提供中文增强、性能增强、上下文增强等能力。比如,原来要用英文对话效果才好的Llama2等国外大模型,现在用中文也一样好。

沈抖表示,工具链变得更丰富和更全面,也更加轻量化、敏捷化。过去客户验证大模型的效果至少需要一周时间,现在基于一站式的工具链,只需一天就可以跑通一个模型并看到效果。值得关注的是,千帆平台的工具链里内置了103套高质量的prompt模版,还有自动化prompt工程能力,用户做起来会更方便、更轻松。

算力服务升级后,万卡集群训练大模型时,有效训练时间达到95%以上,极大的降低了时间成本,加速比可以达到 95%,充分释放集群的整体算力。千帆平台还兼容国内外主流芯片和操作系统,企业客户的算法可以以最小的修改成本在这些硬件上运行。

format-jpg

值得一提的是,今年7月,沈抖曾在《大模型:产业智能化的新引擎》专题讲座上表示,“大模型的出现,重新定义了人机交互。未来,人们只需要用自然语言提出需求,大模型就可以自己理解需求、再生成内容、升级工具,最后提供服务。学术界、产业界都认为,第四次科技革命已经到来。”

“所以我们预判,未来可能是少数几家大厂做好基础大模型,然后各个行业、企业可以在这个基础上研发行业大模型、企业大模型甚至是地方政务的大模型。”沈抖说。百度是全球科技大厂中第一个推出大模型的科技公司,自3月16日宣布文心一言内测以来,一周时间就有15万企业申请测试,而且每家企业都有比较明显的场景需求。百度为企业提供的大模型服务包括有文心千帆大模型服务平台、 百度AI大底座等。

官方资料显示,沈抖自2019年5月起担任执行副总裁。目前担任百度人工智能云首席负责人,负责人工智能云的发展。于2012年加入百度,曾担任多个管理职位,包括网络搜索、展示广告、金融服务集团和移动产品。在加入百度之前,曾在微软的 adCenter团队工作,并将他与他人共同创立的社交媒体监控和分析平台公司Buzzlabs卖给了IAC旗下的CityGrid Media。沈抖获得华北电力大学工学学士学位、清华大学工学硕士学位、美国麻省理工学院博士学位。香港科技大学计算机科学博士。

format-jpg

图注:百度集团执行副总裁、百度智能云事业群总裁沈抖

(图源百度官网)

声明:
  1. 该内容为作者独立观点,不代表电商报观点或立场,文章为作者本人上传,版权归原作者所有,未经允许不得转载。
  2. 电商号平台仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。
  3. 如对本稿件有异议或投诉,请联系:info@dsb.cn
请勿发布不友善或者负能量的内容。与人为善,比聪明更重要!
讨论数量: 0
暂无评论