火山引擎总裁谭待主题演讲：以多云多模型，迎接体验创新的新时代
6月30日消息，2023火山引擎V-Tech体验创新峰会于28日在北京召开。会上，火山引擎发布了大模型服务平台“火山方舟”，面向企业提供模型精调、评测、推理等全方位的平台服务，希望打通大模型上下游链条，共建“多模型”行业生态，共同服务好千行百业。
火山引擎总裁谭待以《多云多模型，迎接体验创新的新时代》为主题，分享了火山引擎在大模型领域的洞察与探索。未来的大模型市场将是一个百花齐放的多模型生态，企业自身对大模型的应用将会呈现“1+N”的模式。
图片来源： 火山引擎，下同
如何做好、用好大模型？一直以来，火山引擎致力于通过云和智能技术，帮助企业实现更好的数字化增长。火山引擎将云上增长的动力总结成了3个核心要素，即“体验创新”、“数据驱动”和“敏捷迭代”。
谭待认为：“在云上增长三要素中，‘体验创新’能够直接为企业创造巨大的用户价值和商业价值。回顾历史，每次技术大变革，都会带来体验创新的巨大机会。现在，大模型已经当仁不让地捧起了技术创新和体验创新的接力棒。”
大模型的语言对话能力，第一次能够让机器去适应和理解人类的交互方式。大模型以seq2seq（Sequence-to-Sequence，序列到序列）的预测为基础，语言、图像、视频、计算机操作和指令都可以序列化，这也让大模型在各个行业落地呈现出成千上万种可能性。
火山引擎总裁谭待
目前，国内的大模型市场呈现出如火如荼的态势。做好大模型，算法、数据和算力三要素缺一不可，安全与信任、性价比、生态系统等问题也一样值得关注。安全与信任指的是双向信任，大模型服务商希望模型方案和代码不被泄露；模型的应用企业也需要保障调用大模型时，自身Prompt或精调数据不被泄露。
性价比方面，从更长的时间维度来看，后期模型推理计算才是成本更高的环节。只有推理成本足够低，才能让大模型被广泛使用。生态系统方面，生成式模型并不清楚自身所擅长的领域。因此需要被告知其自身优劣势，并在其不擅长的地方提供下游模型、API和插件。
此外，企业应该如何用好大模型，设计好企业在智能时代的技术路线？谭待认为，选择合适的大模型、做好提示工程、对接好插件和工具链，是三个关键。
火山引擎总裁谭待
首先，在选择合适的大模型之前，需要制定可量化的评估指标。是关注模型的逻辑推理能力？还是文本生成能力？还是风险控制能力？有了量化的评估指标作为依据，就可以针对不同的模型进行全方位的能力测评，选择性价比最合适的。
然后，需要做好提示工程（Prompt Engineering）。可以让Prompt尽可能全面地包含详细的任务内容、相关信息和说明。也可以通过Few-Shot Prompt的方式，尽可能地给大模型一些样本和示例。或者通过“step by step”这样CoT的方式，进一步加强模型的性能。
最后是对接好插件和工具链。大模型自己并不知道自己擅长什么，不擅长什么。所以需要通过工具并且帮助模型在合适的场景下更好地使用它们，带来更好的应用效果。
声明：
- 该内容为作者独立观点，不代表电商报观点或立场，文章为作者本人上传，版权归原作者所有，未经允许不得转载。
- 电商号平台仅提供信息存储服务，如发现文章、图片等侵权行为，侵权责任由作者本人承担。
- 如对本稿件有异议或投诉，请联系：info@dsb.cn
