“自3月16日以来的一个月内，文心一言推理服务已完成4次迭代，目前已升级至3.5版本。”近日百度智能云AI与大数据平台总经理忻舟在开文心一言技术交流会上表示，通过硬件的优化、框架的优化，文心一言整体性能提升，目前为止提升了10倍，这也意味着大模型推理成本降为原来的十分之一。

据了解，现在百度几乎所有的产品，从搜索、小度音箱、自动驾驶，再到百度健康，都在使用文心一言提升各自的产品效果，“用户可能看到的不是一个颠覆性的产品或者效果，但是有更好的体验。”忻舟说。

此次在上海举行的开文心一言技术交流会，现场各行各业的从业者都表现出很高的热情。值得关注的是，3月27日百度智能云大模型平台面向首批企业客户启动内测之后，目前已在智能办公、旅行服务、电商直播、政务服务、金融服务五大领域打造了行业样板间。

“百度智能云大模型平台，是全球首个一站式的企业级大模型平台。”忻舟表示，该平台不但提供包括文心一言在内的大模型服务，还提供大模型开发和应用的整套工具链，并支持各类第三方大模型，未来将成为大模型生产和分发的集散地。

打造行业应用“样板间”

百度发布文心一言大模型以来，已累计有14万企业申请内测。忻舟表示，申请内测的企业主要有三类，一是泛互联网，二是科技化含量比较高的大企业，还有一类是那些服务企业的中小企业。

“我们希望能更广泛地把场景做出来，一方面选择少数的几个头部企业，明显能看到应用场景的行业，深度打磨，另一方面也会选择更多场景，做出标杆，让更多的行业，甚至是一些小众行业，没有被AI赋能的，或者资本顾不上的企业，也能应用这个技术。”忻舟说。

交流会现场，忻舟现场演示了百度智能云大模型平台与不同行业客户联合研发的内测demo。

以石墨文档为例，在接入文心一言内测后，石墨文档研发出多个快速创作功能，辅助用户高效办公。AI助手“石小墨”能够快速生成简历、合同、故事等各种内容。比如起草合同，用户只需给出简单诉求，1分钟就能完成一份条款清晰的合同初稿。

在智能办公领域，忻舟现场演示了文心一言制作PPT的内测功能，只需简单提出需求，文心一言就能自动生成内容，设计排版，并可根据要求持续调整优化。未来仅需3分钟就可以做出来一份格式精美、内容丰富的PPT。

在电商直播行业，很多商家“养不起”专业的直播团队。现在，人类只需要把商品的信息告诉AI，让AI自动生成多种风格的商品带货脚本，再配个数字人主播，就可以帮企业把货给卖出去。不需要花钱雇主播、撰写话术、花时间培训，有了专业AI直播加持，每个品牌都能7*24小时直播，提升电商销售效果。

目前，百度已经在文案创作、智能对话等高频应用场景，打造了政务服务、金融服务、企业办公、电商服务、旅游服务领域的六大应用样板间。

“我相信随着技术的深入，随着很多行业或者企业对这个技术理解的深入，他们能够找出更多适合生成式AI应用的场景，把生成式AI的能力用得更好。”忻舟说。

知识图谱和搜索成百度大模型优势

“从技术来看，除了微调、指令学习等常见技术，百度的大模型融入了知识图谱和搜索，所以在实时性的问题、知识性的问题上，百度会做得更好一些。”百度智能云AI与大数据平台总经理忻舟说。

在忻舟看来，百度大模型正在做快速迭代，包括性能提升、资源利用率的提升，尤其对一个工业应用落地的场景来说，性能和稳定性非常重要，不然的话，动不动就会断掉，百度作为一家技术公司，也是有优势的。“大模型对于资源的要求非常高，要提供一个稳定的、符合工业应用要求的服务。”

目前，百度智能云大模型平台启动首批企业内测，未来将针对不同客户和开发者的需求，提供公有云服务、私有化部署两种服务模式。

在私有化部署方面，忻舟表示，因为安全问题，很多数据不能出企业。通常来说，私有化部署的用户要做大规模训练、再训练，把大量的数据和原来的数据做合并，这种再训练的规模是非常大的，其数据量会占到通用数据量的10%~30%，对资源的消耗就非常大，通常需要几十张卡，甚至几百张卡，进行长达几十天的训练。这种通常用在对行业专业性非常强的行业，像金融、能源等专业领域。

还有一种叫微调，它是在已有的模型上做指令学习，资源量相对小一些。通常来说，对于百亿规模或者小一千亿规模的模型，如果是做上万级别数据量的微调，参数量大的话，一般来说8台机器，64卡就可以做了，训练的时间从几个小时到几天，或者到十几天不等。如果参数量稍小一点，比如百亿规模的话，通常两台8卡的机器就可以调了，时间会从几个小时到几天不等。

智能云产品基于文心一言全面升级

“在申请文心一言内测的企业中，文案创作、智能对话、办公提效三大领域为高频需求场景。”百度智能云AI应用产品部总经理刘倩表示，百度智能云的六大智能产品系列，将率先基于文心一言全面升级，未来将在安全评估完成后上线。

百度智能云“智能客服”将基于文心一言升级应答辅助、会话小结、智能工单等功能，并将提供更聪明、更拟人的机器客服。刘倩表示，根据测算，文心一言可将智能客服的知识生产效率提升9倍，多轮对话构建成本下降65%，终端用户能明显感觉到更像真人客服。

在政务方面，百度智能云的政务服务助手、社区咨询助手、城运洞察助手等智能产品也将全面升级。未来，文心一言能够基于政务网站的信息，实现对不同用户问题的精准回答，辅助民众快速查询、便捷办事；辅助政府部门高效分析、精准治理。

在数字人直播领域，未来，百度数字人平台将基于文心一言，生成商品营销的推荐话术，并进行数字人的风格化人设管理，实现7*24小时不断播。

刘倩表示，把人工智能应用到企业中需要三大要素：人才、平台和工具、方法论。大模型时代，一方面，提示词（Prompt）工程师将迎来爆发增长，学会如何向大语言模型提问变得非常重要。另一方面，完善的开发平台、工具和方法论也决定了AI应用开发的效率和效果。

成本将大幅降低，大模型助力AI普惠

“跟上一代的应用最大的不同，技术底层的突破，以大模型或者大语言模型为基础，整个应用场景一下子变得足够宽，门槛变得足够低，激发各行各业的需求，同时降低我们去采纳和使用它的成本，我认为这是下一代或者下一个十年和上一个十年最大的区别。”百度智能云AI应用产品部总经理刘倩说。

百度智能云AI与大数据平台总经理忻舟也表示，大模型有一个非常重要的技术原理叫“指令学习”。“原来我们的做法是‘大练模型’，每个应用场景都有一个模型。但新的技术，一个行业大模型针对不同的场景，标注不同的指令数据，就可以完成这个场景的内容。这还不是最重要的。最重要的是，不同场景的指令数据互相之间是有影响的，这个影响体现出这个大模型的泛化能力。”

忻舟举例说，假如我们已经做了十个场景，再做第11个场景的时候，因为有前十个场景的铺垫，第11个场景可能都不需要标数据了，或者只需要标少量的数据，因为它就能够触类旁通，泛化到这个能力。

“大模型和生成式AI的技术突破，使得全球性的AI再造已经拉开序幕，甚至是一开场就进入了白热化的态势。”百度集团副总裁袁佛玉认为，未来MaaS（Model as a Service 模型即服务）将成为云计算的主流商业模式，每个企业都将拥有一个智能底座。因此，企业要尽快行动起来，重新思考自己的优势是什么、如何用AI放大这个优势。