“自3月16日以来的一个月内,文心一言推理服务已完成4次迭代,已升级至3.5版本。” 百度智能云AI与大数据平台总经理周鑫近日在文心一言技术交流会上表示,通过硬件和框架的优化,文心一言整体性能提升了10%到目前为止,这也意味着大模型推理的成本已经降低到原来的十分之一。
据了解,几乎所有的百度产品,从搜索、小度音频、自动驾驶、到百度健康,都在使用文心医言来提升各自产品的功效。 “用户看到的可能不是颠覆性的产品,或者效果会更好,你会有更好的体验。”周鑫说。
本次在北京举办的凯文新一言技术交流会上,各界从业者表现出了极大的热情。 值得注意的是,百度智能导达模型平台3月27日面向首批企业客户启动公测后,已在智能办公、出行服务、电商直播、政府服务、金融服务。
“百度智能指导模型平台是全球首个一站式企业级大型模型平台。” 周鑫表示,该平台不仅提供包括文心一言在内的大模型服务,还提供大模型开发和应用,拥有完整的工具链,支持各种第三方大模型。 未来,这里将成为大型车型的生产和配送中心。
打造行业应用“样板间”
自百度发布文心一言模型以来,已有14万家企业申请公测。 周鑫表示,申请公测的企业主要有三类,一是泛互联网,二是技术集中度相对较高的大型企业,三是服务于这些服务的中小企业。
“我们希望把场景落地得更广泛。一方面,我们会选择一些可以明显看到应用场景的后盾企业、行业,进行深度打磨。另一方面,我们也会选择更多的场景和应用。”做出榜样,让更多的行业,甚至是一些冷门行业、没有人工智能赋能的企业,或者没有资本的企业,也可以应用这项技术。”周鑫说。
交流会上,周鑫展示了百度智能引导模型平台与不同行业客户共同开发的公测demo。
以石墨文档为例。 接入文心一言公测后,石墨文档开发了多项快速创建功能办公软件教程 百度云,辅助用户高效工作。 AI助手“石小沫”可以快速生成简历、合同、故事等各种内容。 例如,在起草协议时,用户只需要提出简单的请求,只需1分钟即可敲定一份条款明确的协议。
在智能办公领域,周鑫现场演示了温心艺言PPT制作的公测功能。 只需提出需求,文心一言即可手动生成内容、设计和布局,并可以根据需求不断调整和优化。 未来,只需3分钟即可制作出格式精美、内容丰富的PPT。
在电商直播行业,很多门店“请不起”专业的直播团队。 如今,人类只需告诉AI产品信息,让AI手动生成多种风格的产品交付脚本,然后提供数字真人主机帮助企业销售商品。 没必要花钱让雇主去播音、写文字,或者花时间去培训。 在专业AI直播的支持下,每个品牌都可以24/7进行直播,提高电商销售的效果。
目前,百度已在文案创作、智能对话等高频应用场景下,在政务服务、金融服务、企业办公、电商服务、旅游服务等领域打造了六大应用样板间。
“我相信,随着技术的深入,随着很多行业或企业对这项技术的了解更加深入,他们将能够找到更多适合生成式AI应用的场景,更好地利用生成式AI的能力。” 心洲说道。
知识图谱和搜索成为百度大模型优势
“从技术角度来看,不仅有微调、指令学习等常见技术,百度的大模型还融合了知识图谱和搜索,所以百度在实时性和知识化的问题上会做得更好。” 百度智能云人工智能与大数据平台总经理周鑫表示。
在周鑫看来,百度的大模型正在快速迭代,包括提高性能、提高资源利用率。 尤其是对于工业应用场景,性能和稳定性尤为重要。 不然每次都会断线。 作为一家科技公司,百度也有优势。 “大型模型对资源要求非常高,必须提供满足行业应用要求的稳定服务。”
目前,百度智能导航模型平台已启动首批企业公测。 未来将根据不同客户和开发者的需求,提供公有云服务和私有化部署两种服务模式。
在私有化部署方面,周鑫表示,由于安全问题,很多数据无法离开公司。 一般来说,私有化部署的用户需要进行大规模的训练和再训练,并将大量数据与原始数据进行合并。 这些再训练的规模特别大,数据量会占到一般数据量的50%。 10%~30%消耗大量资源。 通常需要几十张甚至上百张卡片来进行持续几天或两天的训练。 这些一般用在特别专业的行业,比如金融、能源等专业领域。
还有一种叫fine-tuning,就是在现有模型上进行指令学习,资源量比较少。 一般来说,对于百亿规模或者千亿规模以下的模型,如果是微调几万条数据,参数又很大,通常可以用8台机器64卡进行训练。 时间少则几小时,多则几天,多则十几天。 如果参数稍微小一点,比如几百亿,一般两台8卡机就可以调,时间从几个小时到几天不等。
智能云产品基于文心一言全面升级
“在申请文心一言公测的企业中,文案创作、智能对话、办公效率提升三大领域是高频需求场景。” 百度智能云AI应用产品部总经理刘谦表示办公软件教程 百度云,百度智能云六大领域智能产品系列将率先基于文心一言全面升级,未来将在文心一言的基础上全面升级。安全评估已完成。
百度智能云“智能客服”将在文心一言的基础上升级应答辅助、对话总结、智能工单等功能,提供更智能、更人性化的机器客服。 刘谦表示,根据测算,文心一言可以将智能客服的知识生产效率提升9倍,将建立多轮对话的成本提升65%,让终端用户感觉更像是真正的客服。
政务方面,百度智能云政务服务助手、社区咨询助手、城市交通洞察助手等智能产品也将全面升级。 未来,文心一言将能够根据政府网站信息,精准解答不同用户的疑问,协助公众快速查询、便捷服务,协助政府部门高效分析、精准整改。
在数字人直播领域,未来,百度数字人平台将基于文心艺言生成产品营销推荐词,并对数字人进行风格化个性管理,实现24/7不间断直播。
刘谦表示,人工智能应用于企业需要三大要素:人才、平台和工具、方法论。 在大模型时代,一方面,提示工程师会出现爆发式下滑,学会如何向大语言模型提问就显得尤为重要。 另一方面,所建立的开发平台、工具和技术也决定了人工智能应用开发的效率和效果。
成本大幅降低,大模型促进AI普惠
“与上一代应用最大的区别在于,底层技术的突破是基于大模型或者大语言模型,整个应用场景突然显得足够宽广,门槛显得足够低,迸发出各行各业的需求的生活,同时降低我们的采用和使用的成本,我认为这是下一代或者未来六年与前六年最大的区别。” 百度智能云AI应用产品部总经理刘谦表示。
百度智能云AI与大数据平台总经理周鑫也表示,大模型有一个非常重要的技术原理,叫做“指令学习”。 “本来我们的做法是‘训练模型’,每个应用场景都有一个模型。但是有了新技术,一个大的行业模型针对不同的场景标记了不同的指令数据,并且可以完成这个场景的内容。这不是最重要的是,最重要的是不同场景的指令数据相互影响,而这种影响体现了这个大模型的泛化能力。
周鑫举了个例子,如果我们已经做了十个场景,再做第11个场景,因为前十个场景的铺垫,第11个场景可能不需要标记数据,或者只需要标记数据。 数据量小,因为它可以得出结论并概括到这种能力。
“大模型和生成式人工智能的技术突破,导致全球的‘人工智能再造’已经开始,甚至从一开始就进入了白热化趋势。” 百度集团总裁袁佛宇认为,未来MaaS(ModelasaService模式即服务)将成为云计算的主流商业模式,每个企业都将拥有一个智慧湾。 为此,企业必须尽快采取行动,重新思考自己的优势是什么,以及如何利用AI放大这些优势。