智能体是最被看好的应用
作者/ IT时报记者 孙妍
编辑/ 孙妍
今年618期间,AI大模型打响了价格战,多家企业集体降价,百万tokens低至1元,大模型卷至“厘时代”,免费,全面免费,永久免费……堪称炸场级别的降价力度已经许久未见,然而这只是一个开始。
百度文心旗舰模型全线降价!
7月5日,2024世界人工智能大会(WAIC 2024)期间,百度宣布文心旗舰款模型ERNIE 4.0和ERNIE 3.5大幅降价,ERNIE Speed、ERNIE Lite两款主力模型持续免费。
文心最新旗舰版大模型ERNIE 4.0 Turbo面向企业客户全面开放,其价格也非常有竞争力,输入输出价格分别低至0.03元/千Tokens、0.06元/千Tokens。
价格战至少还持续一年
在之一轮大规模价格战开启后,百度是较快跟进的一家,直接宣布两大主力模型ERNIE Speed和ERNIE Lite全面免费,立即生效。
百度的底气来源于它在大模型上的先发优势,在WAIC 2024上,百度智能云千帆平台交出了2024“年中报”:大模型日均调用量突破5亿次,二季度环比增长150%;累计服务15万家企业用户,累计帮助用户精调了2.1万个大模型,开发出了55万个AI原生应用。从这些数据可以看出,大模型已经进入到指数级增长的阶段。
“价格战至少还要持续一年,有三类企业可能会被淘汰:套壳类的企业,云基础设施做得不好的企业,没有数据飞轮能力的大模型厂商。真正活下来的企业,会占有一定市场份额并盈利。市场格局趋于成熟和稳定,大模型企业才能真正进入客户的核心业务流,也就是深水区。”百度智能云市场部总经理曹海涛对《IT时报》等接受采访的媒体表示。
在他看来,价格战考验的是企业有没有持续降低成本的能力,短期来看,价格战是好事,在鱼龙混杂的行业里淘汰一批企业。
“若是亏钱,补贴不能长久,每个厂商都要考虑自身的成本。目前降的主要是API,但它会带动其它相关产品的收入,整个基础设施、云等附加产品会提供价值。就像我们不能用单个芯片来评价英伟达,它的并行计算平台和CUDA生态都是它的壁垒。”曹海涛进一步解释道,只有技术、产品、能力都足够强的企业才能拼价格。
价格战考验综合实力
牵一发而动全身,价格战考验的也是大模型企业有没有持续降低成本的能力。除了把价格打下来,还要把工具能效提上去,百度在此次WAIC上升级了RAG等十大能力。
百度副总裁谢广军表示,“用好”模型与用“好模型”同样重要。百度智能云千帆ModelBuilder要做“双一流”平台,不仅提供一流模型,也要提供一流工具链。
为了降本增效,在模型工具链方面,千帆ModelBuilder业界首发DPO(Direct Preference Optimization,直接偏好优化)、KTO(Kahneman-Taversky Optimization)两类模型训练 *** ,大幅提升模型精调效率,同时新增两类模型量化压缩算法,降低模型推理成本。
数据已经成为大模型的核心竞争力,在逐渐迈入深水区的过程中,百度发现了两大问题:特定场景数据欠缺、大模型通用能力遗忘。于是,千帆推出混合文心大模型高质量数据功能,支持用户将文心大模型通用混合语料和垂直领域语料与业务数据进行融合,精调出更稳定、效果更好的专用大模型。
搜索和大模型两种能力该如何融合?是百度需要一直思考的问题。此次大会上,百度智能云千帆AppBuilder有了两大尝试。
在AI原生应用开发方面,千帆AppBuilder从扩展性、开放性、安全性三方面对企业级检索增强生成(RAG)进行了升级,解决企业构建知识问答系统中遇到的海量知识检索、自定义策略、企业级安全保障三大难题。
针对传统RAG难以触及公网内容、资源,检索结果时效性不足等问题,千帆AppBuilder还全新推出了“RAG with 百度搜索”功能,将百度搜索在时效性、客观性方面的优势,与RAG在私域知识响应、语言灵活性方面的优势进行能力互补,大幅提升用户知识检索体验。
智能体是最被看好的应用
在百度看来,现阶段大模型更大的机会在B端。据不完全统计,近一半的新能源车企与百度合作,蔚来汽车、长安汽车、吉利集团、极越汽车等。
“目前,千帆平台已经优先上线了包括教育、人事、企业服务、文娱、医疗在内的5大行业,20多个场景解决方案。”谢广军表示。
百度提出了行业场景解决方案“一键复制”的 *** ,基于百度积累的20多个场景解决方案,打造了场景模型、模型精调样板间、Prompt模板、应用样板间等参考“样例”,B端企业“一键复制”就能完成大模型应用的开发。
“智能体是我们最看好的AI应用发展方向,搜索是智能体分发的更大入口。”百度董事长兼CEO李彦宏在WAIC 2024演讲中表示。
百度的现有路径是先进入B端,再由B端切入C端,而AI智能体(AI Agent)是更好的形式。可以想象,以后打开百度搜索,也许可以根据自己的需求,唤醒不同的AI智能体。
在医疗领域,AI Agent变身医生助手。杭州全诊医学基于百度智能云千帆平台打造了AI医生助理,在预诊、诊间、住院、手术等多个医疗场景中为医护人员提供病史采集、病历书写、诊疗辅助等支持,大幅提升医护人员工作效率、改善病患就医体验。目前,AI医生助理服务已经覆盖45家三甲医院,105个区县超1.5万家诊所,每日生成门诊病历草稿多达15万份,病历质量提升超过45%,患者服务数量因此提升了1.5倍。
在教育领域,AI Agent还能化身为“备考助手”。中国高科集团旗下英腾教育面向医学考试场景,联合百度智能云基于千帆平台打造了业内首个AI医学考试应用产品考试宝典。通过对自有垂类高度结构化数据,覆盖1800+医学考试科目超过10亿的医学文本tokens,以及英腾教育积累的百亿级专业知识数据进行高效处理和学习,考试宝典能够帮助考生制定个性化的学习计划、精准答疑、依托测评精准定位知识薄弱环节,以及智能推荐学习重点,助力考生大幅提升备考效率。
在水务领域,AI Agent又能变成什么?北京污水宝科技有限公司通过千帆平台快速构建了AI问答应用——污水宝AI助理,无需复杂的开发过程,即可实现环保领域工程信息的智能问答。污水宝支持通过自然语言获取项目线索、项目进度和联系方式等工程信息,方便用户和企业进行相关业务咨询。
此外,百度智能云还与来自浙江、江苏、江西等地的六个 *** 部门签署战略合作协议,通过大模型等技术赋能区域产业智能化升级;与浙江、江苏、江西、云南、上海等地的七家企事业单位达成战略合作,推动大模型在教育、医疗健康、港航等行业加速落地。
排版/ 季嘉颖
图片/ 百度
来源/《IT时报》公众号vittimes
发表评论
2024-09-10 13:28:54回复