
由大模型掀起的 AI 热潮已经持续了两年时间,行业已经从关注大模型技术的创新突破,转变为思考和实践如何利用基于大模型的 AI 能力来赋能业务、创造价值。正如用友网络科技副总裁罗小江所说:这个时代不缺技术,缺的是方法体系,缺的是让技术真正意义上融入业务。
1
大模型落地并非易事,
YonGPT 2.0 如何破局?
目前,大模型在大多数行业中仍然很难深入到企业实际业务层面,要想切实为企业赋能,往往面临多重挑战:首先是数据挑战,很多企业缺乏数据准备,无法为模型训练和微调提供充足的高质量数据,也没有建立与 AI 时代相适应的大数据基础设施;其次是安全挑战,普遍运行在云端的大模型让企业担忧数据和隐私泄露风险,他们更偏向运行在本地,或者自身有更高掌控力的小模型产品;大模型的应用场景偏少也让很多用户头疼,花费大量投资建立的技术栈在实践中少有用武之地,降本增效也就无从谈起。另外,大模型在行业领域应用时,频繁出现的幻觉现象让问题更是雪上加霜,这也是垂类大模型崛起的重要因素;最后,由于IT技术较为薄弱,传统企业面对大模型和 AI 技术栈的持续运维也往往力不从心。
Agent 应用框架主要负责将用户的自然语言需求转换分解成模型能够识别的子任务集,并基于这些子任务输出模型 API 可以调用的参数。面对复杂问题时,用友的多智能体自主协同框架可以调度多个大模型模块,用友还结合专家知识和错误反馈学习解决了模型的幻觉和可靠性问题,并优化了模型的时效性和安全性表现。
知识生成问答无疑是大模型落地倍受瞩目的应用场景。但基于企业自身数据积累的知识生成高度依赖数据处理框架,处理不好很容易“答非所问”甚至输出误导、错误结果。
用友结合流行的 RAG 框架开发了智能大搜产品,并提出了多语义向量技术,对每个知识片段都生成了向量和问题来增强索引,显著提升了知识搜索的精确度。用友还解决了索引搜索的权限问题,防止低权限用户搜索到高权限内容。该框架对表格、图片、视频、代码的理解也更加准确。企业员工使用自然语言提出问题,智能大搜不仅可以给出准确的文本回答,还能输出关系图、汇总图、相关图片和视频,甚至可以帮助员工扩写论点、整理文稿等。而基于 Code RAG 应用框架,应用开发人员甚至业务人员都可以快速生成企业应用代码,简化应用生成流程。所有生成内容都能无缝对接员工使用的各类应用,帮助企业实现全流程、全场景提效。
为了深化大模型在行业的场景应用,用友在本次大会上还联合来自公共资源交易行业、工业装备行业、交通建设行业的代表客户,发布了三大行业的垂类大模型。加速了 AI 在千行百业的落地进程 。
2
挖掘智能场景应用,
YonAI 为大模型落地构建平台基础
3
AI 赋能,平台建设才是标准解法