金融业需要的大模型,是一个系统化工程

今年年初,在AIGC刚刚开始爆火的时候,我们曾经采访过一位AI领域的专家。当我们提问哪个行业将率先落地大模型时,他毫不犹豫地说道:"金融。"

金融行业场景多、数据多、知识多,这样的"三多"特点让其成为AI大模型发挥价值的天选。与此同时,金融场景专业度高,业务复杂,在风控、安全、效率等方面有着严格的要求,初出茅庐的大模型,短期内融入金融行业并不容易。

金融与大模型的距离,理论上很近,实践中很远。如何跨越大模型规模商用的鸿沟?在华为眼中,答案在于,需要完成一场懂技术、懂行业的系统化工程建设。

9月20日,华为全联接大会2023第一天,以"智领睿变,共建数智金融未来"为主题的金融峰会,吸引了来自全球超过700多位金融行业客户与伙伴,他们共同探讨了如何拥抱大模型机遇,如何加速金融行业数字化、智能化升级。

华为数字金融军团CEO曹冲表示,Transformer的成熟应用,让我们迎来了大模型时代,也让AI来到了新拐点。AI生产力将会无处不在,重塑整个数字金融行业。面向未来,金融机构应用大模型的能力,将成为关键生产力。

金融大模型,并不是把大模型交给金融机构就可以,而是需要站在金融行业的立场上,逐层从基础设施、模型算法,向场景化应用、软件开发修筑起一座大厦。

这项系统化工程,就是金融与大模型相遇时所需的答案。

金融大模型,

不是空中楼阁

可以这么说,大模型为金融行业带来的价值,将不亚于移动互联网技术的出现与成熟。

在银行前台,大模型可以作为智能客服,提升网点业务人员工作效率;在银行业务中台,大模型的分析能力可以作为投研投顾,提升信贷准确性;在业务后台,大模型可以提升风控能力,降低投资风险。大模型近乎可以贯穿金融业的全流程、全任务,从而通过各个端点生产力的释放,实现重塑金融行业的生产关系。

以某国际银行为例,规模化应用生成式AI释放显著的降本增效收益,在技术部署的第一年就能够实现1.5亿美元的降本。观察这家银行使用AI大模型的情况,会发现大模型在市场销售、精准获客、风控、信贷等多方面都发挥出巨大价值。

大模型对于金融业如此重要,但有一个问题需要注意:大模型不是空中楼阁。金融机构并不能无缝应用通用大模型技术。

金融机构间的数字化能力参差不齐,对大模型的需求各不相同,加上金融行业普遍对数字化效率、安全、风控等方面有着苛刻的要求。因此在接纳大模型前,金融行业还面对一系列挑战,比如说:

1.大模型与行业的适配度低,多通用知识,少专业技能,而金融业又高度依赖专业技能与术语体系,因此通用大模型能力有限。

2.目前大模型处在初始阶段,金融用户往往缺乏场景作为牵引,容易陷入引进大模型却不会用、不好用的境地。

3.大模型需要海量的数据治理、数据清洗等工作,而金融业数据量庞大,数据管理难度大,因此带来了数据负担加重,应用开发难度增大的问题。

4.大模型的数据参数与模型规模,考验着用户的存、算、网基础设施。基础设施不适配,将无法发挥出大模型应用的效果。

这样来看,金融业对大模型的需求既包含模型本身,更涉及模型之外。为了让大模型发挥出应用的效果,金融用户需要对基础设施架构进行升级,需要对各个场景进行设计和改善。

因此,金融大模型并不是简单的模型精调,而必须是一个面向金融智能化长期发展的整体性工程。

华为在全联接大会2023上,给出了答案。

下铺基础设施,

上设场景,中通行业:

"顶天立地"的金融大模型

金融大模型的系统性建设,应该是什么样的?

我们打个比方,大模型是一个房间,但这个房间不能单独存在,它需要上有屋顶,下有地基,中有门窗。对于金融大模型来说,地基就是要有与其适配的基础设施建设,屋顶就是要有场景化方案作为应用牵引,中间的门窗就是要通向行业,打通大模型通用性与金融行业专业性之间的界限。

扎扎实实打好基础设施的地基,铺设好金融智能化场景的屋顶,开好大模型与金融业特性间的门窗,从而让金融大模型"顶天立地"------这就是华为推进大模型走入金融行业的系统和建设方案。

今年6月,华为发布了面向金融行业的"小蛮腰"解决方案。面对汹涌而来的金融大模型需求,华为对"小蛮腰"进行全面的智能升级,专注大模型在金融行业的落地,全面开启AIGC在金融场景的加速,其中具体包括:

1.以高效互联的AI算力,构建大模型智能底座,升级智简韧性的基础设施。

2.将大模型融入经营决策与应用现代化,增强智慧业务引擎。

3.通过大模型全面升级客户联接,打造智能交互。

4.在产业金融等场景侧,以大模型配合端云协同,构建无处不智的金融服务。

在这样的解决方案升级牵引下,华为打造了金融大模型三层解决方案,其中首次发布3大类10个应用场景、盘古金融大模型和大模型智能底座,系统性建设了一座金融智能化的大厦。

**其中,在相当于房屋地基的基础设施层,华为整合了ICT软硬件产品组合优势,构建"算网存云"协同的智能底座方案,从高性能集群训练、高可靠模型保护、高效绿色节能三个方面,为大模型提供澎湃算力。**通过高速集群互联架构,将token处理时延降低至100ms以内;通过计算与存储协同,将训练中断时间从天缩短到分钟级,实现月级稳定训练;通过全液冷集群和多租户资源共享,将网络能效比从0.1提升到0.5 PFLOPS/KW。

**在能够对大模型发展起到引导、推进作用的场景应用层,华为围绕创新生产力,首次推出AI for Data、AI for Business、AI for IT三大类10个应用场景。**其中包括智能客服、信贷报告生成、智能数据分析、智能编程助手等,并且提供模型微调、数据工程、应用开发、安全工程等系列工程化套件,联合数据标注、模型调优、应用开发等伙伴,构建丰富的大模型生态体系。目前,这10个应用场景都已经和头部金融机构实现了合作落地。

**在最受外界期待的模型层,华为带来了与金融行业需求与特性真正打通的盘古金融大模型。**华为在7月7日发布了盘古系列大模型,从L0自主构建基础大模型,沉淀100多种模型能力,比如NLP重点投入思维链、长序列等基础能力,在同样的数据浇灌下,能训练出更"聪明"的模型。

从基础大模型,走向金融大模型,还需要专业知识和行业规则的浇灌。华为在盘古大模型基础上,加强了金融知识、技能,打造盘古金融大模型。在金融知识方面,注入五大类金融数据、千亿级金融Tokens;在金融技能方面,与客户和伙伴共创,构建了数千个细分应用场景模板;融合100多个行业标准、规范的知识库,让大模型更专业;在安全方面,构建了数据安全、模型安全、内容安全等全流程的合规能力,支撑模型的可信。

下有先进的以存、算、网基础设施为支撑,上有场景应用为导向,中间有深度理解金融行业专业性的大模型。这样的体系化工程与全栈能力,正是华为在金融大模型赛道上的核心优势。这也是为什么中国Top20银行中,已有1/2选择了华为的AI软硬件平台。

很多金融机构都在探索大模型的使用,华为通过自身的技术能力和积极的生态合作,努力去解决一个个问题,让金融机构面对大模型实现会用、好用、有用。

全面升级分布式3.0,

发布金融PaaS能力

大模型是金融智能化的基础,而想让大模型充分发挥价值,必须将其与应用现代化紧密结合。未来,大模型将带来多样化、高效率的业务创新可能。这种情况下帮助软件敏捷开发、业务快速迭代,以及缩小爆炸半径,确保数字系统高性能、高可用的现代化应用能力,将成为金融机构的核心竞争力。

为此,华为希望将自身积累的软件开发与PaaS能力贡献给金融客户,帮助金融行业完成面向未来的现代化应用成长。在今年6月,华为金融军团提出了"平台+服务"模式是金融走向商业敏捷的关键,应用现代化是必经之路。为了满足金融应用现代化与大模型发展的正向循环,华为金融军团进一步提出了"平台+服务+AI"模式。

推动包括金融核心系统在内的全面应用现代化,在应用韧性、架构、开发、交付、运维落地方面进行5维升级,为金融行业提供可用、好用的智能+PaaS能力。在HC2023期间,华为全面升级了分布式核心解决方案3.0,发布金融级PaaS能力,其能够以V模型驱动的服务化架构设计,高低代码结合的智能开发、单元化运行、智能化运维、Serverless化部署,帮助客户通过核心升级,构筑业务价值。

在运行态,华为结合产业实践打造全栈单元化、混沌工程,支持金融客户构建5个9的高可用。基于华为消费者云3亿用户多年沉淀的中间件,分布式事务处理支撑万级TPS。

在开发态,凭借华为30年的研发管理经验,打造出CodeArts软开流水线,工程构建效率10倍提升。通过盘古大模型构建CodeArts Snap代码助手,研发效能提升30%以上。

金融大模型的成功,

需要系统化的成功

总结华为在金融大模型领域的独特价值,会发现华为一如既往,成为了技术世界与产业世界的联接器,基础设施与行业应用之间的架桥人。

华为并不仅仅关注将一个大模型送到金融客户手中,并且还关注金融客户的长期智能化发展目标,考虑如何将大模型真正融入到金融业智能化的整体蓝图中。

金融大模型的成功,需要的是系统化的成功。秉持这样的思路,华为带给金融客户的价值显得更加长远,也更加体现出站在金融行业思考金融问题的产业厚度。

这样的差异化,也体现在全联接大会2023期间的一系列动作上。比如大会期间,华为发布了《迈向智能世界》系列白皮书,涵盖10大产业和行业篇章。针对智能化时代金融行业面临的严峻挑战,以"智领睿变,共建数智金融未来"为主题,华为提出了对未来金融数字化、智能化转型升级的趋势和展望。不难看出,华为关注的不仅是此刻火热的金融加大模型话题,更有面向未来的智能金融之路。

同时,在华为全联接大会2023期间,华为还携手北京金融科技产业联盟、银行客户及合作伙伴共同发布了《区域银行数据能力体系建设白皮书》。期间,分析了数字化发展相对滞后的区域银行如何升级能力,顺应智能浪潮。从中可见,华为考虑着金融行业的整体性与实在性,而不是仅仅着眼于短期利益和头部客户。

在基础设施支持、金融大模型赋能、应用现代化升级等能力构成的系统性方案下,华为正帮助金融大模型由设想变成现实。截至目前,华为在全球已经服务了3300家金融客户,在全球Top100的银行中,有53家选择与华为合作。

或许可以说,金融机构选择华为,就是选择了大模型的系统化工程,选择了一条风物长宜放眼量的未来之路。