AI大模型在金融业已落地开花，但可靠性、成本和监管是三大难点

本文来源：时代周报 作者：张钇璟
人工智能领域正迎来一场由AI大模型引领的爆发式发展。金融行业因信息密度高，被认为是会最先看到效果的领域之一。眼下各类金融机构如何应用大模型？在落地过程中存在哪些问题，痛点又在哪里？
9月6日上午，由界面新闻主办的2024 REAL科技大会在上海顺利召开。在圆桌讨论环节，江苏苏商银行股份有限公司副行长黄进、众邦银行首席信息官李耀、招联消费金融股份有限公司首席信息官王耀南、众源资本高级投资副总裁冉翀、蚂蚁集团金融AI首席架构师徐万青等与会嘉宾们就上述话题进行了热烈讨论。

圆桌讨论会现场
应用多面开花落地
过一年多时间里，AI大模型发展迅猛。相较于一年前，关于金融大模型讨论和应用基本集中于简单的人工客服、资料库等，如今的大模型在不少金融业务领域释放出强大价值。
据苏商银行副行长黄进介绍，作为一家新型的互联网银行，苏商银行从大模型技术出世之后，已经成立了金融科技的实验室，一直在探索相关应用场景的落地。由于银行强监管的特点，苏商银行对模型利用更多偏向中后台。
据悉，目前苏商银行主要基于大模型的生成能力，在两个核心的业务领域——产业链金融和科创金融，辅助生成相关的尽调报告。此外，苏商银行也会基于自身的信贷语料库，以及行内整合的非结构化数据，将大模型的分析能力应用在O2O的信贷审批环节，应用场景包括信贷客户的KYC以及部分贷后管理环节。
而众邦银行也对大模型非常重视，首席信息官李耀称，“早在去年初，行里成立了专门的大模型跟进的攻坚小组。”据他分享，大模型已在内部赋能、客户运营、风险控制等方面发挥着实际的作用。
而在银行之外，消费金融公司、金融科技巨头也在纷纷更新迭代大模型。
2023年11月，招联消费金融发布了消费金融行业首个130亿参数大模型“招联智鹿”，今年7月升级推出“招联智鹿二代”。
招联消费金融首席信息官王耀南表示，以智能客服为例，“招联智鹿二代”不仅可以结合具体会话状态与服务场景，快速精准地进行会话小结，大幅提升坐席作业效率，还能充分利用深度学习技术，准确理解客户意图，共情客户情绪，并将与客户交互的“经验”和“感觉”积累成参考样本，实现举一反三的智能服务，大幅降低投诉率。
王耀南透露，“因为有机器人催收之后，投诉率2023年比2022年降了40%“。他指出，对于招联来讲，无论是大数据还是大语言，在行业应用里最后的潜力价值是非常大的，现在正全力投入这个事情。
此外，去年外滩大会上，蚂蚁集团发布了基于大模型技术的 AI 业务助手支小助 1.0 版本，今年迭代了支小助 2.0 版本，已在蚂蚁集团理财和保险业务中的多个金融场景应用,包括销售、理赔、财务撰写及营销创新。
蚂蚁集团金融AI首席架构师徐万青指出，“规模化的落地验证了支小助2.0能为业务带来非常好的提升效果。”
在销售领域，现在支小助2.0有能力去学习优质的销售经验、销售能力和销售话术，从而构建一个数字分身，让数字分身帮助基础销售人员提升他们的客户服务的能力和标准。测试数据显示，在保险代理组织中引入数字分身后，人均产能提升 150%。
而理赔领域，支小助2.0在今年推出了首创的秒赔服务体验，通过用多模态大模型替代了原来一套链路中人工，包括很多小模型一直在做的一些任务，端到端进行审核。现在小助2.0的审核准确率已经达到98%，审核的速度也达到了秒级。
“目前，蚂蚁保上80%以上的门诊险和50%以上的住院险都已经使用了这套秒赔服务，可以说是重新定义了理赔领域新的服务标准。”徐万青称。
仍面临多重挑战
伴随着大模型在金融领域的落地开花，模型可靠性、监管政策、成本等各类问题也在实际应用中的逐渐显现出来。
众源资本高级投资副总裁冉翀指出，对于单一任务，虽然大模型提效很明显，但鉴于模型的搜索能力不够强，或者理解错误、出现幻觉等原因，尚有很大的出错可能性。“假设面对有5个步骤的复杂工作流，每个步骤都要做一次，如果每个步骤只有80%的正确率，答案几乎不可能是对的。”
冉翀认为，模型本身的性能、模型使用工具的能力、模型做多步推理的可靠性，这是当下面临的很明确的问题。
他进一步指出，“模型的能力要足够强，是不是（达到）金融级别的模型？是不是足够可靠？是否有很强的多步推理能力？模型能不能知道自己错了？以及中间和用户场景之间的Gap怎么弥补？这些都是挑战。”
关于上述这一点，王耀南也深有感触。他举例称，在推断客户最近的资金需求时，银行一般会查看他们的人行查询报告次数，人工会发现客户最近没有很频繁查看，但机器人推断出客户查看很频繁。最后发现，这名客户在一年前查看的次数比较多，但最近一年只有一次。
王耀南表示，“大语言模型对时间没有什么概念，如果由机器做推断，需要的细节非常多，我们正在持续推进这方面的工作。”
徐万青也坦言，目前业界还没有一个大模型达到金融级的可靠和严谨的要求，还有很多路要走。
除了严谨性、可靠性，监管无疑是是摆在金融机构面前一大绕不开的话题。
徐万青强调，金融行业是强监管行业，大模型在这样的监管和合规要求下能做的事情是什么？不能做的事情是什么？怎么结合才能实现用户更深的需求？这些问题都有待思考和突破。
对此，嘉宾们均持有同感，并期待监管层在这方面能有更多相关立法和管理条例。
此外，成本和人才也是机构们不断权衡考量的重要因素。
李耀称，“现在大公司要做大模型，没有一万个显卡没法进行，这也就意味着3-4亿美金的投入。对我们来说，不做训练，只做推理，投入也是很大的。”
而黄进则坦言，“现在各种大模型出来得太多、太快了，大模型需要本地化部署。我们作为一家中小银行，缺乏足够的财力与精力来适应这些比较大的外部需求变化。”
同时，黄进也指出，“大模型的人才非常难得，既要懂业务，同时还要懂大模型的技术，还要有工程化交付的能力，这些都要求极强的学习能力。”
专家：看好金融大模型的未来
主持人与嘉宾们之间的部分问答，也展现了近期对大模型最尖锐的话题与探讨。
主持人：“相比于去年底，似乎今年以来行业内关于金融大模型的讨轮有点淡了，这是为什么？”
李耀：“很多人在讨论说明它在新生，当大家不怎么讲了，说明它已经被大家接纳，融入了日常生活、工作当中”。
徐万青则表示，“这说明大家已经不是在泛泛而谈，而是认真的进行了下一步的思考，并且默默在产业化地推进。”
诚然，在发展的道理上还存在不少挑战，但金融大模型的未来获得在场嘉宾们的一致看好。
王耀南指出，中央金融工作会议提出加快建设金融强国，做好科技金融、绿色金融、普惠金融、养老金融、数字金融五篇大文章。数字金融是五篇文章的基础，大模型应该是数字金融的基础，未来一定会被大模型改造的。
黄进表示，“大模型在金融行业上限是天空，人人要用大模型，人人要回大模型。”
李耀则强调AI对于银行的重要性，称“现在银行已经来到了bank5.0时代，银行的所有模式都值得用AI来重新思考一下。”
徐万青也坚信金融大模型未来将带来很大的变革。不过，对于金融大模型是否值得投资？他认为，“从理财的视角看，投资需谨慎，毕竟投资回报周期长一点。”