金融大模型进入深水区，谁能真正落地金融大模型？

自从2022年底ChatGPT将大模型推向公众视野，数以千计的AI产品接连诞生。

这些融合了大模型魔力的产品，从对话机器人到图片生成，从答案搜索到工作流程优化，覆盖各个领域。

但当大模型的风吹遍全球一年时间，推出新品已经不是新闻，应用落地反而成为最新焦点。

一个例证是，全球知名投资机构a16z在近期的调查中发现，全球最受欢迎的前50名AI应用，有40%都和2023年9月的调查结果不同。

这似乎意味着，找到刚需场景的AI产品，才会避免不断被淘汰的命运。

而在千行百业之中，金融是对大模型需求最高的行业之一。

在金融领域，融合了大模型的客服机器人，可以提升用户的对话感受；理解了行业知识的行研系统，能帮助员工给到用户更专业的咨询建议；拥有生成式能力的AI工具，也能够直接产出相关的金融内容，丰富内容生态。

但是，要真正落地一个金融大模型，挑战也是巨大的。

就在去年北大光华管理学院的一场论坛上，来自清华大学、北京大学、哈工大和金融科技公司的数位专家，就一起讨论过金融大模型所面临的幻觉、难以融入业务、数据处理难度高等问题。

时至今日，当大模型的落地进入深水区，各家金融机构也在尝试给出自己的答案。

落地金融大模型，业务、技术、合规一样都不能少

从数量上看，金融大模型在各种垂类大模型中也是遥遥领先。

2023年3月，彭博社宣布推出500亿参数的BloombergGPT。这个金融大模型，完全依托彭博社的金融数据训练而出。

这似乎开创了某种先河。随后，各种金融大模型如雨后春笋般冒出，各金融科技公司、金融机构、云厂商都推出相关产品。

据腾讯研究院数据显示，就在2023年7月，当时国内参数在10亿规模以上的大模型数量达116个，其中金融行业大模型约18个，占比超过15%。

来源：九方智投

但金融行业能迅速跟上这波大模型浪潮并不奇怪——相比其他行业，金融机构数字化程度高，数据基础较优。而且，在客服、营销、投顾等场景中，大模型的能力也能较为顺畅地植入。

但要真正训练好一个金融大模型并不简单。

类比来看，训练一个通用大模型，数据、算力、算法是三项重点元素。

其中，充足的算力和高质量的数据决定了一家企业是否有资源训练大模型，而算法，则在很大程度上决定了一个模型的智能化水平和效率。

而训练金融大模型，不仅要面对通用模型的难关，还要解决金融领域特有的问题。

技术成为第一重挑战。

相比消费、文娱等领域，金融领域的不少知识相对专业。这意味着，大模型需要在了解这些知识的同时，提升自身的推理能力。

而多数大语言模型，长板都在翻译、文本续写、润色等功能，对金融知识了解不深，数学能力也不够出众。

要解决这些问题，需要金融机构的算法团队从数据做起，针对模型的专业知识和数学能力专门训练。

而技术过关只是第一步。无数由技术驱动的产品都会陷入“拿着锤子找钉子”、最终销声匿迹的境地。

对大模型来说，产品同样需要天然和业务场景适配。

在金融领域，直接服务于用户的智能客服、智能投顾等产品，和帮助内部员工进行专业内容生产、用户需求总结的AI工具，能够让大模型发挥出降本增效的作用。

对各家金融机构的大模型团队来说，则需要从通用适配场景中，抽取出最适合自身业务以结合大模型的需求，才能进行恰当地投入，保证大模型的ROI。

除却业务契合和技术过关，金融大模型的最大挑战或许还在于安全。

由于行业的特殊性，金融行业对安全合规的要求极高。然而，大模型先天的技术特点，却使它难以持续保证输出内容的精准性。

这是整个行业面对的难题，需要金融机构、监管方、测评方一起协作。

《深度合成服务算法备案》就是一个例子。这一备案依据《互联网信息服务深度合成管理规定》，要求具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。

自从备案要求在2023年6月出台后，国内多家企业都在推进。随着第一批41个算法在当月通过备案“持证上岗”，目前，国内开展相关业务的公司进行《深度合成服务算法备案》已经成为标配。

所以，只有对业务理解深刻、数据和技术积累足够、合规经验深厚的行业资深玩家，才有可能做好一个金融大模型。

九方智投，就是金融数智化的一位资深玩家。

九方财富（09636.HK）旗下品牌九方智投，创立于1996年8月，是国内首批获得证券投资咨询资格的机构之一，也是中国证券业协会会员理事单位。

九方智投的业务，主要是为投资者提供从基础入门到深度策略的全周期金融教育养成体系，并提供投资策略、投资风控、智能投顾等证券投资顾问服务。

身处数字化水平较高的金融行业，九方智投对人工智能的尝试并不少。

2019年，九方智投便开始探索人工智能在证券投资顾问领域的应用，推出第一代文本对话机器人AI旺财。

2020年，这家公司又将人工智能技术应用到合规方向；2021年，又打造了智能营销话术推荐系统，用人工智能来辅助营销；2022年，九方智投将深度学习应用在虚假金融舆情识别，同时探索证券垂直领域的内容AIGC。

2023年，也就是大模型如火如荼时，长期跟踪AI的九方智投也快速推出九章证券领域大模型。

一个最新的重要节点是，今年4月，九章证券领域大模型第五批通过《深度合成服务算法备案》。

来源：网信办《境内深度合成服务算法备案清单（2024年4月）》

这意味着，这家拥有20年行业经验，深度跟踪人工智能技术的金融机构，在AI可控、安全性上得到了行业和监管的肯定。

也就是说，九方智投不仅拥有多个业务场景，而且在人工智能技术上持续沉淀，推出九章证券大模型后也积极履行义务，通过了相关备案。

它完成了做好一个金融大模型的完整闭环。

数字人，智能投顾，智能营销，持续升级的用户体验

智能客服、智能投顾、智能营销......如今的九方智投，已然把九章证券领域大模型融入各类业务中。

而在其中，数字人的形态，成为了用户对九章证券领域大模型的最直接体验。

从行业看，大模型爆火后，对话机器人（Bot）、数字人等产品数量激增。据a16z统计，全球最受欢迎的前50名AI应用中，交流类产品占据了一半。

背后原因在于，大语言模型最亮眼的特点是自然语言处理更为顺畅。再加上颇具个性化的语音和外形特色，用户会与对话机器人、数字人产生源源不断的信任感。

九方智投的数字人也不例外。

这款智能投顾数字人名叫“九哥”，以九方智投的业务人员为形象基础，同时基于九章证券领域大模型的金融知识，能够以自然、有代入感的方式和用户交流。

同时，这里的交流，既包括客服问答，也包括更为专业的股票诊断、分析等。

目前打开九方智投APP，用户就能在APP中找到这个位“九哥”。

身着灰色工作服装的九方智能投顾数字人，会根据最新的信息和精准的专业知识，以语音、图片、图表等方式提供“看大盘”、“诊个股”、“追热点”、“选策略”、“问百科”等信息。

来源：九方智投

九章证券领域大模型的算法负责人杨志笑告诉36氪，九方智能投顾数字人是九方智投最早应用大模型的产品。

而在2023年上线的九方智能投顾数字人，已经取代了2019年推出的文本对话机器人“旺财”。

仅2023年一年，这个数字人就提供了775万次服务，单日服务次数最高达8万次，与年初相比形成了指数级上升趋势。

在各类AI产品中，数字人、对话Bot这种形态的产品，其实用户停留时长更长，用户黏性更高。比如海外翘楚Character.ai，在2023年7月的平均用户时长已经达到28分钟，而同期的ChatGPT只有不到10分钟。

而用户停留时间越长，意味着有效对话的轮次可能会越多。而更多的有效对话轮次，更有可能帮助用户挖掘出更多的需求。对企业自身来说，无异于一个更了解客户的销售。

数字人产品之外，九方智投还在智能营销、智能合规、智能投研等业务场景中运用了大模型的能力。

杨志笑告诉36氪，在智能投研方面，当前九方智投已经利用九章证券领域大模型进行市场趋势分析，研究报告解读和金融数据分析等。

而在客户营销场景，九章证券领域大模型可以进行客户画像分析、物料信息生成，还可以快速总结业务人员和客户的对话，让业务人员的服务更及时、更具个性化。

大模型背后，以及持续拉开的AI大幕

2023年春天，九章证券领域大模型已有动向。当时，全球的大模型浪潮才刚刚开始。

时过一年，九章证券领域大模型已经内化在九方智投的各个业务场景中。

“大模型作为一种底层技术，很多时候还是承担背后服务的功能。而九方智投在使用大模型时，不仅推出了让C端用户有直观感受的数字人，在公司内部也有约2000名员工正在使用大模型能力加持的各种工具平台。”杨志笑说道。

也就是说，在大模型走进台前的这一年多里，九方智投已经依靠九章证券大模型完成对C端服务的升级和内部员工的提效。

但在一开始，将业务和大模型结合时，九方智投也遇到不少困难。

比如构建知识库。这种将业务数据整理成大模型可认知、检索内容的手段，在各家企业落地大模型的过程中非常常见。在这一年里，市面上也出现了不少RAG、向量数据库的使用教程。

但九方智投的算法团队在进行相关实操后发现，要将金融领域中的相似数据按照不同业务精确分类，并不容易。

一个例子是，像市盈率和市净率这种金融术语虽只有一字之差，但代表的意思却完全不同。而这两个词，如果通过常见的检索能力判断，基本都会被判定为近似检索，无法输出准确答案。

另外在客服等场景中，很容易出现用户登录后开始闲聊的情况。在此情形下，一方面，需要谨慎于将大量算力消耗在处理这些与证券领域无关的闲聊内容上（比如询问天气）；另一方面，还要防止大模型与客户聊得过于“无边无际”而无法把控内容的合规性。

面对各种各样的问题，九方智投的算法、数据、业务等团队开始协作，通过把控数据收集、数据清洗、数据审核的全套流程，保证专业数据的质量。另外，算法团队还专门打造了以MoE混合专家系统为基础的大模型。

MoE是大模型领域最为前沿的技术之一。2023年年底开始，MoE架构的大模型由于训练成本低、输出效率高等优点已经愈发被全球各家大模型公司认可。

36氪了解到，在九章证券领域大模型中，九方智投的算法团队设计了十几个不同的专家系统，让各个需要大模型解决的需求能高效、精准地被执行。

比如，为了最优化算力成本，九章证券领域大模型会先依赖一个具备业务规则和小型AI模型双重判断逻辑的判断系统。这个系统会判定用户的输入属于哪一类型的业务问题，然后根据不同结果选用大模型或其它中、小型模型，甚至依情况采用Agent的方式调用现有业务系统中的成熟功能。

“未来我们的模型架构也会坚持MoE混合专家系统。”杨志笑表示。

而在金融领域颇为关注的安全方面，九章证券领域大模型为保证生成内容的可解释、合规、准确，除了使用由上海人工智能实验室发布的评测集OpenFinData以外，还使用了由公司内部行业专家制造的上万条行业专业评测数据集和法律法规及伦理道德评测数据集。

在申请算法备案的过程中，九方智投的投研、算法、数据、安全、法律顾问等团队也一起持续沟通方案，完成了数据合规性审查、安全性测试、风险评估、备案材料准备、外部培训参加以及应急计划制定等等工作。

这恰好也印证了前文提到的——一个准确、合规的金融大模型，离不开技术、业务、安全三者的闭环。

虽然已经打造出一个合格的大模型，但九方智投的计划还不止于此。

杨志笑告诉36氪，九方智投还会通过大模型提升更多业务场景的效率。

比如，如果能让九章证券领域大模型学习更多的法律条文，再用模型总结投资顾问和用户的对话，那么投资顾问的表述会更加精准。

再如，九方智投的大模型团队已经收到了其他业务部门的需求，希望利用大模型的能力对内部的文档进行梳理总结。这样一来，新员工入职，就可以快速通过相关的大模型产品了解业务。

而对于更远大的、服务更多同类机构的愿景，杨志笑表示，九方智投始终保持开放的态度。不过走入更大市场的前提是，先利用九章证券领域大模型的能力，将公司内部的场景完成AI重构，检验大模型加持的各种任务的可行性、有效性和可靠性。

这侧面体现出，在全球大模型风起云涌的今天，“大胆假设、小心求证”是九方智投大模型之路的写照。而这种态度，或许也是金融大模型所需要的。