今年以来，大模型可以说是对金融业影响最直观的“催化剂”。作为数字化和智能化应用的前沿领域，金融行业数据资源丰富，实践场景广泛，拥有与大模型深度结合的前景。
近日，多家公司发布了基于金融场景的大模型，其中中关村科金发布国内首个企业知识大模型，另有腾讯云发布了金融行业大模型解决方案。此前，奇富科技、星环科技、度小满等也已发布了金融大模型，金融业正提速走向AI创新应用期。
金融大模型落地效果如何？对未来金融生态又有何影响？11月28日，清华大学人工智能研究院常务副院长孙茂松对《华夏时报》记者表示，“当前最关键的是人工智能垂直应用领域落地，能否解决问题、解决得好不好”。而这些也是深耕金融垂直领域必须思考的命题。
当下，金融大模型落地最常见的场景之一是智能客服，但目前智能客服给人的感觉是“并不智能”，经常所问非所答，也就是大模型所出现的“幻觉”问题，这也是大模型落地的难点质之一。在业内看来，可以通过外挂知识库，解决事实判断的问题，使大模型具备过程判断的能力，能够有效避免“幻觉”问题。
通过外挂知识库解决“幻觉”问题
金融业是高知识密度行业，数据体量大、质量高，业务场景丰富，为大模型商业化落地提供了基础，金融业成为大模型率先落地的场景之一。
2023年下半年，国内金融机构布局大模型的速度明显加快。除了金融科技公司，银行、保险公司和券商也逐渐加入“百模大战”。
金融大模型属于垂直领域大模型。垂直领域大模型对算力和算法要求相对较低，但对特定领域的知识和数据要求高。
2023年，美国彭博社推出500亿参数的BloombergGPT，涵盖了3630亿词的金融文本和3450亿词的通用文本。在业内看来，收录如此大文本的金融知识库在全世界范围内比较少见。
“知识大模型是企业引入大模型的最佳切入点，也是新时代下必需的新兴基础设施。”中关村科金技术副总裁张杰对《华夏时报》记者表示。
记者注意到，在金融大模型落地方面，智能客服是被涉及较多的场景。当下，智能客服给人的印象普遍不智能，会说出“正确的废话”“一本正经的胡说八道”，极大地降低了大模型在真实应用场景中的可靠性。
上述问题被称为“幻觉”现象，也是大模型待解难题之一。原因在于，当大模型被要求回答问题，其可能是缺乏相关知识，或者内化了训练语料中的错误知识。另一方面，大模型在训练时会出现"谄媚"，即模型可能会生成偏向用户观点的回答，而不是提供真实答案，这也会导致幻觉。
张杰表示，针对“幻觉”问题，可以通过外挂知识库，解决事实判断的问题，使大模型具备过程判断的能力。
构建知识库的关键在于知识的时效性。例如在时效性要求较高的信用卡营销场景，用户在APP操作时中断了，此时营销人员可能会打电话询问是否继续申请卡片等，进而促进转化。
针对这类需要实时查询的数据，既不应该放到大模型内部，也不应该放到知识库里。可以在大模型外部挂载一个领域知识库，通过处理模块来判断哪类知识需要在大数据平台上实时查询。还可以根据不同客户的信用额度授权，以及信用等级确定借款利息等。
金融大模型创新场景加速落地
除了“幻觉”现象，落地难也是金融大模型面临的问题。如何让金融机构快速拥有高精度、高性价比的AI助手是破局的关键。
在业内看来，金融这类知识密度高的领域，大模型应立足高质量数据和场景，追求效率和成本的最优解，做领域大模型的定制具备广阔的商业前景。
大型金融机构更多地在底层方向布局，部分构建起自己的模型。一般不会触达算力集群、计算网络存储等底层基础设施，而是选择跟云厂商合作。但更多的情况是，在金融大模型的基础上，加上行业数据做精调，再变成客户的专属大模型。
“事实上，整个金融大模型的产品体系是由下往上走的，不同的金融企业可以在不同的点去切入金融行业大模型，也可根据他自身的投入成本，以及场景复杂度来进入赛道。”腾讯云副总裁、腾讯云智能解决方案负责人王麒表示。
张杰介绍到，目前金融行业普遍聚焦在初步引入大模型阶段，其中有两个场景落地较快：一是面向企业内部员工的文档问答，二是面向各个部门所提需求的自然语言转查询。
针对细分场景的落地应用，腾讯云金融行业大模型解决方案具备金融领域知识推理、研报撰写、智能舆情等专业下游任务能力。例如安全风控场景，用垂直场景的小量样本也可以支撑定制化风控模型的快速构建。中关村科金则推出的“超级员工”助手系列AIGC应用，包括ChatPilot知识助手、营销助手、服务助手、培训助手、写作助手、合规助手等。
例如，针对财富业务场景，营销助手通过构建用户画像，提供包括用户基本画像和深层画像、投资经历、关注竞品、投资预测等数据信息，理解客户的投资需求。随后基于用户画像构建销售策略，结合大模型的生成提示能力等，为客户生成投资建议和产品营销方案等，减少理财师手工撰写文案的工作量、提升理财师单兵效能。
（文章来源：华夏时报）
