金融行业大模型技术路线、使用方式、应用场景及应用趋势如何？

人工智能技术的应用一直是金融机构数字化转型和智能化升级的核心领域，大模型具备的理解、学习、生成和推理能力，可观的知识容量和卓越的多任务泛化能力，将进一步推动金融服务的智能化升级。

一、技术路线

1. 技术选型 大模型常见的技术选型路线包括开源大模型应用、产学研联合创新大模型研制和商用大模型采购。大型金融机构一般采用三路并行的模式，中小金融机构普遍尚未采购商用产品，大都停留在调研、汇报和 POC 测试阶段。

一是开源大模型应用。开源大模型是指通过开源方式发布和共享的大模型，其源代码和相关资料对公众开放，适用于具备一定技术能力的开发者、研究机构以及对模型定制和二次开发有需求的机构。国内外的大模型有近一半选择了开源的方式，Bloom、GLM、Llama 是目前国内外流行度较高的开源大模型。金融机构选择开源大模型的前提是能够依靠自身或者第三方公司进行大模型应用研发，且具备后期维护、迭代更新的能力。尽管开源大模型已具备较好的实践效果，但仍面临数据安全合规风险、开源协议风险等挑战。总体而言，金融机构对于开源模型的采用普遍持谨慎态度，但在前期探索阶段通常会采用开源大模型进行测试、研究，同时将其与商用大模型的应用效果进行比对。二是产学研联合创新大模型研制。金融机构、科技企业、科研院所、高等院校等通过合作，共享知识、技术或资源，发挥各自优势，推动技术创新和产业发展。产学研联合创新有助于金融机构在大模型创新应用初期推动特定试点场景快速落地。一方面，可以在一定程度上助力金融机构加速科技创新及数字化转型，打造更好的产品和服务，增强行业竞争力。另一方面，可以减少金融业对国外技术和产品的依赖，加快国产化步伐，提升行业安全可控能力。

三是商用大模型采购。众多国内外商用大模型正在逐步推广应用。相较于开源大模型，商用大模型可以为金融机构提供更加工程化、易用性强、服务有保障的解决方案。金融机构在大模型技术选型时需要综合考虑大模型对业务质量和人员效率的提升效果、大模型持续创新能力、大模型运行时的稳定性和安全性等多个方面。同时，金融机构还需结合自身业务特点和实力情况，对资金、人员、配套工具产品完备性等因素进行全面考量，以选择合适的大模型解决方案。此外，要建设并维护内部统一的大模型资源库，并在此基础上建立大模型应用开发平台，更好地充分利用业界多种领先的通用大模型。

2. 部署方式 为制定合适的部署方案，金融机构首先需要确定需求和目标，其次要根据业务场景和技术要求，选择合适的硬件和软件环境，确保能够支持大模型的运行和优化。针对不同应用场景，金融机构探索采用不同部署方式以更合理地应用大模型。根据部署环境的不同，可以将大模型部署方式分为私有化部署、行业云部署和公有云部署等。

一是私有化部署。金融机构将大模型部署于自有服务器，由金融机构负责维护和管理。私有化部署可以提供更好的数据安全保障，大大减少信息安全隐患，且一般具有较好的应用效果，尤其是对于需要运用内部语料训练的金融业务场景，可以根据金融机构的需求进行定制和优化模型，并随时增减资源。但是，这种部署方式往往会产生高昂的成本，需要金融机构投入大量的资金、人力来建设和维护。 二是行业云部署。由行业内起主导作用或掌握关键资源的组织建立和维护，以公开或半公开的方式，在确保数据安全的前提下，向行业内部或相关组织提供云平台服务。将大模型部署在金融云，既能在一定程度上满足数据安全可控的要求，又兼备成本低、扩展性强等优势。中小型金融机构对行业云部署的需求更为迫切。

三是公有云部署。金融机构通过标准接口调用部署在公有云上的大模型，由云服务提供商负责维护和管理，具备更低的成本、更高的灵活性和可扩展性。然而，由于金融机构无法完全掌控其数据的存储和管理，使用这种部署方式可能面临数据安全风险，因此该部署方式可能更适用于互联网类的金融企业或非敏感类业务场景。 鉴于个人隐私保护和数据不出域等相关要求，私有化部署仍是金融机构部署大模型的主要选择方式。私有化部署使得金融机构得以保留对数据和系统的完全控制权，但由于大模型训练和推理对算力及配套基础设施有较高要求，该部署方式更适用于大中型金融机构，对于中小型金融机构实现难度较大。对于不涉及数据保密性的场景，比如证券公司基于公开数据生成投资策略及研报撰写，行业云或公有云部署具有一定优势。目前，国外已有API 市场化采购服务，且价格低廉。随着私有化部署成本不断提高，中小银行、证券公司、基金等中小金融机构，迫切需要通过行业云或公有云来降低大模型金融应用的门槛。

二、使用方式

大模型具备出色的自然语言理解能力，但因其在金融垂直领域的知识储备不足，回答的专业性难以满足要求。金融机构需要将金融领域已有的数据库、知识图谱等专业知识系统，与大模型的意图理解能力、语言生成能力和场景掌控能力进行对接，实现大模型的行业个性化和机构定制化。然而，大模型技术复杂度高、参数规模大、研发投入高，特别是需要大量的数据标注和人工反馈等工程化投入，从头自研大模型的难度非常大。因此，金融机构目前主要采用 API 调用、提示工程、模型微调和二次训练等应用方式，以降低大模型的应用研发门槛，解决场景数据少、模型精度低等问题，推动大模型快速落地测试。比如，农业银行利用有监督的模型微调和强化学习等技术，融入行内知识库数据，训练、收敛出能理解行内知识的基础模型，目前已具备行业知识问答能力。中信证券将特定问题及与其相关内部文档材料作为问答输入，既可获得较好的应用效果，又避免了二次训练的高昂成本。

1. API 调用 API 调用是指通过 API 接口调用大模型，实现图像生成、文本生成、语音合成等功能。公有云大模型大多采用以API接口的方式提供服务。该方式使得金融机构在大模型探索应用初期能够快速将大模型在项目中进行测试验证，且成本低廉。然而，API调用的方式不仅需要完成一系列的技术整合和接口开发，也面临如何在不降低模型准确性的前提下保障数据安全和隐私性、如何高效处理海量数据、生成内容可控性和鲁棒性较差等问题，适合直接落地的金融业务场景很少。一般来说，金融机构应用API调用方式对大模型产品进行测试后，会根据测试结果结合该模型在其他领域的表现进行综合评价，判断是否进一步选择微调或二次训练的方式进行优化。

2. 提示工程 基础预训练大模型内含知识丰富, 但很多潜能尚未被激发，如何有效引导大模型来完成特定任务存在挑战。提示工程通过优化提示语句激发大模型所具备的潜在能力，提示语通常是一段文本，用于构建问题或对任务进行恰当表述，以便大模型基于内在知识生成合适答案，可通过少样本、思维链路等方式实现。提示工程并不改变模型参数，对于可指令微调的大模型来说，构造提示语的成本相对较低，大部分成本转嫁为标注成本，通过设计好的提示语来调优任务效果。

3. 模型微调 基础预训练大模型具备较好的通用性知识，但实际应用中，每个具体场景都有其独特的需求和流程，仍需优化模型以提升应用效果和价值。模型微调是优化模型效果和性能并提高准确性的重要手段，也是当前金融机构试用大模型的最常用手段。当大模型缺乏垂直领域知识时，通过模型微调技术，以较低的成本即可明显提升针对特定任务的应用效果。一般来说，当测试结果良好时，会优先选择模型微调技术提升应用效果。4. 二次训练 二次训练指在已有模型的基础上，使用新的数据集对模型进行重新训练，从而提高模型的性能和应用效果。二次训练通常需要对模型参数进行修改，以适应新数据集的特点。相较于微调，二次训练会产生高昂的数据、算力、人力以及时间成本，但也可以实现更好的效果和更广泛的场景化应用。一般来说，大型金融机构因具备海量垂直领域数据基础，在微调技术难以实现期望达到的应用效果时，可以选择该方式高度定制化模型以提升模型的泛化能力和场景化应用能力。

此外，金融机构还采用大模型融合知识库、知识图谱等组件的方式，通过引入领域向量库检索、数据增强等技术，结合大模型关键超参优化，形成不同模型针对不同行业和领域的参数体系，精准匹配业务需求，使得大模型回答结果较为可信。

三、应用场景

大模型在金融领域的应用前景广阔，趋动AI 从劳动密集向脑力密集应用，金融机构已经将大模型试点应用于智能客服、智能办公、智能研发、智能投研等多个金融业务场景，但从能用到好用、易用，再到规模化应用还任重道远。基于当前金融机构主要场景探索实践来构建金融行业大模型应用场景全景图。

1. 智能客服 传统的智能客服的服务方式主要是先识别用户意图，再匹配到特定的对话模板，是一个非常庞杂的配置过程，特别是要确保所有渠道对于相似问题的回答保持一致。这种方式不仅维护成本高，维护难度大，而且难以应对复杂多变的自然语言对话，用户体验较差。金融机构普遍认为大模型虽然仍不具备直接面客的能力，但可以在通用大模型的基础上，叠加金融客服领域的数据和专业经验，经过垂直领域定向训练后，客服机器人可以综合考虑用户提示语和用户习惯，准确识别用户意图，作为客服助手协助客服人员开展客户的陪伴和关怀，升级真诚话术，提供24小时的多语言支持，有效提升用户对话体验，提高服务质量。

2. 智能办公 大模型可以作为办公助手，发挥其出色的文本生成能力，辅助完成报告和运营文案生成、邮件起草、公文润色、纪要撰写、内容审核、辅助纠错等工作，为员工提供更加便利、快捷的智能办公工具及个性化的智能办公解决方案，大幅提升工作效率。此外，大模型还可以实现不同语种的实时翻译，提升金融机构跨境业务交流和管理水平。 

3. 智能研发 大模型在智能研发场景展示出很大的潜力。大模型具有处理自然语言和生成多种编程语言高质量代码的能力，在系统设计、代码生成与补全、代码翻译与注释、辅助测试等方面为科技人员提供帮助和支持，提升开发效率和交付质量。同时，大模型的阅读理解和 SQL 生成能力，可以实现指令文字到SQL 代码的直接相互转化，业务人员无需了解数据库技术与编程知识也可轻松完成数据查询等工作。此外，通过大模型与BI 等应用系统结合，可以实现报表自动生成，可视化地展示数据查询分析结果，使得非技术人员更直观且深入地理解、利用数据，降低技术门槛。

4. 智能投研 大模型技术可以帮助投研人员从海量、分散、庞杂的报告中挖掘关键信息，自动抓取财经、债市、信用等多个市场板块的资讯报告内容，快速获取报告的核心观点、关键数据和市场趋势，分析预测市场交易情况，智能生成资讯报告和投研简报，为投研人员提供投资、风控等决策辅助。

5. 智能营销 结合金融业语料进行适应性训练后，大模型可辅助生成营销话术和营销文案，帮助客户更快地获取最新资讯和产品的信息。同时，通过对话式营销，大模型可优化客户参与度，提升服务的效率与质量，引导其做出决策。此外，随着投资者数据、产品知识和营销文案的不断积累，大模型技术可以从海量信息中检索词条，并提炼整合，可针对特定客户实现贴心、高质量、有创意的精准营销，快速生成个性化建议和推荐，并构造相应的图文推广，进一步提升客户转化率和营销效率，为客户提供更加全渠道、个性化、有温度的金融服务。

6. 智能运维 金融机构可以利用大模型生成技术，实现智能运维分析、运维知识获取、网络安全分析等，进一步提升运维效率。大模型具备良好的语义搜索能力，在复杂的数据中准确找到所需结果，助力运维人员快速对接各类型的结构化、非结构化数据，实现流程自动化、智能检索和内部资料的辅助审核。此外，对于大模型还可以辅助运维人员完成代码攻防测试、明文检测等安全检测工作。

7. 智能风控 风险控制是金融业的核心要务。大语言模型的阅读理解能力可以辅助提示存在的法律风险，降低人为疏漏概率并提升法审人员工作效率。在大模型的通用能力基础上融合金融行业的知识和数据用于真伪核验、舆情分析等环节，结合风控数据模型，进行风险模拟与压力测试，对可能发生的风险事件作出预警，实现贷前智能推荐、贷中全面风控、贷后监测预警全流程风控管理。此外，基于大模型的合规知识问答助手在金融合规场景中也发挥了一定作用。

8. 智能投顾 围绕财富管理专业知识对大模型进行增量训练，构建基于大模型的投资顾问助手，提供围绕个体的全生命周期智能投顾服务，实时监测市场动态，调整投资策略，并根据客户的风险偏好、收益目标和资产状况，为客户提供个性化的投资建议和组合优化，大幅提升服务效率和服务体验。

四、应用趋势

一是金融机构将采用先内后外、从易到难、场景迁移的方式落地大模型金融应用。由于目前大模型直接对客难度较大、可控性不强，金融机构主要对内应用大模型能力，待技术逐渐成熟，可以考虑对外输出。此外，金融机构也将优先选择风险等级低、适配应用难度小、业务提升效果明显的场景进行大模型试点落地，逐步将试点应用场景迁移到真实、复杂的业务场景，实现大模型对金融产品和服务的全面升级。 二是大小模型协同进化是大模型发展的一个必然趋势。大模型对应场景多为开放式和主观型问题，侧重推理和创造，也可被用于作为连接多个具体任务模型的通用接口，而小模型对应场景多为封闭式问题，不涉及过多主观推断，答案的正确性可以被清晰验证，因此在某些特定场景仍具有更好的表现。大模型对于中小模型并非是替代或对立的关系，两者应相互协作、互相搭配，由大模型向边、端的小模型输出模型能力，而小模型负责实际的推理与执行，同时向大模型反馈算法与执行成效，使得大模型的能力持续强化。金融机构将加强研究和推进大小模型协同、生成式技术与传统人工智能技术协同，将大模型连接到传统软件，提升行业整体智能化水平。

三是多模态金融大模型的发展与应用仍有较大潜力。大模型生成效果的提升依赖于垂直场景系统化程度和高质量数据。金融业具备专业领域知识库，多年来沉淀了大量格式多样的优质业务数据。运用多模态技术实现知识的迁移、表示、对齐和推理，使得大模型能更好地构建金融领域内外部生态系统，助力金融科技创新和金融业务赋能，为金融机构提供更多智能化、个性化的服务和决策支持，同时也为客户和市场参与者带来更好的体验和更稳健的金融环境。 四是 AI Agent 未来可能推动人工智能成为金融业信息基础设施。AI Agent 是有能力主动思考和行动的智能体，以大模型为大脑驱动，能够自主感知环境、形成记忆、规划决策、使用工具并执行复杂任务，甚至与其他 Agent 合作实现任务。尽管多智能体的发展仍面临较大困境，但随着算力支撑和技术研究的不断演进，AI Agent 将在各行业发挥强劲动力，尤其在与各行业紧密相连的金融业，更全面地实现人机融合，为金融机构提质增效，创造更深度的价值。