金融行业大模型应用特殊性、挑战及落地流程包括哪些？

近两年，金融行业不断地 利用新兴技术推进业务高质量发展，尤其是在AI大模型的研发投入和应用方面亦 走在市场前列。

1.金融行业大模型应用的特殊性

如今，金融科技已经从“立柱架梁”迈入了“积厚成势”新阶段，越来越多的金 融机构积极使用AI大模型等新技术助力其实现高质量发展。AI大模型虽在金融行 业有较多的应用场景和应用价值，但是，金融行业属于信息密集型、风险规避及 强监管行业，在推进大模型落地过程中，相比其他领域，金融行业对数据质量、 推理准确性及响应速度，以及在风控、合规、安全层面的要求都更高。同时，根 据IDC调研数据显示，数据治理、模型治理以及合规应用是金融机构落地大模型/ 生成式AI更需求关注的要素。

在数据层面，金融行业处理的数据往往涉及客户的隐私信息、交易记录等敏感数 据，数据来源多样且数据质量参差不齐，而数据规模、数据质量和多样性会影响 大模型在具体场景应用的效果和性能。若输入的基础数据不准确或时效性较差或 存在数据操控问题，那将直接影响模型微调效果，以及模型输出的准确性。同 时，训练数据可能存在性别、种族及主观因素等方面的偏见。如果这些偏见被应 用到金融决策中，可能导致模型在决策和预测中产生不公平或歧视性的结果，如 何解决数据的合规获取及保护信息/内容版权，并合理设置相关的诉讼机制和监 管及罚款机制，也是金融机构落地大模型需要解决的问题。因此在数据准备阶 段，涉及数据获取、数据脱敏/数据处理、数据清洗和数据标注等复杂工作，在 此过程中尤其需要注重数据隐私保护，确保数据安全和符合隐私法规。

在模型层面，金融行业业务复杂度更高，金融领域的决策和分析通常要求精准的 回答和实时的响应，对模型推理的推理速度和精度都有较高的要求。如果金融大 模型/生成式AI做出虚假的、误导性的陈述，或推理与响应速度较慢，就会造成严 重的决策损失和较差的用户体验。在应用人工智能技术时，大模型因其黑盒效应 （复杂的模型结构和庞大的参数，难以线性化表达），可解释性、透明性及安全 性也有待提高，金融机构需着重解决大模型的安全性和可解释性、透明性，以防 范模型和算法风险。

在安全与合规层面，金融领域对于数据安全、监管合规和风险控制具有严格的要 求，需要遵守各种法律法规和国家金融监管机构的要求。大模型在应用中必须确 保符合风控和合规要求，防止欺诈、洗钱等非法活动，并保护客户利益。同时， 随着网络攻击手段的不断升级，大模型在部署和运行过程中需要采取严格的安全 措施，防止数据泄露、篡改和非法访问。此外，在当前市场中，围绕提升客户体 验、增强数字化经营能力，深度服务客户已成为推动金融机构发展的关键要素， 金融行业大模型落地各个环节需要以客户体验为中心，且GenAI应用又促使金融 服务模式及客户体验的升级。

2.金融行业大模型应用落地面临的挑战

大模型在金融机构中的应用场景广泛，且应用成本较高，所需关注的安全合规问 题较多，金融机构需以谨慎的态度去推进大模型的应用落地。如何选择合适的应 用场景及如何推进其在金融场景中的有效落地，是当前金融机构在大模型应用落 地中重点关注的问题。 首先，在应用成本考量方面，金融机构训练模型需要大量的算力资源，资源 调度需要使用更优化的硬件设备来提升训练速度。尤其是在处理千亿级参数 的大模型时，对算力的需求更是呈指数级增长，其所投入的成本也较高。根 据IDC调研显示，算力限制及技术投入成本高是金融机构在推进大模型/生成 式AI过程中的最主要的两大阻碍因素。

其次，在应用场景选择方面，在推进大模型落地时，有哪些大模型应用场景 可供选择，如何选择合适的大模型落地场景是诸多金融机构面临的问题，需 要重点考虑模型方案（如模型选择、模型适配性、模型能力域及性能、模型 更新速度等），并面临很多数据难题（如数据质量、数据可用性、数据安全 及合规等）和业务难题（如业务需求、应用价值评估、以及ROI等），在此 过程中也需要考虑应用场景的优先级及推进策略问题。 同时，在应用路径选择方面，金融机构在推进大模型落地时，面向不同的应 用场景有着不同的应用路径，例如，自主开发和预训练的金融大模型、优化基 础模型推进金融业务场景的落地、通过标准化SaaS模式接入GenAI应用，如何 选择适合金融机构的应用路径，以及在推进大模型在具体场景应用时所需考虑 的要素及所需具有的能力，这些都是金融机构亟需面对和解决的问题。

总体来说，生成式AI虽然可以提供低成本、高价值的解决方案，但在应用成本考 量、应用场景选择、应用路径选择等方面仍面临诸多问题。金融机构需综合考虑 应用场景选择、成本控制、安全合规等多方面因素，采取科学、谨慎的策略，以 实现技术创新与业务发展的双赢。

3.生成式AI在金融行业场景应用流程梳理

在大模型在金融行业落地中，场景选择难是诸多金融机构的痛点，如何选择 GenAI应用场景，使AI能力与业务场景无缝融合，让GenAI真正赋能于业务提 效、成本节约、业绩提升或体验升级，充分发挥GenAI应用潜力。IDC认为，金 融行业生成式AI应用场景的落地可以从场景应用评估与选择（如技术解决方案评 估、项目管理及风险评估、投资回报分析）、以及面向场景的工程化落地（如模 型选择、技术路线、数据及算力准备、模型训练及调优、以及系统集成与部署、 组织协同等）分步推进。

场景应用评估与选择

一般可以从技术解决方案、项目管理及风险评估、投资回报分析等角度评估 与选择GenAI的具体金融应用场景。但是从谨慎的角度，金融机构可遵循由 简单到复杂、由内而外、由点及面、逐步推进的原则选择与推进金融大模型 的应用场景。同时通过下述评估方法确定采用GenAI后在相关的金融场景能 发挥哪些潜力，并明确自身的业务目标和需求，例如提升客户体验、提高运 营效率、降低成本等。 技术解决方案评估： 主要考虑现有技术可否实现该场景应用的业务目标或愿景，尤其是 GenAI 技术在场景中的应用还面临着一些挑战，在技术解决方 案的评估方面，亦需重点考虑GenAI是否可以解决金融业务场景中的需求 或痛点，现有技术或资源（如基础设施资源、基础模型资源、AI平台资源 等）可以解决哪些问题，哪些技术/模块需要自建或外采，哪些需通过与 技术合作伙伴共同构建，从而综合考虑业务实施可行性⸺即概念验证、 解决方案的试行版本、前期工作、创新方案。 项目管理及风险评估： 项目实施决策既要着眼于场景，也要考虑基于GenAI的实施方式，下列因 素将有助于确定某个项目或项目集是否行得通：与当前战略的契合度、风 险管理、成本及资源、数据及基础设施资源、市场盈利潜力及长期价值， 以及监管与合规挑战等。

投资回报分析（ROI）： GenAI 在业务中的实际价值和 ROI 将取决于 GenAI 在实现成果方面的表 现。但是，这些成果可能是有形的，即可以用特定KPI衡量的回报，也可 以是无形成果，即成果比较抽象，难以通过 KPI 或收益来衡量，但通过网 络效应或其他方式带来了可观价值。以知识管理为例，某金融机构将金融 和法律相关的数据和深度知识集成到一个基于数据的GenAI应用中，形成 特定主体的数据和深度知识，呼叫中心的客服专员使用此工具可以直接回 答客户金融和法律领域几乎各方面的问题，因此缩短了平均处理时间，提 高了首次呼叫解决率。该应用用到的数据集涵盖数十万份金融和法律文 件，使40个国家/地区的多达15000名员工能够即时访问需要的数据。该 解决方案还提高了员工对产品的了解，从而也提高了客服接触点互动中的 交叉销售和追加销售机会。

面向场景的GenAI工程化落地

IDC认为，GenAI的场景应用是一项系统工程，涉及模型选择、技术路线选 择、数据及算力准备，以及模型训练及调优、系统集成与部署、组织协同等 工作。