大语言模型在金融领域中的应用情况如何？

利用大模型的能力的前提是接入大模型。

1. 大语言模型的官方 API 调用与本地部署

为了构建定制化的 AI 应用，ChatBot 这样的交互方式在与其他模块进 行集成的场景下就显得捉襟见肘。本文主要探讨通过 API 交互的方式。当 前国内以 DeepSeek 为代表的大模型性能表现不俗，成本相比于 OpenAI 等国外厂商也具有一定优势，在大模型选型的时候主要考虑国内的大模型。其中 DeepSeek-R1 为 DeepSeek 开发的 模型，Qwen 的开发厂商为阿里巴巴，Step 为阶跃星辰，GLM 为智谱， Ernie 为 百 度 ， Hunyuan 为 腾 讯 ， DeepSeek-R1-distill-qwen-32b 为 DeepSeek 利用 Qwen 模型蒸馏得到的模型。总体来看，O3-mini-high 得 分最高，然后是 O1，其次是 DeepSeek-R1 以及 Qwen-Max-32k。

使用官方 API 方便简单在日常研究中可以比较好的满足需求，但是在 涉及到数据隐私安全和定制化的需求（后期训练和微调）的时候，本地部 署开源的大模型可能是更好的选择。开源的大模型中相对主流的有 DeepSeek 系列、阿里的 Qwen 系列、Meta 的 Llama 系列等。 在本地部署大模型已经有比较成熟的工具可用，当前主流的本地模型 部署框架主要是 vLLM 和 Ollama，两个框架都有一定的优缺点。

本节分析了当前国内主流模型与 OpenAI 主流模型在 LiveBench 测试 中的表现和 API 价格对比，总体来看 Deepseek-R1 以较低的价格达到接近 openai-o1 的能力水平，在日常工作中是一个比较好的选择。同时，在对 API 稳定性、数据安全和模型后续可微调有要求的场景下，本地部署大模 型是更好的选择。 本文利用 Ollama 框架在本地环境中部署了 Deepseek-R1 利用开源 qwen 模型蒸馏的版本，包括 1.5b 到 32b 的模型。在简单测试中发现，模 型主要依赖显存运行，更大的 GPU 显存是支持部署更大模型的主要条件之 一。同时本文发现 7b 及以下的模型可能存在比较明显的指令理解问题，在 投研工作中，14b 以上的模型可能是更佳的选择。

2. 大模型在投研场景中的应用

在投研场景下大模型与人的协同也遵循 AI 应用的主流范式，主要包括 三类： 1) Embedding 模式，人类作为决策者和指挥者，例如报告撰写中人通过 prompt 模板来进行自动化的图表生成，AI 作为工具执行人的命令。 2) Copilot 模式，人类与 AI 作为合作者，例如程序代码的自动生成、错误 检查和性能优化，在 这一模式下 AI 的知识与人的知识形成互补，共同 完成工作目标。 3) Agent 模式，人类为 AI 设定工作目标并提供必要资源（计算能力、相 关数据等）并监督和评估 AI 的工作结果，AI 通过拆解目标，规划过程， 选择工具，完成大部分的工作。投研 Agent 系统可能是未来大模型在 投研场景中应用的主要范式之一。

当前大模型已经具备参与投研工作流的各个环节的能力，在本章节中 本文将结合当下的相关实践来探讨 AI 大模型的在投研工作中应用方式。

2.1. 面向金融领域的大模型

面向金融领域的大模型相比于通用模型的特点是在金融领域的特定任 务上的关注度更高，对于金融知识、金融文本理解、投研应用等领域的能 力有特化的要求。

通用模型在特定领域的表现可能不佳，在行业分析层面也表 现不佳。为了改进大模型在金融细分领域的能力。通常有两类方法：

1) 利用大规模金融数据集和金融行业的垂直任务重新训练模型，例 如 Bloomberg 利用自身的数据优势，通过构建世界上最大的特定 领域数据集之一来训练一个金融行业大模型 BloombergGPT。 Bloomberg 宣传在当年（2023 年）的内部和外部金融任务基准测 试中都大幅击败了所对比的通用模型。

2) 利用通用模型+微调的方式构建金融大模型，例如 AI4Finance 社 区通过开源驱动的 FinGPT9。与 BloombergGPT 类似 ，FinGPT 的训练也是以数据为中心，区别在于 FinGPT 主要通过公开的金融 数据来进行训练。通过清洗、校验等预处理后得到训练用的金融语 料，然后利用这些语料微调预训练的开源大模型（包括 Llama、 Falcon、MPT 等）而不是重新训练一个大模型。

从 FinGPT 技术文档中可以得知，FinGPT 使用了 LoRA（Low-Rank Adaptation）技术来微调开源的大模型（FinGPT v3.3 利用 llama2-13b 微 调）。LoRA 的基本原理是在需要训练的模型层上增加一个 LoRA 旁路并冻 结原始模型层的参数来降低训练开销。

LoRA 相当于对原始的参数矩阵 W 做了低秩分解，r 为 LoRA 的秩，这 样大大降低了需要训练的参数使得使用很少的硬件资源来对大模型进行微 调成为可能。此外 FinGPT 还使用了基于股票价格的强化学习技术 （RLSP），这一技术通过将新闻舆情与相关股票的后续表现联系起来进一 步改进模型的表现。

相比于重新训练一个大模型，LoRA 这种参数高效的微调方法极大地降 低了训练一个金融领域大模型的成本。FinGPT 表示在单次训练成本少于 30 美元且仅使用单卡 的情况下 便在公开金融任务测试中超过了 BloombergGPT，GPT-4 等模型的表现。

通用的大模型由于预训练阶段主要在大规模的通用任务语料上进行训 练，在投研关注的领域/任务中的表现不一定能够达到预期。为了训练得到 面向特定金融场景的大模型，一种方式收集大量的金融语料重新训练一个 垂直领域的大模型，例如 BloombergGPT；另一种方式是利用现有的通用 的大模型结合 LoRA 等参数高效的训练方式结合金融语料进行微调。 在经过预训练+针对性微调之后大模型在金融场景下任务（例如股票、 行业分析）的表现通常能够有比较明显的提升，从而能够更好地完成投研 工作任务。

2.2. 思维链与检索增强

在上一节中，本文介绍了训练面向金融场景大模型的主流方法，这些 大模型在面向特定的金融任务，例如金融文本的情感分析、财报摘要总结 等能取得相比于通用大模型比更好的表现。但所有大模型都有其知识局限 性即训练的语料。 面对不断变化的金融市场，预训练大模型的知识无法及时更新，其应 用也会受到限制；另一方面，在涉及严谨的数学推理和事实描述的时候， 大模型中普遍存在的幻觉现象又会使得模型输出不可靠。为了解决大模型 的这些局限性，思路链和检索增强技术是其中的关键。 大模型的幻觉一般是指模型的输出与事实不符（事实性幻觉）或者与 用户指令或输入提供的上下文的出现分歧（忠实性幻觉）。Huang L et al. 2023 在其论文中比较详细地研究了大模型幻觉出现的原因。

此外，除了可以利用添加简单的“一步步思考”的 prompt 这种让模型 自己进行思路链生成的方式，也可以自定义 prompt 模板实现 Few ShotCoT。例如在分析股票财报的时候，通过在 prompt 中加入逐步分析资产负 债表、利润表、现金流量表的思维链模板来引导大模型进行财报总结的方 式能够获得更好的效果。 思路链技术显著改善了大模型在推理任务中的表现，提高了模型输出 的准确性。但由于模型训练完后内在知识存在边界，模型在面对未在训练 集中出现的知识时则会无能为力甚至强行编造结果。因此扩大大模型的知 识边界是进一步提高大模型输出准确性的关键。于是便出现了检索增强生 成技术（Retrieval-Augmented Generation，RAG）。

Gao Y et al. 2023 对 RAG 技术作了详细的梳理，根据文中的梳理，实 现 RAG 的典型流程主要包括： 1) 知识库构建与预处理，通过专用文档加载器从 PDF/Word/Excel 等 多格式数据源中提取文本，对原始数据进行清洗与结构化处理（去 除特殊字符、实体解析等）。使用分块策略将长文本切分为相互重 叠的合适大小的语义块。 2) 向量化处理与索引构建，使用 BGE10等词嵌入模型将文本转化为 语义向量并存储到向量数据库，存储时同步记录文档来源、时间等 元数据 3) 混合增强检索，结合传统检索与向量语义检索，通过 Rerank 模型 （如 Cohere 的 Rerank-1 模型）对 TOP 结果进行相关性重排序。 4) 上下文增强，通过思维链（CoT）重构用户指令，为 LLM 补充领 域知识和必要的上下文。 5) 生成优化控制，通过 prompt 模板和输出格式限制，生成符合预期 格式的内容。

2.3. 基于 LLM 的 AI Agent 系统

在上述章节中本文介绍了通过思维链（CoT）和检索增强生成（RAG） 技术可以使得大模型获得金融领域的最新知识以及更严谨的思维过程，从 而最终给出高质量投资策略的过程。在这一过程中，大模型可以看作了一 个智能体（Agent），接受外部的信息并产生符合预期的输出。 如果给予 LLM 更多模态的输入（图像、音频等）以及使用其他工具的 能力，LLM 作为 AI Agent 自主规划完成更多的工作。例如 Auto-GPT11的 出现证明了 LLM 作为自动化 Agent 的巨大潜力。Xi Z et al. 2023 梳理了 AI Agent 从概念背景到结构模型以及未来应用前景。