2026年量化看市场系列之十二：让AI更懂你——本地知识库的配置与应用

AI 知识库理论知识

（一）为什么要搭建 AI 知识库？

在没有 AI 的时代，我们的资料往往散落在一个个文件夹中，或存放在各种笔记软件 里。想要找到某条信息，只能依赖记忆去定位，或者通过软件的关键词搜索功能来查 找。这种方式不仅效率低下，还容易出现遗忘——即便搜到了，返回的也往往是一个包 含关键词的“资料原文”，需要你从头到尾翻阅、理解、归纳，才能提炼出真正想要的答 案。 而有了 AI 知识库之后，这一切发生了本质变化。AI 会提前对你的所有文档资料进行理 解、分析和向量化处理，构建起一个结构化的知识网络。当你提出问题时，AI 能够精 准理解你的意图，从资料库中快速匹配最相关的内容片段，并将这些内容整合成一份清 晰、直接、可用的答案——你得到的不是“在哪段资料里可能找到答案”，而是“答案本 身”。

（二）AI 知识库的原理是什么？

AI 知识库可以理解成一个“能理解语义的搜索系统”，整个过程分为三步：

把文档转为向量

当用户导入一份 PDF、Word 文档或 Markdown 笔记时，系统并不会将其作为整体存 储，而是首先进行文本分块（chunking）。系统会将长文档按语义边界（如段落、章节 或固定长度）拆分为若干较小的文本片段。分块粒度的选择直接影响后续检索的精度： 块过大会引入冗余信息，块过小则可能丢失上下文。 随后，系统调用嵌入模型（embedding model），将每一个文本片段转换为一个高维向量 ——即一串浮点数序列。这个向量的核心作用在于将语义信息编码为空间位置：语义相 近的文本，其向量在向量空间中的距离也相近；反之则远。 这一阶段完成后，所有文本片段都被映射为向量，并存储于本地向量数据库中，等待后 续检索调用。

语义检索

当用户提出问题时，系统进入检索阶段。 用户的问题同样会被传入同一个嵌入模型，转换为与文档片段同一语义空间下的向量。 随后，系统在向量数据库中执行相似度搜索（similarity search），通常采用余弦相似度 或欧氏距离等度量方法，计算问题向量与每一个文档片段向量之间的空间距离，并返回 相似度最高的若干片段。这一机制的关键在于，检索依据的是语义相似性而非关键词命中。即使用户使用的词汇 与文档中的表述不完全一致，只要意图相同，系统仍能定位到相关内容。

大模型生成答案

与普通搜索引擎直接返回文档原文不同，本地知识库的最终输出由大语言模型生成。 系统将第二阶段检索到的相关文本片段作为上下文（context），连同用户的原始问题一 起，构建成一条提示词（prompt），输入到大语言模型中。模型的任务并非自由发挥， 而是严格基于所提供的上下文内容，生成一段自然语言回答。这一过程在技术领域被称 为检索增强生成（Retrieval-Augmented Generation, RAG）。 RAG 模式的核心价值在于将“检索”与“生成”相结合：“检索”保证了答案的事实 依据来源于用户自身的资料库，降低了模型“幻觉”（即凭空捏造信息）的风险；“生 成”则使得输出不再是割裂的文档片段，而是经过整合、连贯、可直接使用的答案。

（三）搭建 AI 知识库需要哪些软件？

整体系统主要由两部分组成： 搭建本地模型的运行环境，这部分的作用相当于是整个知识库的“大脑”。具体来说， 就是把 DeepSeek、Qwen 等开源的语言大模型部署在本地的电脑上，只有部署在本地使 用，也能真正实现离线不联网也能工作，目前有很多可以帮助我们实现本地模型部署的 工具，比如 LM Studio、Ollama 等等。我们上一篇报告《量化看市场系列之十一： Token 太贵？让“龙虾”使用本地大模型》中也论述了如何本地部署 LM Studio 供 OpenClaw 使用。 搭建 AI 知识库管理工具，这是能让 AI“读懂你的资料”的关键组件。你可以理解为它 是连接“文档”和“模型”的桥梁，可选择的软件比较多，比如 anythingLLM 和 Cherry Studio 等。本文选择用 anythinLLM、OpenClaw 原生、与 Obsidian 笔记等方法来做论 述。