统一参考架构技术要求及应用建设分析

通过加强共性支撑能力建设，解决行业共性问题，培育开放包容可持续激发各方合作活力的共赢生态，支撑行业人工智能高质量发展。

一、统一参考架构技术要求

1.算力基础

构建统一算力基础，包含算网存基础设施、算力资源管理平台、AI开发平台。应构建统一算力基础，避免产业发展受阻，应构建支持万卡算力集群调度演进能力的软硬件基础设施，统一多厂商大模型使能接口，支持模型厂商大模型开发和训练推理。同时实现算网存高效协同，面向文本、图像、音频和视频等多模态据，提供高可用的对象存储、分布式数据库、文件系统、向量数据库等存储基础设施，提供统一的访问和管理接口，提升数据处理的效率和准确性，实现各类数据资源存储、管理、访问的技术规范统一，具体应实现以下9点技术能力。

一是算力可靠高效。包括算力集群规模及可用度、支持算网协同通信优化、支持训推共池及算力切分。二是训推架构统一。支持训推同架构、预置主流的分布式训练框架和分布式并行推理。 三是具备算网存一体化监控功能。包括统一的运维管理工具和跨域故障快速修复。 四是提供存储基础设施。提供高可用的对象存储、分布式数据库、文件系统、向量数据库等，以支持大规模数据的存储和访问。提供高效的数据检索和访问机制，包括支持多种查询语言和API。 五是具备数据资源管理功能。提供数据资源管理功能，支持团队资源管理模式，包括成员权限控制、任务分配和进度跟踪。实时监控数据服务的性能，并提供详细的报告和分析。六是具备安全管理功能。实现工作空间之间的信息隔离，以保护数据的独立性和安全性。实施高级安全措施，包括数据加密、访问控制和审计日志，以保护数据不被未授权访问。

七是具备全栈技术能力。提供芯片、并行计算引擎、算子开发工具、人工智能深度学习框架等，满足具备完整知识产权或立足于国内主导的开源社区的条件，并预置主流算子加速库。八是统一数据访问接口。设计统一的访问和管理接口，使得不同模态的数据能够以一致的方式被访问和操作。确保数据在存储、处理和传输过程中的一致性，包括数据的完整性和准确性。九是统一模型服务接口。为不同模型提供规范化的模型运行时接口、模型加载与执行接口、算子编译和执行接口、性能Profiling 接口、故障运维管理接口等，支撑多种基础模型的高效稳定运行。提供规范化的模型权重和镜像封装接口，支撑基础模型的便捷部署。

2.数据服务

（1）数据工程工具 数据工程工具包括数据评估、数据合成、数据清洗、数据存储、数据接入。针对大模型的训练数据准备，提供面向开发者易用、低门槛的开发环境，提供数据增强、数据评估、数据合成、数据清洗等能力，提升数据开发的效率。自动或半自动地创建新的特征，对于图像、音频等媒体数据，使用旋转、翻转、缩放或添加噪声等方式生成额外的训练样本以提升模型的泛化能力，提高数据的质量和丰富性。 （2）数据采集管理统一数据采集传输标准，从源头治理数据质量。建设单位应统一行业智能终端的操作系统、IOT 及终端设备的传输协议、数据格式及数据隔离安全隐私保障机制，从而降低采集侧数据治理的成本。并且应包含端侧要求、边侧要求、传输要求、安全要求。

（3）数据集管理 一是应构建高质量的行业数据集，向模型训练提供高质量、不断迭代的数据集服务，包括标准化的通用数据集和特定行业的数据集，支持数据集的加密封装和发布，并与模型开发工具链集成，对生态伙伴开放，以降低模型训练和评测门槛，从而实现模型的快速开发和持续迭代。二是应包含数据集发布、安全流通、数据追溯功能，建设统一的数据服务市场，提供服务权限认证、记录完整的服务订阅关系与调用日志。三是数据服务集成，实现数据集与模型开发工具链的自动化集成能力。

（4）数据交换空间 提供数据交换空间，保证数据开放共享。为构建互信、互利的生态系统，充分发挥行业数据价值，需提供空间管理、可信交换、融合共享、安全策略等能力，确保数据要素在企业间、企业内不同主体间跨边界可控流转，实现数据价值的最大化。建设多种类型的数据主权控制能力，例如限定访问次数、使用时长、传输方式、限定用户群等，确保多方数据交换可信。面向模型平台，支持常用数据格式的对接能力，包括且不限于JSONL、XML等常用AI数据格式对接。具备统一的数据清算中心，集中管理多方身份认证以及数据交换记录。具体要求包括构造多方信任的生态环境、打造可组合的使用控制策略和安全审计追溯。（5）企业数据空间 数据服务应有效支撑面向企业应用的数据管理。一是满足多型态的数据服务和管理，确保数据的一致性、可访问性和质量，同时优化数据的利用，满足场景对各型态数据服务的支持。二是需支持多模态数据集成融合、数据分析和处理、数据质量控制、数据安全和隐私保护、实施高级安全措施、团队协作和工作空间管理、数据共享和隔离。

（6）4个特性能力 特性能力包含数据接入、数据模型、数据存储和数据分析等，须根据项目实际实现个性化需求。其中数据接入提供文件、数据库、API 等多种数据接入方式；数据模型提供物模型、整合层管理等能力；数据存储提供多模态数据的存储访问管理；数据分析提供数据可视化、自助分析等能力。

3.模型服务

完善模型工具链支持体系，提升一体化开发效能。在模型训练、微调、推理部署过程中，为向开发者提供易用、低门槛的开发环境，项目应当提供统一接口、功能完整、服务化的工具链体系，实现训练引擎、压缩引擎、对齐引擎、治理引擎，支持多模态训练数据准备、标注、数据集配比等能力，降低工具间的适配成本，从而提升开发效率。

（1）多模型组合 引入多种主流基础大模型和小模型。支持行业模型快速开发和组合，以满足不同场景下行业模型的快速开发与应用。多模型能力体现在模型多样、模型模态多样、行业大模型可随基础大模型能力提升而不断进化、具备基础大模型的组合能力。（2）模型工程工具 完善模型工具链支持体系，提升一体化开发效能。在模型训练、微调、推理部署过程中，为向开发者提供易用、低门槛的开发环境，应当提供统一接口、功能完整、服务化的工具链体系，实现训练引擎、压缩引擎、对齐引擎、治理引擎，支持多模态训练数据准备、标注、数据集配比等能力，降低工具间的适配成本，从而提升开发效率。

（3）Agent工程工具 具备自主决策、多模态数据处理、记忆机制、推理与规划、外部能力集成、多代理协作能力。支持共享的行业任务规划引擎、规划引擎、工具引擎、优化引擎等，降低行业智能体的开发难度，加快开发周期，快速将大模型能力传导至应用侧。（4）AI资产管理 包括模型管理、组件管理、应用和Agent 管理、空间管理、监控和报告等能力。全面维护关键人工智能资产，包括模型、Agent 资产等，统一资产类型、格式，支持统一资产管理和访问，实现人工智能资产的可复用性，支持相关人工智能资产的迭代演进。

（5）统一多模型推理服务 建设统一推理服务标准，确保大模型快速服务行业应用。应包含推理部署、推理监控、支持提供在线推理服务和批量推理服务，满足各种时延要求和成本要求的推理场景、镜像文件和模型文件加载接口等。为了加速推理服务的快速部署和行业复制，应加强大模型推理服务的标准化，支持多厂商模型组合和兼容，统一模型文件格式和性能标准，并将模型服务封装为服务化API，从而实现模型的高效加载、管理和调度，实现模型的快速部署应用。推理服务应统一 Restful 访问接口，支持多种推理框架，同时支持多种模型和 Agent 服务。

4.应用开发

包括应用工具链和数据反馈平台。一是提供行业应用引擎和行业应用组件等应用工具链，并将相关能力封装成标准化应用和解决方案，支撑高价值、高负载的业务场景高效开发、训练和推理。二是经用户授权的脱敏样本数据可反馈回平台，优化数据集和样本，并形成数据飞轮，推动模型持续迭代。

5.运维平台

提供系统管理维护、高可用、灾备、监控优化的算网存统一运维能力，集应用、数据、模型、算力等自上而下的安全保障能力，满足安全可信等级保护要求，保障平台平稳运行。

6.运营平台

面向企业内外部用户，构建一个应用产品共享平台，支持智能应用订阅、数字资产管理等服务，提供统一多租户和权限管理。为用户提供独立的专属空间和权限管理，实现数据、模型、应用、作业流程的自主管理和运营。用户可从平台获取资源、模型服务或标准化应用，并在用户侧部署和运行。建立端边云协同推理机制，解决边端算力不足问题。建立全流程用户数据保护机制，保障数字资产的可信交换。

二、基于统一参考架构的应用建设

1.各服务模式下的建设能力

不同类型的人工智能应用都可使用统一参考架构进行建设，包括算力基础、数据服务、模型服务等，同时在应用开发、运营平台和运维平台的功能建设方面，存在一定的差异和重点。

在应用开发方面，自研创新模式关注开发企业内专属应用，而平台赋能模式则要求开发组件服务化，主要用于开发行业共性应用。在运营平台方面，自研创新模式主要关注内部部门及主体对软件的集成，而平台赋能模式关注行业内软件订阅的活跃度，包含计费、供需对接、交易等功能。在运维平台功能上，自研创新模式关注企业内部系统稳定和安全，而平台赋能模式关注平台的稳定和安全，同时关注企业用户的数据安全。在数据接入、数据模型、数据存储、数据分析等特性数据服务模块，结合项目需求、系统集成实际情况实施。

2.自研创新模式下的技术架构

对照统一参考架构，在自研创新模式下，各建设单位除共性能力建设一样之外，运营平台、应用开发、运维平台和数据交换空间四个方面的特性主要表现在：①运营平台更关注企业内部应用部署、订阅；②应用开发更偏向行业应用引擎引入，满足特定场景需求；③运维平台重点关注企业内部稳定和安全；④数据接入、数据模型、数据存储、数据分析等模块重点在于结合企业现有系统、数据和数据应用的实际情况实施。

3.平台赋能模式下的技术架构

对照统一参考架构，在平台赋能模式下，各建设单位除共性能力建设一样之外，运营平台、应用开发、运维平台和数据交换空间四个方面的特性主要表现在：①运营平台更关注市场管理、合作管理、资产、运营、营销等；②应用开发更偏向开发组件服务化，开发行业共性应用；③运维平台重点关注平台的稳定和安全，同时关注企业用户的数据安全；④数据接入、数据模型、数据存储、数据分析等模块应结合具体行业的实际情况，建设相关数据标准，并统一进行标准化建设。