电信AI发展的关键技术有哪些？

以下内容都是根据相关报告总结的，如果有兴趣了解更多相关的内容，请下载原报告阅读。

1.智算基础设施

基础设施主要由支撑 AI 模型开发、训练或推理的算力资源和数据资源构成。算力资源包括 AI 训练与推理芯片、异构智能计算服务器以及基于芯片与服务器搭建的人工智能智算中心乃至超算中心。在人工智能快速发展的背景下，算力资源的需求持续增强，对存储、算力、带宽、安全等带来巨大压力。因此，云与端之间将持续增加大量边缘计算节点，从而衍生出端-边-云的算力及数据的协同；打造“算网大脑”，能够高效优化算力节点、网络路径及 AI 模型的选取匹配，实现算力、网络、大小模型能力全局统一调度和开放服务，更好支持 AI 模型的开发、训练与推理任务。 数据资源包括基础数据采集与标注、数据存储、数据治理、数据确权等，以及在此基础上搭建的数据中心。数据中心以服务AI 模型的训练与调优为目的，配合数据服务商的数据库设计、数据采集、数据清洗、数据标注、数据质检等任务，确保数据治理与安全，最终提供优质数据集，为 AI 模型的训练提供数据保障。

2.人工智能软件栈

AI 软件栈作为一种软件系统，旨在基于 AI 芯片等硬件打造一套端对端的软硬件一体化的技术开发体系。人工智能软件栈既包括底层的算力资源、数据集，也包括算法框架、工具链等软件模块。这些软件模块在软件栈中相互依赖，承载数据流、计算流与控制流，可以辅助进行一站式全流程的模型开发与训练，同时最大效率的提升软硬件的适配性，增加开发者的训练模型的效率和便捷程度。目前，人工智能软件栈也在加快进一步标准化、全栈技术体系统一化、增加可扩展性以及集成各类开源模型模型。

3.基础大模型

基础大模型是指基于大量非标注数据通过自监督学习机制训练得到的具有巨量参数的模型，它可以在小样本/零样本的提示下完成各种广泛的下游任务。基础大模型与传统的机器学习模型相比有以下不同：(1)训练数据不同：传统模型的训练数据在千或万这个量级，需要人工标注；大模型所需的训练数据常常超过亿这个量级，不需要人工标注；(2) 模型参数量不同：传统模型的参数量小，而大模型的参数量在百亿甚至千亿规模；(3) 训练周期不同：传统模型的训练时长一般在分钟/小时量级，大模型的训练常常超过一个月 ；(4) 模型的通用性不同：传统模型是面向特定场景/特定任务训练得到的，而大模型是面向多种任务的通用模型。正是因为预训练大模型能够低成本的完成各种下游任务，它具备了较好的通用性，因此被称为基础模型。大模型的成功已经完全颠覆并重塑了AI 技术范式。第一代的 AI 技术范式是面向单任务的小模型，每个模型只能预测并完成特定任务；第二代是预训练(pre-train)+微调(fine-tuning)的 AI 技术范式，该技术范式针对特定下游任务还需要人工标注一定量的数据以及对神经网络参数进行微调；第三代AI 技术范式以一个巨量参数的基础大模型为 AI 底座，它在小样本甚至零样本的提示下就可以完成摘要、问答、对话、写作等各种任务。

4.AI 运营

人工智能产业的快速发展，越来越多机器学习被应用到终端云的各类业务中，机器学习端到端流程涉及数据探索与分析、模型开发、模型训练、模型评估、模型部署和效果评估等多个环节。机器学习下的持续交付 MLOps 于 2015 年首次由 Google 提出用于解决机器学习技术栈问题，旨在统一机器学习系统开发（Dev）和机器学习系统运营（Ops），通过集成、测试、发布、部署和基础架构管理等步骤的自动化和监控实现高效的ML 系统构建流程。

目前，MLOps 已经在 IT、金融、电子商务、制造、化工和医疗等行业广泛应用，助力服务运营、产品开发、营销、风险预测和供应链管理等领域，在电信领域中，由于用户数量巨大，为保证模型稳定性，模型上线后的运营监控尤其是关注重点。以电信网络智能化演进的应用场景为例，MLOps 作为未来高阶自智网络发展的关键技术3，可以应用于管理数据、模型、算法等网络智能化应用的研发资产，实现大规模自动化部署自智网络应用，持续监控自智网络应用效果，避免模型退化风险，支持模型的持续优化和迭代训练，规范应用从模型开发到交付运营的工作流程等。

随着大模型的兴起，LMOps 和 LLMOps 也逐渐进入到人们的视野，即“面向大模型/ 基础语言大模型的 MLOPs”，其继承了 MLOps 整体的框架和机器学习的全生命周期等主要环节，并在每个环节都针对大模型的变化进行了微调适配，从而解决大模型驱动的应用在引入生产环境中面临的挑战，例如，在数据工程环节，要针对特定行业、领域或场景的需求，通过数据工程生产高质量的中小规模数据集，作为模型开发和调优的语料输入，包括数据采集、标注、处理和生成、回流等，不再包括特征工程。在模型调优环节，通过各种调优技术对大模型进行参数调整或二次开发，以实现深度的、精细化的模型优化，从而适配特定需求， 包括提示工程、 模型重训、模型微调、 强化学习等过程。模型交付环节，经过调优后的模型形成可部署的模型或服务，包括模型的压缩转换、测试、服务部署等子环节。

5.AI 安全

AI 安全指通过采取措施对人工智能系统的软硬件、数据及依托其开展的业务进行保护，杜绝偶然或者恶意的未授权访问、泄露、破坏、修改、审阅、检查、记录或销毁，保证信息的机密性、完整性与可用性。一方面，生成式 AI 相关技术本身存在数据泄漏、虚假信息、色情暴力内容等问题；另一方面，随着生成式人工智能及各类应用的陆续落地，数据量、软硬件应用等将大幅增加，攻击范围相应增加，生成式人工智能也将大幅降低黑客攻击门槛，批量生成漏洞攻击、钓鱼攻击、鱼叉攻击等代码，攻击量增长。人工智能技术将对网络安全带来前所未有的挑战，呈现“ChatGPT 大规模人工智能计算广泛应用于安全领域，攻防进入智能化对抗时代”的新趋势。4 生成式 AI 将影响信息安全产业逻辑发生重大变化，安全产品和安全服务的表现形态也将发生重大变化，“AI+安全”模式拓宽了未来整个产业的发展空间。以“AI 安全大脑”的为核心的安全管理类平台将出现，将推动信息安全产业硬件产品、软件产品和安全服务集成程度的提升。