一城一云一模型概念、建设框架及技术路径分析

一城一云一模型概念、建设框架及技术路径分析

最佳答案 匿名用户编辑于2024/10/15 15:14

一城一云一模型围绕算力、数据、模型和应用开发部署,开展算力云服务运营和城市大模型运营。

1.一城一云一模型的基本概念

“一城一云一模型”是面向某一城市高质量发展需求,构建统一的“城市云”,建设统一的城市 人工智能大模型中心,是算力基础设施与模型基础设施一体化融合发展的新型基础设施,提供了数据服 务、算力服务和算法服务一站式、集约化、高效化发展的新模式,代表了城市数字化转型的基础设施升 级、技术路线升维、商业模式演进。

一城“一云”是横向打通存力、算力、运力的数字底座。“一模型”是纵向贯通智力的共性支撑 体系,包括在“城市云”中增加AI算力节点、AI平台/工具和大模型能力。一城一云一模型能够适应城 市全时全域的个性化、特色化发展需求,既全面赋能城市千行百业数字化转型、智能化升级,又带动城 市技术、产业、人才等持续创新和迭代升级。一城一云一模型既体现政府主导和政务云为核心的基本定 位,又体现基础大模型和行业模型共荣、丰富场景牵引和多元化建设运营互促的开放共享、互利共赢发 展格局。一城一云一模型构建城市新型数字底座、数据资源体系、应用服务体系和建设运营体系,满足 数字时代加快城市高质量发展的本质要求,有利于因地制宜发展新质生产力。

2.一城一云一模型的建设框架

建设统一的城市人工智能大模型中心为核心,汇聚算力资源、开放模型、AI工程化能力、行业数据 集四类服务,提供城市云服务和城市大模型两大运营,联接产业、人才、科研和生态,推动产城学研与 人工智能大模型技术深度融合,培育发展AI新质生产力,加速城市全域智能化进程。

四类服务

一城一云一模型集成算力资源、开放模型、AI工程化能力、行业数据集等四类服务,面向用户提供一 站式服务降低人工智能技术使用门槛,帮助用户快速实现业务智能升级。 算力资源:以统一的“城市云”模式提供普惠安全可靠算力服务,支持不同计算架构的通用算力、智 能算力的协同调度,满足均衡型、计算和存储密集型等各类城市数字化转型业务算力需求。 开放模型:汇聚基础大模型、行业大模型、场景模型,提供算法、模型等AI数字资产的共享,为开发者 提供安全、开放的共享平台,同时支持大小模型统一纳管、大模型安全保障,降低AI模型算法的获取门槛。

AI工程化能力:提供AI模型开发部署和运营管理的平台,支持统一管理作业和资源,面向AI开发者提 供模型训练、AI应用管理、模型部署等能力,帮助用户快速完成模型训练和部署、管理全周期AI工作流。 行业数据集:围绕城市重点产业链和产业集群,汇集同类企业的数据、产业链上下游数据等相关行业 数据,为行业大模型、场景模型的训练,以及城市各领域的“人工智能+”行动提供数据支持。

两大运营

一城一云一模型围绕算力、数据、模型和应用开发部署,开展算力云服务运营和城市大模型运营。 城市云服务运营。增强云计算资源的高可用高可靠水平,对城市异构算力资源进行整合管理和统一调 度,开展城市数据资源归集治理,提供业务系统的上云咨询实施服务,加速云上应用场景构建,促进城市 云应用市场繁荣。 城市大模型运营。面向高校科研机构、AI应用开发商、解决方案集成商、企业及个人开发者等开放AI 模型、数据、应用场景等,打造AI模型市场,提供发布及订阅AI模型服务,连接AI开发生态链各参与方, 加速AI模型的应用落地。

四方联接

一城一云一模型通过联接产业、人才、科研、生态,培育人工智能产业创新生态,助力城市在AI时 代打造领先竞争力。 联接产业:以场景开放创新带动人工智能企业在城市落地,促进人工智能产业发展壮大,同时通过 数据、算力和算法赋能本地传统企业智能化升级,尤其是带动重点产业链及产业集群的数智化转型。 联接人才:人工智能大模型中心可提供基础培训及动手实践服务,帮助IT从业人员及在校学生快速变成 AI人才,并提供数据集、模型、案例等开放资源,通过圈层聚才用才,带动本地AI人才密度及强度提升。 联接科研:通过AI for Science、AI+HPC加速本地科研创新、提升科研能级,联合科研单位、结合 区域产业发展以及业界龙头企业联合将其研究和资源服务于地方,形成新的产业推动。 联接生态:聚集系统集成、硬件、软件、服务、学习与赋能等优质AI生态资源,为本地产业、人才 等发展提供高质量动能,同时将更多生态资源留在本地,形成人工智能发展的良性循环。

3.一城一云一模型的技术路径

一城一云一模型是实现城市大模型落地应用的系统策略,通过打造包含国产化AI基础设施、行业数 据集、AI大模型、大模型工程化工具、大模型安全、AI运营管理平台等六大关键技术能力为代表的能力体 系,构建集算力、算法、数据、安全服务和运营管理于一体的城市人工智能大模型中心。

 

关键技术能力:  (1)国产化AI基础设施 国产化AI基础设施注重人工智能自主创新,通过构筑云化算力、原生智能的基础开发环境,为城市大模 型提供可持续的AI云化算力服务、AI平台云服务、一站式AI开发以及模型托管与AI生态系统的全方位服务。

AI云化算力服务是通过将传统以CPU为中心的计算架构,升级为以CPU、GPU和NPU多种算力对等计算 架构,可以根据各类计算需求快速分配和释放计算资源,大幅提升资源利用效率,整体构建高效、弹性 的智能化基础设施。而AI算力作为人工智能应用的核心,可以处理大规模数据集和复杂模型训练,为 智能化基础设施的实现提供了强大的计算能力和创新潜力。 模型开发服务是在AI云化算力服务基础上,从算力资源调度、AI业务编排、AI资产管理以及AI应用 部署,以模型服务的形式面向用户/AI开发者提供数据处理、算法开发、模型训练、模型管理、模型部 署等AI应用开发全流程技术能力和一站式开发服务,使AI应用开发更加普惠便捷。

模型托管与AI生态系统服务一方面是将目前行业内主流的开源大模型主动纳管到平台,开放兼容第 三方模型,构建开源、创新的生态环境,支持百模千态。另一方面为用户/AI开发者提供高速稳定的托 管服务和丰富的功能支持,使用户/AI开发者能够更清晰地了解模型的大小、占用空间等参数以及更加 方便地对模型进行管理和优化,可以更加专注于模型的研发和优化,提升模型开发效率和模型质量,加 速AI技术的创新和应用。

(2)行业数据集 数据是大模型生长的关键“养分”,数据价值的释放也是大模型时代城市智能升级的关键。大模型保持出色的技术特性来源于结合城市特定的行业和领域数据集不断地进行训练和优化,以适应城市各个 场景的特定需求和挑战。 行业数据集包含政府数据、公共数据、企业数据、互联网数据等不同渠道来源数据,通过政府牵头 的行业数据联盟归集本地重点产业链、产业集群价值数据,引入全国高质量数据集,形成不同行业领域 和应用场景的专业知识库,为大模型开发提供强大的数据支撑。同时,行业数据要素集通过数据生产、 数据管理、数据使用、数据流通等功能简化及规范数据使用,有效提升数据质量和使用效率,促进行业 数据共享交换与流通,也为大模型创新提供有力数据支撑。

(3)人工智能大模型 AI大模型从功能看包含视觉、自然语言处理(NLP)、多模态、预测等基础功能型大模型,从行业应 用看有政务大模型、制造大模型、气象大模型、中医药分子大模型、矿山大模型、汽车大模型、文旅大模 型、科研大模型等等,从应用场景看有智能客服、写作协助、辅助设计、辅助编程、药物筛选、天气预 报、广告生成等场景模型。其中,基础大模型通过海量数据训练,具备丰富的知识,也是训练行业大模型 的基础。行业大模型是在基础大模型基础上通过对自有数据的二次训练快速训练出专属的行业大模型。场 景模型则是在行业大模型基础上,结合特殊场景孵化训练出的应用模型。

(4)大模型工程化工具 大模型的研发依赖算法、算力和数据的综合支撑,随着大模型参数规模和网络结构复杂性的不断 提升,大模型开发、训练和推理部署也面临着数据处理繁锁、模型训练困难、应用开发缓慢等各种各样 的问题。大模型工程化工具包括应用开发框架和配套工具,为大模型二次开发训练和应用提供了基础支 撑,帮助行业用户快速构建大模型的开发和应用能力。例如,基于机器制造、医药研发与制造、电力、 采矿等工业领域、金融领域、交通运输领域等行业用户沉淀的大量自有数据和知识经验,行业用户在大 模型基础功能上,通过对自有数据的二次训练可以形成个性化的专属行业大模型,加速自有行业大模型 的开发和应用。 大模型工程化工具涉及开发、训练、压缩、推理和服务等多个环节,覆盖从数据处理、模型开发、 再到应用开发等模型开发的全流程。大模型应用开发框架和工具的软硬件需要协同优化,不同模型基于 不同的需求配套提供不同的工具。例如面向大模型数据工程,可以提供包括数据采集、数据标注、数据 增强、数据清洗以及数据管理各个环节的工具组件,也可以提供处理包括图像、语音和文本等,多种数 据类型的工具组件,具备高度的灵活性和可扩展性。

(5)大模型安全 大模型安全全面覆盖大模型使用的全生命周期,从数据、模型、内容到应用,构筑端到端模型安全 四道防线,进一步强化大模型的全链路安全保障,助力大模型全链路合规。 数据防护防线:通过数据脱敏、数据血缘、数据防毒等技术手段,从预训练模型的数据集,直至数 据治理阶段,全方位保障政企构建高质量、安全合规的数据集,确保数据多样性和公平性。模型防护防线:针对模型训练阶段可能遭遇的数据投毒风险,以及推理阶段训练数据、用户隐私信 息泄露等风险,采用模型混淆、模型加密等先进技术,软硬件结合,加密模型,有效保障政企大模型资 产安全。 内容防护防线:通过Prompt攻击检测等新型防御能力,实现对多种直接与间接攻击手段的有效检 测,并通过对模型输入输出内容严格审核,严防生成有害或不当信息,有效应对新型安全风险。 应用防护防线:保护大模型在应用插件场景下的安全可靠性,确保大模型在各类应用场景中都能稳 定、高效地发挥作用。

(6)AI运营管理平台 AI运营管理平台是大模型运营管理的工具,主要功能模块包括AI应用管理、大模型管理、数据管 理、服务管理、云边协同、算力资源管理和系统管理。AI运营管理平台通过AI工作流进行模型训练、部 署、优化,达到业务场景的持续监控与运营运维,实现统一、规范、敏捷化的AI全生命周期管理,降低 开发门槛、提升开发效率

参考报告REPORT

一城一云一模型发展研究报告(2024).pdf

一城一云一模型发展研究报告(2024)。大模型的兴起和发展,推动了人工智能的进步,并在自然语言处理、计算机视觉等领域取得一系列重要成果。大模型不仅是一种技术,它重塑了数据要素生态链,引领了产业研究、开发及应用的范式变革,使新产业、新业态、新模式迸发潜能,展现出新活力,推动我们迈入一个全新的人工智能时代。从中长期看,大模型将与制造、生物医药、能源、交通、金融等实体经济领域深度融合,形成一批面向垂直行业的场景化、定制化、个性化的专有模型。而针对垂直行业或领域开发的大模型,不仅需要技术的创新和突破,更需要对行业的深刻理解和知识的有效整合,以实现更精准和高效的知识管理与应用,不断提升创新效率、拓展应用...

我来回答
分享至