华为盘古大模型研究:盘古开天,AI落地.pdf
- 上传者:红四方
- 时间:2023/04/12
- 浏览次数:798
- 下载次数:57
- 0人点赞
- 举报
华为盘古大模型研究:盘古开天,AI落地。应用场景纷繁复杂叠加“作坊式”的开发模式导致传统 AI 模型商业化落地较难。传统的 AI 开发模式下,一个场景对 应一个模型,数据质量差、样本少,模型精度差,并且应用场景相对单一。不同行业、不同场景对 AI 的需求既复杂 且碎片化,每个痛点都需要进行定制化地开发和改造;另一方面, AI 算法从理论上能够极大提升产品及服务的价值 量,但由于开发过程中存在大量的碎片化因素,不同的应用场景往往需要独立的架构设计与调参,效率相对较低。“小 作坊式”的 AI 开发模式在一定程度上限制了生产力。
五个基础大模型涵盖不同方向,三层进化路径打造“实干模式”大模型。盘古大模型进化路径可分为 L0-L1-L2 三个 阶段,L0 基础大模型包括业界首个千亿级生成与理解中文 NLP(中文语言)大模型、包含 30 亿+参数的 CV(视觉)大 模型、具备跨模态理解、检索与生成能力的多模态大模型、致力于解决各种科学问题的科学计算大模型以及采用图网 络融合技术的 Graph(图网络)大模型。L1 是在 L0 基础上导入行业数据进行训练后衍生出的行业大模型,L2 是在 L1 基础上结合行业细分场景得到的推理模型,上层是在下层的基础上演化而来,层层递进,确保了在真实产业场景中的 效率和适用能力。此外,一站式 AI 开发平台 ModelArts 为盘古大模型的训练和推理提供了计算优化、通信优化、存 储优化以及算法优化,是盘古大模型重要的基础平台资源。
盘古大模型具备极强的泛化能力,适用大量复杂行业场景。盘古 NLP 大模型学习了 40TB 的中文文本数据,CV 大模型 包含了 30 亿+参数,并通过行业数据的小样本调优,提升了模型在场景中的应用性能,提高了大模型的泛化能力以及 算法对新鲜样本的适应能力,节省了 80%以上的人力标注代价。此外,基于产业场景中存在大量的内容理解需求,盘 古大模型采用兼顾架构,在预训练阶段沉淀了大量的通用知识,能够同时完成理解与生成任务,使得大模型有能力支 持行业知识库和数据库的嵌入,对接行业经验。盘古大模型相当于各个行业 AI 通用的“轮子”,助力各行各业加速 智能化转型。
预训练+下游微调的工业化 AI 开发模式赋能千行百业。盘古大模型是一种工业化 AI 开发的新模式,可以解决小模型 的定制化难题,使一个模型应用到多个场景中。盘古 CV 大模型首次兼顾了图像判别与生成能力,能同时满足底层图 像处理与高层语义的理解需求,同时能够融合行业知识的微调,快速适配各种下游任务。此外,盘古 CV 大模型在预 训练阶段主要集中在数据处理、架构设计和模型优化三个阶段进行优化,目前盘古 CV 大模型在 Image Net 1%、10% 数据集的小样本分类精度上均达到目前业界最高水平,工业化 AI 开发模式有望助力各行各业加速智能化转型。
- 全部热门
- 本年热门
- 本季热门
- 华为深度解析:华为,无边界扩张的科技巨头.pdf 296 4积分
- 华为战略分析:通信巨头华为的崛起之路.pdf 289 4积分
- 5G产业深度研究之四大巨头战略布局(83页ppt):华为、中兴、思科、爱立信.pdf 279 5积分
- 华为汽车产业链专题研究报告.pdf 257 6积分
- 华为组织成长的动力机制.pdf 256 15积分
- 华为数据中台架构设计分享.pptx 240 10积分
- 华为数字化转型,从战略到执行研究报告.pdf 218 10积分
- 半导体行业深度报告:详解华为芯片供应链pdf.pdf 200 3积分
- 华为汽车业务现状、竞争格局和产业链机遇深度解析.pdf 185 5积分
- 华为鲲鹏产业体系研究深度报告:鲲鹏展翅,挥下千亿市场.pdf 174 6积分
- 华为昇腾产业链专题报告:引领全球算力新未来.pdf 102 4积分
- 华为产业链深度梳理:曙光已现,华为计算产业生态加速发展.pdf 64 5积分
- 电子行业华为产业链专题报告:技术创新+自主可控全面布局.pdf 53 3积分
- 华为鸿蒙专题报告:开启全新智能物联时代.pdf 50 5积分
- 智能汽车系列深度(十一),华为与地平线篇:百舸争流千帆尽,国产智驾竞风流.pdf 38 3积分
- 华为现有业务与华为概念产业链分析.pptx 36 12积分
- 华为智能汽车专题:长安华为战略携手,打造中国智能驾驶龙头.pdf 35 3积分
- 华为昇腾一体机深度研究:国产AI算力的星辰大海.pdf 33 3积分
- 计算机行业专题报告:华为算力进展不断.pdf 29 3积分
- 赛力斯研究报告:华为智造归来,腾飞展翅向上.pdf 24 4积分
- 华为鸿蒙专题分析:大一统时代的自主之光.pdf 11 2积分
- 华为数字校园建设方案技术建议书.doc 0 20元
- 人工智能行业大模型专题报告:百模渐欲迷人眼,AI应用繁花开.pdf 81 4积分
- AI行业专题报告:AI巨轮滚滚向前.pdf 67 7积分
- 服务器行业专题报告:AI和“东数西算”双轮驱动,服务器再起航.pdf 46 4积分
- 人形机器人行业专题报告:应用场景快速打开,AI赋能产业化加速.pdf 44 3积分
- 半导体行业AI国产算力专题报告:0~1,重视产业链历史机遇.pdf 44 4积分
- 人工智能行业专题报告:AI+产业链从技术底座到应用全解析.pdf 38 5积分
- AI手机行业专题报告:AI开启智能手机新时代.pdf 38 6积分
- 海外机器人行业跟踪报告:美股科技巨头纷纷入局,AI大模型将推动机器人商业化落地.pdf 33 4积分