2024年云天励飞分析报告:大模型时代的AI算法芯片化龙头

  • 来源:中信证券
  • 发布时间:2024/01/19
  • 浏览次数:2260
  • 举报
相关深度报告REPORTS

云天励飞分析报告:大模型时代的AI算法芯片化龙头.pdf

云天励飞分析报告:大模型时代的AI算法芯片化龙头。公司概况:快速成长的AI平台型公司,具备算法、芯片等软硬一体化AI技术能力,技术与场景双轮驱动。云天励飞成立于2014年,是一家依托算法芯片化能力深耕AI场景落地,拥有自主可控核心技术、业绩快速增长的人工智能公司。公司依靠核心技术建立竞争壁垒,快速响应市场需求,支撑更多场景扩展,在数字城市及人居生活两大领域为客户提供软硬件产品/芯片或解决方案。目前公司正处于业绩快速成长阶段,2019-2022年分别实现营收2.30/4.26/5.66/5.46亿元,同比+73.2%/+85.0%/+32.7%/-3.4%。我们预计随宏观经济逐步回暖,政府、商业...

公司概览:以算法芯片化深耕 AI 蓝海,打造自主可 控人工智能平台型公司

历史沿革:深耕 AI 算法+芯片双轮驱动,领先实现视觉 AI 场景落地

公司是国内极具影响力的人工智能领先厂商,业内率先实现动态人像系统大规模落 地,重视 AI 技术的场景化落地。公司成立于 2014 年 8 月,以视觉人工智能技术为核心, 逐步构建并完善了融合算法、芯片、智能软硬件产品和解决方案的视觉人工智能全产业 链服务能力:

1)AI 算法:公司自成立以来便开始研发各类 AI 算法,目前拥有包括海量类别高精 度度量学习技术在内的 6 类核心算法技术,对应 48 项授权发明专利,另有 9 项专利正在 申请中。2019 年公司的“云天励飞智能终端人脸识别系统”作为工信部的国家人工智能 重点任务揭榜。2022 年,公司着手研发“天书”大模型,依托公司深耕下游场景积累的 行业 Know-how 打造服务于多场景多行业的大模型,为公司拓展行业应用、促进人工智 能规模化产业化发展提供算法平台支持。

2)AI 解决方案:公司主要提供数字城市场景的 AI 解决方案和人居生活场景的 AI 解 决方案。2015 年公司 AI 解决方案在数字城市场景下率先落地:公司在深圳市龙岗区实现 基于“深目”系统的城市级人工智能解决方案。2018 年公司将 AI 解决方案应用范围拓展 至人居生活领域,赋能提升居住、生活等各方面的安全性、便利性及体验感,进一步打 开成长空间。公司目前已落地深圳南园智慧社区、富士康 AI 智慧园区和万科印力智慧商 业等。

3)AI 芯片:公司于 2016 年底完成第一代自主研发的 NNP100 神经网络处理器架构 设计、指令集定义和处理器研发,并于 2017 年基于 FPGA 商用;2017 年底,公司完成 第二代自主研发的 NNP200 神经网络处理器,并于 2018 年一次性流片成功;2022 年公 司最新一代人工智能处理器 NNP300 的 IP 授权已向多个下游领域和国家重点实验室提供。 公司自研的第二代 AI 芯片 DeepEye1000 目前已批量出货;公司自研的第三代 AI 芯片 DeepEdge10 已于 2022 年成功流片,2023 年开始商用,目前正积极推进客户端适配, 可广泛应用于 AIoT 边缘视频、移动机器人等场景。此外,基于上述芯片积累的技术实力, 公司承担了国家发改委、科技部、工信部三大部委关于芯片的重大专项;2020 年芯片独 立对外商用的收入达到 268.61 万元,2021 年达到 2,472.93 万元,目前已与海康威视、 阿里巴巴平头哥、富瀚微等建立了业务合作关系,拓展了 IP 授权业务形式。从芯片的下 游场景覆盖来看,除持续应用在数字城市、智慧交通等领域以外,也实现了在慢速自动 驾驶机器人市场的突破。

股权架构:股权结构清晰,国资股东加持

公司股权结构较为清晰稳定,特区建发、中国电子、华大半导体等为股东。截至 2023 年 6 月 30 日,公司董事长、总经理、实际控制人陈宁博士直接持有公司 23.56%的 股权,并通过珠海明德致远投资有限公司间接持有公司 1.71%的股份,合计持有公司 25.27%的股权,为公司第一大股东。同时,公司设置了深圳创享二号、珠海创享一号、 珠海创享二号、珠海创享三号、深圳云天创享作为员工持股平台。公司的前十大股东还包括由深圳市特区建设发展集团有限公司控股的东海云天(持股 8.01%)、由成都空港产 业兴城投资发展有限公司和华大半导体有限公司出资持股的中电华登(持股 4.52%)、宁 波智道(持股 2.49%)、合肥达高(持股 1.99%)、合肥桐硕(持股 1.84%),其中合肥达 高和合肥桐硕互为一致行动人;其他主要股东还包括中国电子有限公司 100%控股的中电 金投及中电信息。公司拥有诸多全资子公司,主要负责深圳地区之外的市场,将业务拓 展到华南及全国其他区域。

公司管理层多具备技术背景,行业从业经验丰富。公司拥有优秀的研发团队带头人, 创始人、董事长兼总经理陈宁博士曾任中兴通讯 IC 技术总监;由公司副总经理李爱军牵 头芯片在研项目,曾任中兴通讯手机芯片研发总经理,曾经作为项目经理带领项目组完 成国内首款 28nm LTE 多模手机 modem 芯片的研发和量产;公司副总经理、核心技术人员程冰曾担任深圳中兴力维技术有限公司产品总监;产品算法副总裁、大模型筹备组组 长肖嵘博士曾任微软亚洲研究院资深研究员、微软必应搜索部资深工程师、微软雷德蒙 研究院首席研究员等,是微软人脸识别引擎的奠基人之一。

推行股权激励,核心员工绑定公司发展。2023 年 9 月,公司首次推出股票期权的中 长期激励计划。根据计划,公司拟向董事、高级管理人员、核心技术人员、核心骨干等 共计 238 人授予 1106 万股限制性股票。首次授予部分的考核年度为 2024-2025 会计年 度,解锁期对应解锁比例分别为 50%/50%,考核目标为营收增长率(以 2022 年为基数)。 我们认为公司推行股权激励,将公司和核心员工利益绑定,有助于持续发展。

商业模式:深挖 AI 场景快速复制推广,算法芯片化打造产品闭环

公司主要依托自研算法、芯片,搭配外购的硬件产品、安装施工服务等,提供软硬 件产品或解决方案。公司盈利模式主要为基于自研的算法软件、芯片等核心产品,搭配 外购的定制化或标准化硬件产品、安装施工服务等,面向政府机构等终端客户、企事业 单位等集成商客户,根据其需求交付相应软硬件产品或解决方案。此外,公司还基于算 法芯片化能力实现自研芯片单独销售(采用 Fabless 模式)以及为芯片设计公司提供 IP 授权服务。

1)解决方案层面,公司通过方案设计,根据用户的具体需求,将自研的软件等核心产品与公司软件适配性较高的定制或标准硬件组合,形成一套软硬件一体的解决方案并 对外销售实现收入;2)软硬件产品方面,公司一般通过向客户销售用于方案集成中所需 的软件或定制硬件产品实现收入;3)芯片方面,公司的 AI 芯片产品除用于提升自身解 决方案及硬件产品的核心竞争力外,也可以作为标准品对外销售,向计算机视觉终端设 备厂商进行芯片交付实现收入,此外公司还可以将相关研发成果通过“IP 授权”的方式 实现收入。

销售模式:主要采用直销模式,头部客户从深圳逐步向外扩张,城市复制策略初见 效。公司软硬件产品和 AI 解决方案业务采取直销的模式。公司的主要最终客户以各地政 府单位、公安机关、大型商场、机场车站等交通枢纽的业主单位、大型企事业单位、社 区物业公司等为主。2022 年公司收入大部分来自政府端,数字城市业务营收占比 76.05%,人居生活业务营收占比 19.15%;头部客户包括中国电信集团有限公司、深圳 市龙岗区大数据中心、深圳市湾区国际酒店有限公司、湖南岳麓山国家大学科技园创业 服务中心、崂山区疫情防控工作专班隔离场所管控部等。2022 年公司前五大客户营收占 比为 48.98%。

财务分析:营收保持高速增长,重视研发投入,人员数量平稳

营收端:2019-2021 年收入连续高速增长,2022 年受外部不利环境影响小幅下降。 2019-2022 年,公司实现营收 2.30/4.26/5.66/5.46 亿元,同比+73.2%/+85.0%/+32.9%/- 3.4%。2019-2021 年公司营业收入保持高速增长,但 2022 年受外部不利环境的影响, 各地智慧化项目施工及交付相应延迟,营业收入同比下滑。

——1)从业务类型来看,公司除了提供“数字城市运营管理 AI 产品及整体解决方 案”这一传统业务强项之外,还积极拓展“人居生活智慧化升级 AI 产品及整体解决方案” 与“AI 芯片销售和 IP 授权”业务。其中,数字城市业务 2020-2022 年收入增速分别为 76.4%/9.1%/7.3%,营收占比分别为 83.3%/68.5%/76.1%;人居生活业务 2020-2022 年 收入增速分别为 114.6%/151.1%/-31.7%,营收占比分别为 14.3%/27.1%/19.2%,而 AI 芯 片 销 售 和 IP 授 权 业 务 2019 年 刚 开 始 产 生 收 入 , 2020-2022 年 收 入 分 别 为 0.03/0.25/0.25 亿元,营收占比分别为 0.6%/4.4%/4.6%,目前已与海康威视、阿里巴巴 平头哥、富瀚微等建立了业务合作关系。

——2)从地域来看,公司从广东深圳起家,建立灯塔城市复制模式,逐步将业务拓 展至全国,2020-2022 年华南地区收入增速分别为 40.5%/65.4%/-3.4%,非华南地区收 入增速分别为 164.3%/1.8%/-3.6%。近年来公司华南以外地区的收入占比呈现上升趋势, 从 2018 年的 13.4%增长到 2022 年的 39.4%;其中,华东地区业务占比明显提升,到 2022 年已达到 20.1%,成为华南区以外的第二大市场。

成本端:公司毛利率与业务结构相关,随着业务有序发展有望趋于稳定。2019-2022 年,公司综合毛利率分别为 43.6%/35.6%/38.8%/31.9%。按照业务类型来看:数字城市 业务 2019-2022 年毛利率分别为 41.9%/33.7%/37.0%/26.9%,波动主要系公司提供的综 合性解决方案主要由自主研发软件、外购硬件及安装服务构成,其中自主研发软件在前 期开发阶段均已费用化,该业务主要成本为设备的硬件及安装服务成本,2022 年外购硬 件或者安装服务比例提升,以及特定项目结转的原因导致项目毛利率受到影响。人居生 活业务的 2019-2022 年毛利率分别为 55.4%/45.1%/37.9%/36.6%,主要系该业务成立前 期销售产品主要为软件产品,随着业务模式成熟、业务量上升,销售产品逐渐由软件产 品转向为整体解决方案,解决方案中硬件及安装服务成本较高,导致业务毛利率有所下 滑。展望未来,随着公司业务体量提升,数字城市与人居生活业务中软件、硬件及安装 服务等细分项目的占比趋于均衡,我们预计将带动公司两项业务毛利率趋于稳定。AI 芯 片销售及 IP 授权业务占比较低,但 2022 年毛利率从 2019 年的 38.9%提升至 91.95%, 主要源于公司当年对外签订 IP 授权业务毛利率较高。

费用端:费用率逐步降低,源于收入起量后规模效应显现,管理费用需关注股份支 付影响。2019-2022 年公司销售费用分别为 0.78/0.86/0.83/0.86 亿元,销售费用率分别 为 33.9%/20.2%/14.7%/15.7%,为满足快速扩张的业务规模,公司自 2018 年开始陆续 扩充销售人员规模,后续随着收入规模上升,公司销售费用率逐渐下降。2019-2022 年 公 司 管 理 费 用 分 别 为 3.33/2.72/2.87/2.34 亿 元 , 管 理 费 用 率 分 别 为 144.6%/63.9%/50.8%/42.9%,其中公司于 2019-2022 年进行股权激励,股份支付费用 分别为 2.08/1.75/2.01/1.35 亿元,若剔除股份支付费用,2019-2022 年实际管理费用率 分别为 54.3%/22.9%/15.2%/18.2%。由于公司负债保持较低水平,2019-2022 年财务费 用率为-0.4%/-1.2%/-3.4%/-2.1%。研发方面,公司围绕视觉 AI 领域在算法、解决方案、 芯片等环节持续加大研发投入,2019-2022 年研发费用为 2.00/2.19/2.95/3.47 亿元,研 发费用率分别为 86.8%/51.4%/52.2%/63.4%。研发人员方面,截至 2023 年 6 月 30 日, 公司在岗研发人员 487 名,占员工总数的 61%,其中博士/硕士/本科占比分别为 3%/29%/49%。整体来看,公司营收规模快速扩张,同时销售/管理/销售费用率迅速下滑 (剔除股权支付费用影响),未来随着规模效应进一步显现,我们看好公司期间费用率进 一步下行。

净利润角度:由于 AI 行业前期投入较高且股份支付金额较高,公司目前尚未盈利。 2019-2022 年,公司归母净利润分别为-5.00/-3.93/-3.90/-4.47 亿元。由于人工智能产业 属于新兴行业,公司为了快速导入市场,必须持续在人才构建、研发和销售等方面大量 支出;此外公司在 2019-2022 年进行核心骨干股权激励,股份支付费用分别为 2.08/1.75/2.01/1.35 亿元,导致归母净利润承压。若剔除股权激励的影响,公司 2019- 2022 年调整后归母净利润分别为-2.92/-2.18/-1.89/-3.12 亿元。

募投项目:持续加码 AI 应用及芯片,为公司持续推动 AI 场景化落地保驾护航。公 司发行募集资金扣除发行费用后将用于以下项目:城市 AI 计算中枢及智慧应用研发项目、 面向场景的下一代 AI 技术研发项目、基于神经网络处理器的视觉计算 AI 芯片项目以及补 充流动资金项目。我们认为公司有望通过募投获取资金更好的开发面向下一代场景的人 工智能算法平台,提升算法生产的效率和精度,丰富人工智能算法库;更好的支撑神经 网络处理器技术研发,解决神经网络处理器“卡脖子”技术攻关,为 AI 生态化发展提供 工具链等软件环境支持;并更深入开发大规模城市级应用场景。

行业趋势:AI 即将迎来新一轮应用爆发,加速孕育 万亿市场

行业概览:AI 技术赋能百业,加入加速阶段,孕育万亿市场

2023 年,Chat-GPT 成功“出圈”证明了 AI 技术方法上不断的新突破正驱动全球 AI 产业加速发展,叠加 AI 产业集群效应的不断凸显,AI 产业有望成为全球科技领域中 期最具投资价值的产业赛道之一。本轮人工智能腾飞受益于持续提升的 AI 算力对神经网 络算法的优化,技术发展即将迎来新一轮应用的爆发。据 Sage 预测,至 2030 年人工智 能的出现将为全球 GDP 带来额外 14%的提升,相当于 15.7 万亿美元的增长。 目前各行业对 AI 技术的应用仍需解决灵活性和成本的矛盾。随着更新的技术、更优 的算法、更大的模型出现,算力的成本越来越低,模型训练与运行所需成本持续下降, 而算法从封闭测试到开放测试、开源的逐渐普及亦降低了使用门槛。由此人工智能无论 在经济性与可获得性上都达到支持普及的水平。AI 产业有望保持“芯片+算力基础设施 +AI 框架&算法库+应用场景”的稳定产业价值链结构,具备核心芯片能力、算法储备丰 富、行业理解深入、解决方案完备的相关厂商有望在竞争中胜出。

从产业链上来看,人工智能行业主要包括基础层、技术层和应用层,目前国内企业 仍以应用层为主。基础层主要提供数据和算力支持,包括硬件设施、系统平台和数据资 源三个维度;技术层为感知和认知能力,包括算法模型、基础框架和通用技术;应用层 即场景和产品,主要包括各类型的智能产品和应用平台。同时,智能产品端即众多物联 网化的终端和边缘端设备是数据资源的重要来源,形成了对基础层底层数据的持续补充, 进而带动技术层的演进和迭代,从而构成完整的闭环。 目前,国内的人工智能企业集中于应用层,基础层则较为薄弱。根据深圳市人工智 能行业协会,2022 年中国人工智能产业链中应用层企业占比达 55%。由于对技术和资金的要求较高,基础层的底层技术由少数国际巨头垄断,国内行业结构稍显“头重脚轻”, 国内企业在算法和硬件算力领域仍然任重道远。近年来,国家就相关领域的政策正在经 历由侧重技术应用到全产业链系统发展的方向转变,未来就基础层的发展,可预见更多 资本和人才的政策倾斜,基础层也将成为未来人工智能整体市场的核心增长引擎。我们 认为,云天励飞占据 AI 产业链关键上中游技术和基础层,产品包括芯片、算法以及场景 所需的设备和解决方案,依靠核心技术建立竞争壁垒,快速响应市场需求,支撑更多场 景扩展。

多模态模型陆续涌现,视觉应用落地有望加速

2022 年,ChatGPT 引发 AI 发展浪潮,各大厂商纷纷推出大语言模型;进入 2023 年,众多多模态模型陆续推出,由语言向视觉语言多模态模型迭代发展。我们认为,AI 跃升至 2.0 时代,大模型将带来云端与终端算力增量趋势,尤其是多模态拓展应用外延, 单位算力成本降低推动场景泛化与落地。

——(1)OpenAI:ChatGPT 已成为目前增长最快的消费应用程序。2023 年 3 月 14 日,OpenAI 宣布正式推出 GPT-4 多模态大语言模型,支持图像+文本输入,文本形式 输出,相比前两代 GPT-3 和 GPT3.5 分别用于创造 Dall-E 和 ChatGPT,GPT-4 提升了 强大的识图能力、提升文字输入限制(2.5 万字)、能够生成歌词或创意文本实现风格变 化。

——(2)微软:在 AIGC 落地应用上保持领先。2023 年 2 月 27 日,微软推出的 KOSMOS-1 模型,能同时理解文字与图像内容,未来将会整合更多的输入模式,如音频、 视频。9 月 26 日,微软 Windows 铺开 AI Copilot,定位为“日常 AI 伴侣”,将人工智能 引入到用户最常用的微软产品中并构成单一体验,包括 GitHub 编程工具、Microsoft 365 生产力协同工具箱、Bing 搜索引擎、Edge 浏览器和 Windows 操作系统中。11 月 1 日, Microsoft 365 Copilot 企业版将全面上市。

——(3)谷歌:在多模态领域保持相对领先。2023 年 3 月 6 日,谷歌推出 palm-E, 为目前最大规模的视觉语言多模态模型,其输入包括视觉、连续状态估计和文本,并可 执行包括机器人操作、视觉问题解答在内的具体问题,此外还具备泛化能力,可以在未 训练的情况下推演执行各种任务,同时谷歌宣布其 Workspace 中的 Gmail 和 Docs 也将 集成 AI 助手;2023 年年底,谷歌计划推出下一代大模型 Gemini。Gemini 为大语言模型 集合,支持多种功能,包括聊天机器人、生成原始文本、根据用户的要求总结文本等。

随着各类多模态模型的陆续推出,在算力层面,多模态模型的训练、推理算力需求 均较单一语言模型呈量级式增长,推动上游算力需求持续提升;在应用层面,多模态交 互更符合日常使用习惯,应用边界进一步拓展,随着算力基础逐步搭建完善和多模态模 型的持续升级优化,我们看好下游加速终端应用落地。

AI 算力平民化和普适化加速终端需求周期兑现。以 ChatGPT 为代表的 AI 模型单位 算力成本不断下降,GPT 接入价格持续降低:2023 年 3 月 2 日,OpenAI 发布 GPT-3.5- turbo,接入成本降低 90%;2023 年 6 月 13 日,OpenAI 发布函数调用及其他 API 更新, 使用成本降低 25%~75%。ChatGPT 延伸应用场景广阔,除网页版 ChatGPT 的火爆外, 下游应用场景对 API 开放的需求比较旺盛,诸多下游公司已将 ChatGPT 应用至不同场景, 例如 Snapchat、单词背诵应用 Quizlet、生鲜电商平台 Instacart、跨境电商平台 Shopify, 此外 DallE 也采用了 ChatGPT 支持,Stable Diffussion 也使用了类似的持技术。

单位算力成本降低趋势明确,AI 产业逐步转向需求驱动阶段,推动 AI 芯片快速放量。 AI 相关基础理论成形相对较早,但受技术、算力限制而发展缓慢,2016 年以来 AI 产业 发展逐步加速,主要由硬件基础和训练模型升级迭代推动,我们认为以 GPT 为代表的大 模型持续降价将推动整体市场接入 AI 计算更加平民化和普适化,使得终端应用 AI 模型逐 步具备可观的经济效益。我们认为 AI 算力价格的不断下降将推动以 GPT 为代表的多模态 模型持续更新升级,短期内以微软 Copilot 为代表的 ToB 应用渐次落地、加速渗透,未来 一年有望迎来大模型应用的快速落地,由此衍生出更多的模型下沉和交互模式突破,并 进一步催生 ToC 应用和智能终端在 25 年开启需求周期。

AI 芯片是人工智能行业的关键底层技术,“云-边-端”共振发展

人工智能芯片指应用在人工智能算法加速,主要实现大规模并行计算的芯片。AI 芯 片被称为 AI 加速器或计算卡,即专门用于加速 AI 应用中的大量计算任务的模块(其他非 计算任务仍由 CPU 负责),面向 AI 计算应用的芯片都可以称为 AI 芯片。根据承担任务和 部署位置不同,AI 芯片可以按两个方向进行分类:

——根据承担任务的不同,AI 芯片可以分为:用于构建神经网络模型的训练芯片, 和利用神经网络模型进行推理预测的推理芯片。(1)训练端:是指通过大数据训练出一 个复杂的神经网络模型,即用大量标记过的数据来“训练”相应的系统,使之可以适应 特定的功能。训练需要极高的计算性能,需要较高的精度,训练芯片受算力约束,一般 只在云端部署。(2)推理端:是指利用训练好的模型,使用新数据推理出各种结论。即 借助现有神经网络模型进行运算,利用新的输入数据来一次性获得正确结论的过程,在 云端、边缘端及终端均有部署。

——根据部署的位置不同,AI 芯片可以分为:云端 AI 芯片、边缘 AI 芯片、终端 AI 芯片。(1)云端:即数据中心,在深度学习的训练阶段需要极大的数据量和大运算量, 单一处理器无法独立完成,因此训练环节只能在云端实现。(2)边缘端:即位于云端与 终端设备之间的计算层,计算能力不及云端,可对数据进行初步处理和分析,减少传输 资源的消耗。(3)终端:即手机、安防摄像头、汽车、智能家居设备、各种 IoT 设备等 用于模型推理的智能设备。终端的数量庞大,而且需求差异较大。云天励飞目前产品线 覆盖终端和边缘端 AI 芯片。

技术路线:AI 芯片根据技术架构可分为 GPU、FPGA、ASIC 等。由于 CPU 是图灵 完备的,可以自主运行,因此存在基于多核 CPU 组成的 CPU 芯片是同构并行的。但 GPU、FPGA、DSA、ASIC 等处理引擎/芯片是非图灵完备的,都作为 CPU 的加速器而 存在,因此其他处理引擎的并行计算系统即为 CPU+xPU 的异构并行,大体分为四类: (1)CPU+GPU:CPU+GPU 是目前最流行的异构计算系统,在 HPC、图形图像处理以 及 AI 训练/推理等场景得到广泛应用。(2)CPU+FPGA:目前数据中心流行 FaaS 服务, 目前 FPGA 通常以加速卡的形式配合现有的 CPU 进行大规模部署。FPGA 的功耗通常为 几十瓦,对额外的供电和散热等环节没有特殊要求,可以兼容数据中心的现有硬件基础 设施。(3)CPU+DSA:谷歌 TPU 是第一个 DSA 架构处理器,TPUv1 采取独立加速器 的方式,实现 CPU+DSA(TPU)的方式实现异构并行。(4)CPU+多个 ASIC:由于 ASIC 功能固定,缺乏一定的灵活适应能力,因此不存在 CPU+单个 ASIC 的异构计算。CPU+ASIC 形态通常是 CPU+多个 ASIC 组,或在 SoC 中作为一个逻辑上独立的异构子 系统,需要与其他子系统协同工作。

ASIP 是云天励飞采用的一种定制化指令集的处理器芯片技术路线,目标是解决场景 需求、算法、算力三者在灵活性、低成本的矛盾。ASIP 为某个或某一类型应用而专门设 计,通过权衡速度、功耗、成本、灵活性等多个方面的设计约束,设计者可以定制 ASIP 以达到最好的平衡点,从而适应嵌入式系统的需要。ASIP 集合了 FPGA 和 ASIC 各自的 优点,不仅可以提供 ASIC 级别的高性能和低功耗,还能提供处理器级别的指令集灵活性, 实现可重新编程,更适用于需求尚未被明确定义、需要芯片具备一定通用性和可编程性 的应用场景,从而满足 AI 算法快速更新迭代的需求,并延长芯片的使用生命周期。有望 为 AI 推理和训练计算任务提供低功耗、高性能、经济普惠的解决方案,满足日益增加的 深度学习计算需求,从而成为人工智能芯片未来主要的技术趋势。

ChatGPT 类应用铺开料将驱动全球算力规模快速提升,并拉动关键底层 AI 芯片的 需求同频增长。根据工信部等六部门联合印发《算力基础设施高质量发展行动计划》,其 中提出到 2025 年,计算力方面算力规模超过 300 EFLOPS,智能算力占比达到 35%。 结合中国信息通信研究院、IDC、Gartner、TOP500、华为 GIV 等的预测,至 2030 年, 全球算力规模将扩大到 56 Zflops,对应 2021-2030 年 CAGR~65%,且届时智能算力规 模将占 90%以上。

海外进展:当前 AI 芯片市场由海外龙如英伟达主导,AMD 奋起直追,谷歌、特斯 拉、微软开启自研竞赛。除算力性能之外,AI 芯片亦强调工艺制程、功能、生态布局、 IP 等综合要素,在此领域海外龙头英伟达掌握有技术+生态双重壁垒,目前占据 AI 芯片 市场的绝对份额,AMD 则寄希望于 HPC 和 AI 蓬勃发展,全方位布局算力生态。然而芯 片价格高涨、供应紧张,叠加减少对硬件供应商依赖的诉求,海外科技巨头如谷歌(自 研 TPU)、微软/OpenAI(自研雅典娜 AI 芯片)陆续开始布局自研芯片。 国内进展:美政府加强限制对华销售高端芯片,AI 芯片国产替代是必经之路。2022 年 8 月和 10 月,美国商务部产业与安全局(Bureaus of Industry and Security, BIS) 针对高端 GPU 芯片的对华销售实施限制,并严格设定界限阻碍先进计算芯片售往中国; 2023 年 10 月 17 日,BIS 对此前制裁措施进行升级,进一步限制中国企业获取高性能芯 片,即 TPP(算力位宽乘积)、PD(性能密度)、晶体管数量(以限制 Chiplet 绕过管制) 达到一定水平以上均受限,并填补了向总部设在中国等禁运地区的公司运送芯片的漏洞。 我们认为,在可见未来内,我国 AI 产业发展将缺乏海外尖端产品支持,AI 芯片国产替代 是必经之路。目前国内 AI 芯片仍在单芯片性能、制程工艺、多卡互联技术和开发生态上 与海外头部厂商有较大差距,国内厂商仍在奋起直追,持续推进 AI 芯片迭代和生态建设。 我们认为,BIS 新规或将进一步刺激国产 AI 芯片产业链发展,提升下游客户接受程度和 意愿,国产替代进程有望加速。

边缘计算:就近进行数据分析,无须再上传至云端数据处理中心。随着 AI 快速发展, 算力需求激增,传统云计算架构已经不能满足计算需求。同时,随着数据隐私性和及时 响应性愈发重要,传统云计算架构渐显弊端,边缘计算应运而生。边缘计算将从终端采 集到的数据,在靠近数据源处的算力设备中直接进行分析,无需再传输至云端数据中心。 边缘计算有两种主要的存在形式:(1)数据汇集后,上传至距离数据源较近的边缘服务 器内进行推理计算。边缘服务器布局于云端与终端之间,所用模型为云端大模型的垂类 模型,能够承担十亿/百亿级别的推理任务。随着模型参数提升,对边缘服务器的算力要 求也逐步提升,普通 CPU 已经不能满足计算需求,边缘服务器需要 AI 推理芯片的加持。 (2)数据汇集后,在智能终端处直接进行数据处理与分析。智能终端包括机器人、自动 驾驶、智能手机、IoT、工控等,能够直接处理计算分析数据的终端设备。智能终端上搭 载的算力芯片多来自高通、苹果与英伟达,主流 IoT 场景普遍采用高通芯片。

不同部署场景下芯片性能各有侧重,看好部分边缘 AI 芯片厂商持续受益云端推理算 力向边缘端转移趋势。云端、边缘端、终端三种场景对于芯片的运算能力和功耗等特性 有着不同要求:(1)云端芯片:具有高算力、高能耗、高单价的特点,在数据中心兼顾 训练和推理任务,硬件形态少。(2)边缘端芯片:对功耗、性能等要求常介于终端与云 端之间,以推理任务为主。为了更好地适应终端的多元化应用场景,边缘端芯片对通用 性要求更高,硬件产品形态更加多样。(3)终端芯片:要求低功耗、高能效,以推理任 务为主,硬件产品形态众多。2023 年起,以 ChatGPT 为代表的 AIGC 带动 AI 芯片需求 量爆发式增长,算力及信息传输速率成为关键技术。我们认为,边缘端相较于云端具备 高能效、低延迟、低成本的特点,且能够缓解云端带宽压力,面对下游多样化场景,完 成推理任务的性价比更高;预计未来云端的推理乃至训练算力将逐渐向边缘端迁移,看 好具备细分场景方案解决能力的边缘端 AI 芯片厂商将充分受益。

市场空间:视觉 AI 场景加速落地,带动 AI 芯片爆发式成长

计算机视觉技术拥有广阔市场,多个细分赛道规模超百亿元

视觉 AI 技术将催生新产业生态及新商业模式,推动多行业数字化转型,从而带动数 千亿级别的蓝海市场。其中 AI 安防行业在国内明确的应用场景和强大的客户需求下快速 落地,并向智慧城市的多个场景赛道快速扩张。目前,视觉人工智能被广泛应用于各个行业,包括安防、零售、营销、医疗等。根据 IDC,由于人工智能市场缺乏有力应用驱 动,叠加全球经济环境影响,2022 年中国计算机视觉行业规模出现近十年来首次下滑, 规模为 123 亿元,同比-19%;IDC 预计在 ChatGPT 以及大模型的热潮下,行业规模有 望重回增长,预计 2023 年将达 140 亿元,同比+14%。应用端来看,安防行业中视觉人 工智能的应用场景包括门禁、智能摄像头等,依托人像识别技术,安防排查和管理效率 得到显著提升;根据前瞻研究院,2020 年中国计算机视觉应用层份额中,安防影像分析 占 67.9%。

细分市场:1)在智慧政务与城市管理领域,政府可以利用 AI 技术提高对交通和街 道的公共管理能力。以安防领域的治安管理业务转型为例,在重点场所布控的系统可以 进行实时监控,将公安机关的事后侦查转型为主动预警预防。2)在智慧社区管理领域, 管理者可以通过完善基层信息化平台支持智慧城市的顶层建设,视觉 AI 可以在物业管理、 社区安全、便民服务等多个细分场景应用,例如出入人员记录等。3)在智慧家居领域, 视觉人工智能有助于提升人与智慧家居产品的交互体验,实现人远程控制设备、设备对 人的生物特征识别和适配等,使家居生活更加安全、舒适。4)在智慧零售领域,线上线 下融合、消费闭环是零售业的未来发展方向。根据公司招股说明书转载沙利文预测,中 国智慧安防、交通场景市场规模在 2023 年分别高达 1000 亿元和 300 亿元。此外,根据 公司招股说明书中转载沙利文和艾瑞咨询预测,智慧园区和智慧泛商业场景合计市场规 模在 2023 年超 100 亿元。云天励飞以视觉 AI 为切入点,从智慧警务起家,逐步发展至 城市智慧化治理下的安防、交通、应急、卫监等场景,并向智慧社区、楼宇、机器人平 台等快速蔓延,成为视觉 AI 技术场景化落地的重要推动者之一。

“云-边-端”协同趋势下,边缘端 AI 芯片成长空间巨大

AI 芯片需求快速扩大,安防仍是国内最大下游市场。人工智能的各类应用场景,从 云端溢出到边缘端,或下沉到终端,都离不开 AI 芯片对于“训练”与“推理”任务的高 效支撑。当前人工智能应用越来越强调云、边、端的多方协同,对于芯片厂商而言,仅 仅提供某一类应用场景的人工智能芯片难以满足用户的需求。因此,各芯片厂商的多样 化布局与竞争将促使整个人工智能芯片行业在未来几年实现高速发展。根据亿欧智库, 中国 AI 芯片市场规模将从 2021 年的 426.8 亿元增长至 2025 年的 1780 亿元,期间 CAGR 达 43%。从行业结构分布来看,根据公司招股说明书转引赛迪数据,由于 AI 安防 行业在国内明确的应用场景和强大的客户需求下快速落地,并向智慧城市的多个场景赛 道快速扩张,使其成为 AI 芯片落地应用的最大市场,2021 年市场规模达 51.1 亿元,占 比 16.72%,其他场景还包括零售、医疗、教育、制造、金融、物流、交通等领域。

预计 2025 年国内边缘端 AI 芯片市场规模超 110 亿美元。随着 AI 快速发展,算力需 求激增,传统云计算架构已经不能满足计算需求。同时,随着数据隐私性和及时响应性 愈发重要,传统云计算架构渐显弊端,边缘计算应运而生。Gartner 预计 2026 年全球边 缘 AI 芯片市场规模达到 688 亿美元,2022-2026 年 CAGR 达 17%;ABI Research 预计 2023 年全球边缘 AI 芯片出货量达 13.12 亿颗(语音处理/机器视觉/传感器数据分析占比 分别为 15%/69%/11%)。国内方面,根据 Gartner,2022 年中国边缘 AI 芯片市场规模 约 49.9 亿美元,预计 2025 年将增长到 110.3 亿美元,期间 CAGR 达 30%。云天励飞的 芯片研发在国内起步较早,通过打造自主可控的 AI 处理器计算架构,从边缘端到云端 “端云协同”,有望迎来需求快速爆发机遇。

竞争格局:诸多玩家涌入 AI 赛道,AI 企业聚焦技术优势

视觉 AI:产业壁垒逐渐清晰,AI 企业发挥技术聚焦、场景深化优势

视觉人工智能产业的进一步成熟,训练数据、研发投入、客户资源等核心壁垒逐渐 清晰,广阔空间下竞争与合作并存是发展主旋律。除云天励飞外,业内的中国企业包括 商汤科技、旷视科技、依图科技、云从科技等都拥有相对成熟的 AI 赋能解决方案,而云天励飞“算法芯片化”的服务能力和丰富的项目落地经验带来了差异化的竞争优势。 视觉 AI 技术落地初期具有高度定制化特征,即存在大量相对独立的细分市场,不同 细分场景的需求千差万别,对供应商的要求差异化程度较高,因此很难出现垄断性的厂 商(尤其应用端)。以智慧安防行业为例,目前已出现三类典型玩家:AI 企业、传统安防 厂商以及 ICT 与行业综合服务商,其中:1)传统安防行业的巨头企业占据渠道优势,拥 有完备的产品生态体系;2)华为等 ICT 与综合服务商基于其硬件能力和场景业务能力优 势,占据较高的市场份额;3)以云天励飞为代表的 AI 企业通过聚焦在 AI 技术和产品方 面进行持续研发、通过实践项目落地持续深化对各应用场景的认知向底层芯片技术延伸, 打造技术壁垒,有机会争取到更大的市场份额。

当前智能安防领域格局较为分散,厂商各有优势。虽然传统安防行业的巨头企业仍 有渠道优势,但该细分市场的竞争格局尚未最终确立,各厂商分别有其深耕的业务领域, 分散在产业链的各个环节中。云天励飞所处的产业环节主要是上游软硬件商和中游解决 方案商,如视频监控代表性公司海康威视与云天励飞在 AI 领域是战略合作者:云天励飞 从海康威视采购摄像头硬件产品,同时在海康威视的产业生态集成中向其提供算法和芯 片产品。

而在智慧商业为代表的人居生活场景,场景内的主导方一般为软件开发商/系统集成 商/解决方案商,通过运用 AI 技术、云服务等赋能具体的场景,主要满足园区、商业、社 区客户改善内部运营管理,提升运营效率的目的。云天励飞所在的产业环节主要是上游 的 AI 技术企业以及中游的解决方案商,卡位关键环节,竞争优势明显。

边缘端 AI 芯片:国内外大厂垂直布局,场景优化能力是竞争关键

根据部署的位置不同,AI 芯片可以分为:云端 AI 芯片、边缘 AI 芯片、终端 AI 芯片, 因此根据国内外 AI 算力芯片玩家技术路线和产品布局可大致分为五类:1)专注于云端: 专注于数据中心级别的高性能计算,核心技术和产品通常是为大规模数据处理、存储和 深度学习训练而设计的。国外代表性公司包括 AMD 和 Google,相关云端 AI 芯片有 Instinct 系列、EPYC 系列、Cloud TPU 等;国产代表公司包括海光、寒武纪、昆仑芯等, 相关云端 AI 芯片包括海光深算一号,寒武纪思元 370 系列、昆仑芯 AI 加速卡 R200 等。 2)从云端渗透至边缘端:从云端算力芯片出发,针对特定边缘计算场景进行算力功耗优 化,沉淀至边缘端。国外代表性公司包括英伟达,边缘端 AI 芯片有 A40、A10、L40 等; 国产代表公司包括华为、天数、沐曦、壁仞等,边缘芯片包括华为的昇腾 310,天数的智 凯 100 等。3)专注于边缘端和终端:专注于为终端设备以及边缘侧存储、分析和计算提 供算力,代表公司为高通,边缘端 AI 芯片有 QCS8550A、QCM8550 等,终端 AI 芯片为 Snapdragon 系列。4)专注于云端和终端:专注于为云端训练和推理以及终端设备提供 算力,代表公司为特斯拉,云端 AI 芯片有 Dojo D1,终端 AI 芯片为 FSD。5)从终端切 换至边缘端:从终端算力芯片起家,通过封装技术开发大算力芯片,升维至边缘端,代 表厂商为云天励飞,终端芯片为 DeepEye 系列,边缘芯片为 DeepEdge 系列。

边缘端来看,国内外大厂如英伟达、高通、华为主要依靠其在云端和终端强大的生 态和产品能力向边缘端延伸。我们认为,随算力逐渐向边缘侧移动,AI 芯片应用将更专 注于特殊场景的优化,云天励飞此前已具备一定的终端算力芯片设计能力,目前从终端升维至边缘端,凭借其积累的丰富细分场景适配能力(如安防、商业等),有望在边缘端 芯片竞争中取得领先优势。

产业政策:国家政策持续支持人工智能行业发展

人工智能作为中国科技制高点,政策大力培养,云天励飞坚持紧随国家“核心技术、 自主可控”的技术路线,有望受益于政策东风。人工智能产业近年来的高速发展得益于 政府对大数据、人工智能、信息化、智能制造等产业的政策扶持和配套设施建设。国务 院出台《中国制造 2025》,聚焦新一代信息技术、高端装备等重点领域,人工智能一直 被作为重点战略性产业,受国家政策的重点扶持和关注。随着政策印发主体下沉和政策 逐渐落地,国内针对该产业的政策与法规不断完善,人工智能技术向更多领域进行辐射, 在各个领域逐渐完善产业链布局。另一方面,自 2018 年中央经济会议提出“新基建”这 一概念,国家持续密集部署新型基础设施建设,地方政府对相关重点项目的投入力度不 断增强。人工智能作为新基建的重要领域迎来了市场需求的持续爆发。政府作为新基建 项目的推动者与投资者,不断催生对人工智能技术的新需求。2021 年,“十四五”纲要提 出加强原创性科技攻关、提高高端芯片、操作系统、人工智能算法等关键领域研发突破 与迭代应用,并将增强信创供应链安全保障能力列为重点工作。党的二十大报告强调, “推动战略性新兴产业融合集群发展,构建新一代信息技术、人工智能、生物技术、新 能源、新材料、高端装备、绿色环保等一批新的增长引擎”。云天励飞作为国内影响力较 强的 AI 芯片及解决方案领先厂商,多次受邀参与人工智能国家级行业标准的制定。

公司优势:深耕 AI 蓝海,构建算法芯片化壁垒,打 造软硬一体化平台型公司

公司以底层 AI 算法和芯片技术为核心,提供算法软件、芯片等自研核心产品,并根 据客户需求提供一体化的解决方案。根据下游应用场景的不同,公司聚焦的服务场景分 为数字城市运营管理和人居生活智慧化升级两大业务场景,并以数字城市场景为主逐步 向人居生活场景拓展;同时公司还积极自研 IP 和 AI 芯片,并可提供 IP 授权服务。 公司执行云端和终端产品及服务高效协同的技术路线,核心技术平台包括算法技术 平台、智能芯片技术平台。公司的算法技术覆盖计算机视觉等领域,融合对场景的理解 和工程化经验,以云端软件等形式提供至下游客户;公司的智能芯片技术基于对算法技 术特点及行业场景计算需求的深刻理解,通过自定义指令集、处理器架构及工具链的协 同设计,优化算法与芯片技术的适配性,在公司的终端和边缘端产品中应用并对外独立 进行销售。最后,公司借助云端系统和终端及边缘端产品,为最终用户提供不同场景下 的 AI 解决方案。

我们认为,公司坚持自主可控的技术一体化,有望成为业内少有的集 AI 芯片、算法 和解决方案能力于一体的平台型公司,加速市场份额提升,在 AI 主导的下一轮科技创新 周期中打开成长空间。

核心优势 1:深挖场景,“场景扩张+城市复刻”两大核心策略

1)场景扩张策略:公司是业内率先实现动态人像系统大规模落地的公司之一,重视 AI 技术的场景化落地。公司从智慧警务起家,逐步发展至城市智慧化治理下的安防、交 通、应急、卫监等场景,此外,公司从数字城市切入人居生活,以智慧园区、智慧泛商 业为主要抓手,并向智慧社区、楼宇、机器人平台等快速蔓延。公司刚起步时,主要探 索方向为 AI 技术在数字城市运营管理领域的场景化落地。在发展过程中,公司积极推动 AI 解决方案的场景迁移,在数字城市大场景下从智慧安防拓展至智慧交通、应急响应等 城市治理细分场景,并逐步从数字城市延展至人居生活场景,在智慧社区、智慧园区以 及智慧泛商业等领域已有案例落地。

AI 产业在发展过程中遇到的最大痛点问题在场景化落地。针对这一问题,云天励飞 自成立以来便积极基于场景需求进行技术研发,形成公司重要的技术优势。具体来说, 公司是业内较早实现动态人像系统在国内一线城市大规模落地的人工智能企业之一,在 项目落地过程中积累了城市大规模业务场景与人工智能技术相融合的深刻理解,具备大 规模业务场景的解决方案落地能力。在面向业务场景的实践过程中,公司实现了多项核 心技术及产品的产业化。目前,公司已经在智慧安防、城市治理、应急响应、智慧社区、 智慧园区、智慧泛商业等领域陆续实现场景业务落地。公司所积累的行业经验及场景理 解,能够为公司未来技术研发及产品开发提供支持,使公司提供的产品及解决方案能更 好满足下游客户的核心需求。此外,大规模场景解决方案落地能力能帮助公司在未来的 城市级解决方案构建中,实现更高效的方案落地。

2)城市复制策略:公司业务从深圳起家,顺利拓展灯塔城市青岛、成都,并依托强 大的技术实力和方案效果向周边城市辐射扩张,包括以深圳为灯塔辐射覆盖东莞、佛山 等地;以成都为灯塔拓展进入重庆、贵州、云南等地;以青岛为灯塔辐射至烟台,济宁, 菏泽等地。公司积累大量行业经验及场景理解,有助于优化解决方案以便更好满足下游 客户的核心需求,并形成城市集群效应。 公司成立之初主要聚焦于深圳地区市场,2015 年在深圳市龙岗区率先实现基于“深 目”系统的城市级人工智能解决方案上线。在通过样板工程建立一定的知名度和口碑后, 公司逐渐凭借技术与落地方案上的优势等逐步将业务拓展至华南、华东及全国其他区域, 在成都、青岛、杭州等多地实现大规模项目落地,以成都为例,公司 2018 年时负责深度 参与四川成都双流天府智城项目(二期)。具体来看,2020-2022 年华南地区收入增速分 别为 40.5%/65.4%/-3.4%,非华南地区收入增速分别为 164.3%/1.8%/-3.6%。近年来公 司华南以外地区的收入占比呈上升趋势,从 2018 年的 13.4%增长到 2022 年的 39.4%; 其中,华东地区的业务占比明显提升,到 2022 年已达到 20.1%,成为华南区以外的第二 大市场。

核心优势 2:算法芯片化为壁垒,AI 产品闭环并赋能下游厂商

公司算法技术达到业内领先水平,通过沉淀场景优化算法,以大模型赋能,高铸 “算法芯片化”护城河,自研 AI 芯片软硬一体化解决方案,赋能细分业务场景,与海康 威视、阿里巴巴平头哥、富瀚微等业务深度合作,以芯片和 IP 形式赋能下游硬件厂商。

1)发展“算法芯片化”护城河,积极布局大模型。公司基于对行业场景计算需求的 深刻理解,通过自定义指令集、处理器架构及工具链的协同设计,自主研发芯片并已实 现流片、量产及市场化销售。公司在自主研发芯片的同时,打造 AI 解决方案软硬一体化, 进一步赋能所有业务场景。公司创始团队同时拥有人工智能算法以及丰富的处理器指令 集和架构全流程设计经验的芯片研发能力,并将两者有机结合,搭建了算法分析-指令集 定义-芯片架构设计-工具链设计的 AI 芯片研发设计流程,基于行业场景计算需求的深刻 理解定义人工智能算法,通过对算法技术特点的理解定义芯片指令集、处理器架构并进 行工具链的协同设计(如将算法中的高频应用命令抽象为指令集),从而将算法硬件化、 产品化、芯片化,提升芯片技术平台在产品和解决方案中的高效性及场景适应性,以芯 片形态构筑算法的技术壁垒。

2022 年公司入局大模型,2024 年有望实现应用端落地。公司依托多项自研技术开 发了云天天书大模型,并任命肖嵘博士担任大模型筹备组组长(肖嵘博士曾在微软亚洲 研究院从事统计学习及机器视觉方向的研究,是微软人脸识别引擎的奠基人之一;曾于 美国微软 Bing 多媒体搜索部门任职)。目前该模型已完成 2 次版本更新,具备中文高压 缩率和更强的小样本学习能力,在通用问答、多轮对话、语言理解、数学推理、文本生 成、代码生成、角色扮演等方面均达到 ChatGPT 同等水平(在 C-Eval 上,云天天书大 模型曾获得第一);公司表示,下一版云天天书大模型将对标 GPT 4.0,多模态能力将 进一步提升。应用角度,公司大模型可广泛应用于政务服务、城市治理、警务、企业数 字化转型等诸多领域。公司与深圳市龙岗区政务服务数据管理局共同探索了大模型在政 务咨询服务系统的应用,并入选信通院《2023 通用人工智能创新应用案例集》。下一步, 云天天书大模型将结合公司“1+1+N”的战略愿景,陆续发布政务、城市管理、交通、 园区、商业等行业大模型,赋能公司原有产品,加速产品迭代。 轻量化小模型已完成与 DeepEdge10 芯片的适配。公司基于云天天书千亿级大模型 的轻量化小模型(7B)已实现在消费级显卡上的部署(一台英伟达 RTX 3090 即可部 署)。同时,该模型也完成了与 DeepEdge10 芯片的适配,为未来云天天书大模型软硬 件方案在端边硬件上的爆发做好技术储备。

2)公司自研芯片应用于终端及边缘端设备,目前已成功进入安防龙头供应链。在 AI 芯片领域,云天励飞是业内少数基于对人工智能算法技术特点的深度分解及对行业场景 计算需求的深刻理解,通过自定义指令集、处理器架构及工具链的协同设计,自主研发 芯片并已实现流片、量产及市场化销售的公司之一。2017 年,公司第一代具有自主知识 产权的神经网络处理器采用 FPGA 实现,依托“深目”系统,已经在云天励飞 DeepEye200 PCIe FPGA 加速卡上以及 IFBOX 边缘计算盒子上应用,主要用于目标识 别 特 征 提 取 。 2018 年 , 公 司 第 二 代 具 有 自 主 知 识 产 权 的 神 经 网 络 处 理 器 芯 片 DeepEye1000 采用 22nm 工艺投片,该芯片主要面向嵌入式前端和边缘计算应用,具备 高性能、低功耗、低成本的优点。2019 年,DeepEye1000 实现独立商用,目前已与海 康威视、阿里巴巴平头哥等建立了业务合作关系。2020 年起,公司开始对外签订 IP 授 权业务,主要客户包括富瀚微等,加速了 AI 芯片及 IP 服务业务的发展。

DeepEdge10 正式发布,采用 14nm 制程工艺和 Chiplet 封装技术,面对大模型特 殊优化,目前正积极推进客户端适配。DeepEdge10 是公司首颗自研的 SoC 芯片,采用 14nm 制程工艺,采用基于 D2D(Die to Die)互联的 Chiplet 封装技术,可提供 12TOPS(INT8)和 2TFLOPS(FP16)算力,可广泛应用于数字城市的安防、泛安防 领域的各类视频物联边缘计算场景(如 AIoT 边缘视频、移动机器人)等场景。针对大模 型推理需求,公司对 DeepEdge10 进行了优化,其内部集成的 NNP400T NPU 是一款支 持大模型新型计算范式的神经网络处理器,不仅支持 FP16/INT16/INT8 等数据格式,还 支持多线程、支持 Transformer。针对各类应用场景,公司已开发出 Edge10C、Edge10 标准版和 Edge10Max 三款芯片,其中 Edge10C 采用 8 核 CPU、算力 8TOPS,Edge10 标准版采用 10 核 CPU、算力 12TOPS,两者均应用于智慧安防、智慧城市和智能制造 等边缘计算推理领域;Edge10Max 拥有 40 核 CPU,单芯片可提供 48TOPS 算力,可以 支持在端侧运行 70 亿参数的 LLMs 大模型,生成速度可达 27 Token/s,并且可兼容运行 130 亿参数的 LLMs 大模型。此外,DeepEdge10 还支持 C2C(Chip to Chip)Mesh Torus 互联扩展,多颗 DeepEdge10 芯片可直接通过 C2C Mesh Torus 互联扩展来进一步 提升整体的性能,可以实现高达 512GB 的统一内存、高达 192GB 的统一内存带宽,可 以满足千亿级大模型的部署需求。

公司提前布局 AI 推理侧,推出三款推理卡。公司依托自研芯片 DeepEdge10 创新的D2Dchiplet 架构打造了三款推理加速卡,包括 IPU X2000、IPU X5000 和 IPU X6000, 算力分别为 24TOPS、64TOPS 和 256TOPS。目前 IPU X5000 已适配并可承载 SAM CV 大模型、Llama2 等百亿级大模型运算,未来有望落地于智能计算中心、智慧停车、 服务机器人等场景。 公司下一代芯片已有规划,公司预计性能提升 20 倍。公司下一代边缘 AI 推理芯片 DeepEdge20 将会采用第二代的 Chiplet 架构,兼容国际标准/国产 UCIE 标准,内核采用 第三代的异构多核架构,并集成自研的第四代的神经网络处理器,公司预计其性能将会 比 DeepEdge10 提升 20 倍。

3)以 IP 形式赋能下游更多硬件厂商。公司现阶段研发的可重定义 AI 芯片主要面向 嵌入式前端和边缘计算应用,采用领域专用架构(Domain-Specific Architectures,DSA) 的设计,基于自主知识产权的神经网络处理器核心,可灵活支撑多类主流深度学习框架 和多种网络模型,提高算法实现的效率,降低后台处理成本,具备高性能、低功耗、低 成本的优点。公司自研芯片技术平台可高效运行自有及第三方人工智能算法,对硬件设计进行优化,从而为市场和行业提供更优方案,满足日益增加的深度学习计算需求,助 力人工智能芯片加快实现国产替代。目前,公司的深度学习神经网络处理器已经迭代至 第四代(NNP400T),搭载于 DeepEdge10 芯片,是第一款支持训练、推理的人工智能 神经网络处理器,应用于边缘端、云端数据中心,该神经网络处理器可适配不同客户、 不同应用场景的需求。该神经网络处理器定义一套支持训练与推理为一体的指令集,在 可编程性、可扩展性和高能效性上做到较好的均衡。客户方面,公司自研芯片已与海康 威视、阿里巴巴平头哥、富瀚微电子等建立了业务合作关系。

核心优势 3:绑定行业龙头客户,借力信创东风,构筑业绩增长潜力

1)与万科、中电光谷、特建发等行业龙头形成紧密合作,在智慧商业场景中施展拳 脚。公司与万科联手,针对万科旗下超过 150 家商业综合体,就商场、商户、个人进行 精准营销及新商业模式打造,推出了场景管理和商业分析系统“商簿”,利用 AI 为传统 商业赋能,成功设立了万科万商零售店、万科 V-24 生鲜店等试点项目。公司与中电光谷 签署战略合协议,依托其在产业园区方面的技术优势,结合公司在视觉智能、AI 芯片、 AI 操作系统等方面的自主研发优势,共同推动在智慧园区等领域进行合作研发探索,逐 渐实现商业化应用拓展。公司还与深圳市特区建设发展集团深度合作,特区建发承载深 圳市基础设施投资建设运营、科技园区开发建设运营、功能性投资三大平台作用,并统 筹深圳海洋新城开发和海洋经济发展任务。云天励飞与特区建发在公司数字城市业务中 包括多功能杆、智慧园区、智慧管廊等业务板块,进行多场景落地。

2)合作行业龙头华为,基于昇腾共同推进 AI 产业创新发展。2015 年起,云天励飞 和华为便展开了合作,目前公司已基于昇腾、鲲鹏、昇思 MindSpore、HCS(混合云) 等基础平台,携手华为在智慧城市建设领域落地了一系列产品和解决方案,如动态/静态 人像系统“深目”、多维大数据分析系统“深海”、视频结构化系统“深萃”、AI 算法服务 平台“深智”等。其中,云天励飞的深智-AI 算法服务平台解决方案与华为 Atlas 300IPro 推理卡完成兼容性测试,该方案可让视频分析性能较原有实现翻倍提升,为智慧城市 升级助力,优势包括:1)采用云边端分布式调度架构,云端做训练+推理计算,边缘端 和终端做推理计算,全栈一体化;2)支持开放数据盘活数据要素价值,构建具备语音、 CV、NLP 的等能力中台,赋能城市多样化和智慧化发展;3)以平台带动产业生态,拉 通供需关系,实现数据和业务的价值闭环,释放产业动能。 2022 年,公司与华为签署协议,正式加入昇腾万里伙伴计划。根据协议,公司将成 为昇腾 AI 生态的重要参与者和共建者,未来将基于昇腾人工智能计算中心和人工智能融 合赋能平台,充分发挥公司在算法服务、应用业务等领域的优势,联合打造有竞争力的 人工智能解决方案。目前,双方持续加深在大模型领域的合作,包括基于昇腾系统的多 模态大模型开发与部署,以及进一步开发大模型在多个行业和智能终端上的应用。

3)依托信创巨头中国电子,全面布局“大信创”软硬件生态。随着信创产业进入全 面推广阶段,公司人工智能软硬件一体化平台将有望充分受益于行业发展机遇,实现 AI 对信创产业链的全方位赋能。中国电子信息产业集团有限公司是中国最大的国有 IT 企业, 为政府机构、公共服务、央企国企专属打造的新一代数字经济基础设施“中国电子云”, 采用了被誉为"中国架构"的“PK”体系(飞腾 CPU+麒麟操作系统)。公司作为中国电子 主导的“自主安全计算产业生态链”的重要支撑单位,早在 2018 便与中国长城(中国电 子旗下子公司)签署战略合作协议,共同打造自主可控人工智能平台的“灯塔工程”和 应用推广,规划并完成“智慧城市管理系统”、“智能安防”的顶层设计及系列解决方案。2019 年 7 月,公司推出基于飞腾的全球首套动态人像识别系统“深目”,适配“PK”体 系,合力构建“PK”体系产业生态圈。2020 年初,公司还入选天津飞腾(中国电子旗下 子公司)数字城市领域解决方案提供商,深度参与飞腾智慧警务人像识别系统联合解决 方案的案例制定。2021 年,公司还与中国电子联合展示围绕自主研发 AI 芯片打造的信创 成果。包括基于云天励飞 AI 芯片打造的中国长城台式机立体指静脉生物识别模组、智能 工控盒子等硬件产品。

公司也是中国电子云的首批重要合作伙伴,双方在 AI 边缘计算,打造自主可控人工 智能平台,数据要素生态等行业信创领域展开战略合作。公司基于自身在算法、大数据 和云边端芯片方面的技术优势,以及中国电子云的“PK”信创计算框架,打造包括 AI 计 算与算法服务平台、深目图搜服务平台、实时视频解析服务平台、深智 AI 算法服务平台 等在内的 AI 计算与算法服务智能应用体系,可助力客户打造安全、高效的 AI 城市大脑。

编辑:火腿肠
  • 相关标签
  • 相关专题
  • 热门文档
  • 热门文章
  • 本年热门
  • 本季热门
  • 本月热门
  • 本年热门
  • 本季热门
  • 本月热门
分享至