液冷技术发展背景及优势在哪?

液冷技术发展背景及优势在哪?

最佳答案 匿名用户编辑于2024/04/22 14:28

 AIGC 时代,液冷技术发展迎来风口。

1、 人工智能发展与算力提升对散热有更高需求

人工智能迎来新变革,带来大量算力和机柜需求。2022 年底生成式 AI 大模型 ChatGPT 横空出世,掀起新的 AI 浪潮,海内外互联网巨头、科技企业及研究机构等 陆续投入到大模型研发当中,拉开“百模大战”的序幕,据浪潮信息发布的《2023-2024 年中国人工智能计算力发展评估报告》,截至 2023 年 10 月,中国累计发布两百余个 大模型,其中以科研院所和互联网企业为开发主力军。随着 AI 语言大模型的不断迭 代,模型数据量和参数规模呈现指数级增长,算力需求不断提升。以 GPT 模型为例, GPT-3 模型参数约为 1746 亿个,训练一次需要的总算力约为 3640 PF-days。据中国 信通院数据,2023 年推出的 GPT-4 参数数量可能扩大到 1.8 万亿个,是 GPT-3 的 10 倍,训练算力需求上升到 GPT-3 的 68 倍,在 2.5 万个 A100 上需要训练 90-100 天。无论是 AI 模型的训练还是推理均离不开算力资源的支持,AI 的高速发 展带来大量算力和数据中心机柜需求,拉动算力基础设施建设。 全球算力规模维持高增长。经中国信息通信研究院测算,在 FP32 精度下,2022 年全球计算设备算力总规模达到 906 EFlops 并持续维持较高增速,增速达到 47%, 其中基础算力规模为 440 EFlops,智能算力规模已超过基础算力规模,达到 451 EFlops,超算算力规模为 16 EFlops。中国信通院预计 2024-2028 年全球算力规模将 以超过 50%的速度增长,到 2025 年全球计算设备算力总规模将超过 3 ZFlops,至 2030 年将超过 20 ZFlops。

AI 形成强大推动力,液冷数据中心市场规模保持高速增长。AIGC 的高速发展 离不开高算力的支撑,随着计算芯片功耗持续上升带动服务器及整机柜功耗上升, 液冷散热有望成为首选。据科智咨询预计,2023 年中国液冷数据中心市场将同比增 长 53.2%,市场规模将增长至 154 亿元,预计 2022-2027 年,中国液冷数据中心市场 将以 59%的复合增长率持续蓬勃发展。预计到 2027 年,随着 AI 系列应用的规模化 落地以及液冷生态的日趋成熟,市场规模将突破千亿大关。

(1)在需求方面,随着 AI 大模型、云计算、5.5G 等新兴技术的不断发展,互 联网、政府和电信行业仍为液冷数据中心的需求主力军,金融、下游制造、医疗、 能源等行业也有望不断加大液冷相关投入。 (2)生态方面,液冷产业早期上下游协同性不高,无统一相关标准,难以形成 合力。液冷服务器是液冷生态链的核心价值环节,近期众多服务器厂商先后推出液 冷服务器,其他设备厂商相继推出液冷交换机、液冷光模块、液冷机柜等配套设备, 积极布局液冷产业,液冷生态链设备商及服务供应商紧密配合,共同推动液冷生态 进一步完善。三大电信运营商助推液冷解耦式交付,引领液冷接口标准化、规范化 发展,构筑开放生态,液冷渗透率有望进一步提升。 (3)成熟度方面,冷板液冷发展较早,相比浸没式和喷淋式、生态更完善、改 造成本更低、改造周期较短,冷板式液冷可作为传统风冷的平滑过渡,未来有望进 一步向浸没式液冷转变。随着众多成熟液冷项目持续落地,液冷发展走向良性循环。 (4)政策方面,IDC 耗电量与日俱增,数据中心绿色化发展成为共识,国家对 PUE 要求不断趋严,液冷相较风冷具有明显节能优势,减少冷却设备能耗,能有效 降低 PUE 至 1.25 以下。 (5)成本方面,虽然液冷总体 Capex 仍高于风冷,但从单位角度来看,单千 瓦散热 Capex 已在快速下降,成本拐点或将出现。据赛迪顾问发布的《2023 中国液 冷应用市场研究报告》,2022 年液冷数据中心 1kW 的散热成本为近 6500 元,相比 2022 年已经下降了 54.2%,预计 2023 年 1kW 的散热成本有望降至 5000 元左右,与 传统风冷的建设成本已基本持平。随着单位散热成本持续下降,液冷 TCO 优势逐渐 显著,或将加速老旧风冷数据中心改建为液冷数据中心,液冷渗透率持续增长。

1.1、 高算力需求下 IDC 机柜数量持续增长

算力需求支撑我国数据中心机架规模持续增长。服务器设备是提供算力资源的 主要载体,IDC(数据中心)则是给集中放置的 ICT 设备(服务器设备、网络设备、 存储设备)提供运行环境的场所(数据中心=IT+电力+制冷)。AIGC 的兴起引发数据 量和计算量快速增长,在一线城市数据中心资源日趋紧张的情况下, AI 的高算力需 求或将持续带动 IDC 的建设和机架数量的增长。据工信部、信通院数据,截至 2023 年 6 月底,我国在用数据中心机架规模达到 760 万架,同比增速达到 28.8%,2022 年底总机架规模达到 650 万架,2018-2022 年复合增速超过 30%。

1.2、 高算力需求下单机柜功耗持续增长

计算芯片功耗持续攀升,以满足高算力需求。后摩尔定律时代下,芯片制程技 术发展趋缓,计算芯片多以提高核心数量等方式提高算力,导致计算芯片如 CPU 和 GPU 的功耗不断攀升。AI 服务器作为人工智能发展的重要算力底座,CPU 和 GPU (或其他 ASIC 计算芯片)的整体功耗在 AI 服务器总功耗中占比达到 80%左右(。1) 在 CPU 方面,从 2017 年 Intel 第一代铂金至强处理器的发布到 2023 年 12 月第五代 处理器问世,核心数量从早期的 24 颗提升至最多 64 颗,同时 TDP(热设计功耗) 从 150W 提升至最高 385W,功耗相比第一代提升超 2 倍;(2)在 GPU 方面,用于 人工智能计算的GPU TDP从早期V100 Nvlink的300W提升至H100 SXM的700W, 未来功耗或将持续增长。

AI 服务器功率已达风冷散热瓶颈。(1)芯片单点冷却方面:芯片功率密度的不 断提升直接影响着芯片的散热和可靠性,逼近风冷散热上限 800W 左右,而液冷能 有效满足芯片的散热需求。(2)机柜整体冷却方面:芯片功率的增加也导致整机柜 功率的增长,采用传统风冷的数据中心通常可以解决 12kW 以内的机柜制冷。随着 服务器单位功耗增大,同样尺寸的普通服务器机柜可容纳的服务器功率往往超过 15kW,相对于现有的风冷数据中心,已逼近空气对流散热能力天花板。通用服务器 功率平均在 0.5KW 左右,对于 6KW、8KW 的高功率机柜可以放置 10 台服务器以上。 AI 服务器功率可达 6KW 以上,以 NVIDIA DGX A100 服务器为例,额定功率约为 4KW,单机最大功率约为 6.5KW。一个标准 42U 高度的机柜中,假设放置 5 个 5U 高度的 AI 服务器,则需要超过 20KW 的单机柜功率,此时已超过风冷的散热极限, 液冷或将成为最佳选择。

数据中心机柜功率持续上升,在 AI 驱动下功率增速或将加快。根据 Uptime Institute 发布的《2020 全球数据中心调查报告》 统计,2011 年数据中心平均单机架 功率仅为 2.4 kW/机架,2017 年上升到 5.6 kW/ 机架,至 2020 年已达 8.4 kW/机架。 AI 高速发展带来了高算力需求,芯片功耗随之不断增长,导致数据中心单机架的功 率升高,从 4.4 kW/机架逐渐升高至 8 kW/机架、25 kW/机架、30 kW/机架甚至更高。 单机柜功率持续上升,液冷散热更具优势。在传统风冷机房微模块中,随着通 用服务器或 GPU 服务器上架率的提升,单机柜功率密度不断增长,迫使列间空调数 量大增,导致机柜数量减少,并出现风冷制冷技术成本高、难度大的问题,性价比 较低。在单机柜功率上升趋势下,对于用于 AI 训练与推理的智算机柜,在不减少AI 服务器上架量的情况下,单机柜功率或已超过风冷的散热极限,液冷可支持高密 度散热,散热效率和成本等优势愈发显著。

2、 与传统风冷技术相比,液冷技术优势显著

液冷散热相比传统风冷散热效果更佳。传统风冷技术是成熟且应用最广泛的数 据中心散热技术,它以空气为介质进行散热,通过送入低温空气、经与电子器件进 行热交换后,将热量带走。相较于液冷散热,风冷技术存在密度低、散热能力差、 易形成局部热点、机械能耗大等缺陷。液冷方式则以液体为介质进行散热,由于液 体的体积比热容是空气的 1000-3500 倍,意味着冷却液可以吸收大量热量而不会显 著升高温度;液体的对流换热系数是空气的 10-40 倍,同等空间情况液冷的冷却能力 远高于空气;只需提供中温液体即可满足元器件散热需求,比空气冷却方式散热效 率更高,也更加节能。

与风冷技术相比,液冷技术主要具有以下优势: (1)低能耗: 液冷散热能显著降低制冷设备能耗。传统风冷数据中心建成后, 电费占运维总成本的 60%-70%。根据赛迪顾问统计数据显示,2019 年中国数据中心 主要设备能耗占比中,制冷耗电占比(约 43%)位居第二,仅次于 IT 设备自身能耗 占比(约 45%)。液冷技术相较传统风冷散热,取代大部分空调系统(压缩机)、风 扇等高能耗设备,可实现节能 20%-30%以上。以某液冷数据中心为例,液冷设备取 代空调设备,耗能占比仅为 9%,数据中心 PUE 降低至 1.2 以下。此外,除了制冷系 统自身能耗降低外,采用液冷散热技术有利于进一步降低芯片温度,芯片温度降低 带来更高的可靠性和更低的能耗,整机能耗预计可降低约 5%。 传热路径短:低温液体由 CDU(冷量分配单元)直接供给通讯设备; 换热效率高:液冷系统一次测和二次测之间通过换热器实现液液换热,一次测 和外部环境之间结合风液换热、液液换热、蒸发换热三种形式,具备更优的换热效 果; 制冷能效高:液冷技术可实现 40~55℃高温供液,无需压缩机冷水机组,采用 室外冷却塔,可实现全年自然冷却。

(2)高散热:液冷解决高功率芯片的散热问题,延长设备寿命,减少折旧成本。 风冷容易产生局部热点,芯片长时间高温运行,影响芯片性能和使用寿命。研究发 现,温度每升高 1 摄氏度电子器件的寿命缩短 5%,液冷可维持芯片低于临界温度 10℃ ~20℃稳定运行,释放芯片最大计算潜能,延长芯片使用寿命。液冷系统常用介质有 去离子水、醇基溶液、氟碳类工质、矿物油或硅油等多种类型;这些液体的载热能 力、导热能力和强化对流换热系数均远大于空气;因此,针对单芯片,液冷相比于 风冷具有更高的散热能力。 (3)低噪声:液冷散热技术利用泵驱动冷却介质在系统内循环流动并进行散热, 解决全部发热器件或关键高功率器件散热问题;能够降低冷却风机转速或者采用无 风机设计,从而具备较好的降噪效果,提升机房运维环境舒适性,解决噪声污染问 题。 (4)低 TCO:液冷初期 CAPEX 更高,但 OPEX 更低。液冷技术具有更佳的 节能效果,液冷数据中心 PUE 可降至 1.2 以下,每年可节省大量电费,能够大幅降 低数据中心运行成本。相比于传统风冷,液冷散热技术的应用虽然会增加一定的初期投资,但可通过降低运行成本回收投资。以规模为 10MW 的数据中心为例,比较 液冷方案(PUE1.15)和冷冻水方案(PUE1.35),预计 2.2 年左右可回收增加的基础 设施初投资。同时,由于液冷服务器对空间的要求降低,可实现高密度设计,提高 了数据中心内设备部署密度,降低数据中心 TCO。

(5)空间利用率高:使用液冷系统的数据中心相对于传统的风冷数据中心更加 简单,去掉了庞大的末端空调系统,提高了建筑利用率,在小空间里也能布置足够 规模的服务器,单机柜功率密度得到较大提升, 节省主机房空间 50%-80%;应用场 景更易布置,受地理位置影响较小,全国布局皆可实现低 PUE 运行。 (6)适应性强:冷板式液冷兼容性强,易配套开发,不需改变原有形态和设备 材料;空间利用率高,可维护性强,布置条件与普通机房相近,可直接与原制冷系 统(常规冷冻水系统)兼容适应。 (7)余热回收易实现:相比传统水温,使用液冷方案的水温更高,温差大,热 源品味和余热系统效率高。

参考报告REPORT

通信行业深度报告:AI热浪起,液冷迎来黄金时代.pdf

通信行业深度报告:AI热浪起,液冷迎来黄金时代。AI带来高算力需求,叠加双碳时代严控PUE,在数据中心高密度化时代,液冷优势日益凸显。(1)主流计算芯片功耗不断增加。Intel多款CPUTDP已达350W,NVIDIA的H100SXMTDP甚至达到700W,B100TDP或将达到1000W左右,国产计算芯片TDP也在350W左右,逼近风冷单点散热极限;(2)出于组网方式和应用的考虑,AI集群功率密度较高。AI集群对算力密度有一定要求,训练单元过于分散不利于作业开展,减少组网距离亦可减少通信耗材开支。(3)单机柜功率不断增长,逼近风冷散热极限。NVIDIADGXA100服务器单机最大功率约在6....

我来回答

快速提问

海量报告支持,行业专家解读

海量文库支持,行业专家解答

  • 相关问题
  • 最新问题
用户解答榜
分享至