开云-TrendForce集邦咨询: NVIDIA Blackwell高耗能推动散热需求,预估2024年底液冷方案渗透率将达10%

[导读]Jul. 30, 2024 ---- 跟着高速运算的需求成长,更有用的AI Server(AI办事器)散热方案也遭到正视。按照TrendForce集邦咨询最新AI Server陈述,因为NVIDIA(英伟达)将在2024年末前推出新一代平台Blackwell,届时年夜型CSP(云端办事业者)也会最先建置Blackwell新平台的AI Server数据中间,预估有机遇带动液冷散热方案渗入率达10%。 Jul. 30, 2024 ---- 跟着高速运算的需求成长,更有用的AI Server(AI办事器)散热方案也遭到正视。按照TrendForce集邦咨询最新AI Server陈述,因为NVIDIA(英伟达)将在2024年末前推出新一代平台Blackwell,届时年夜型CSP(云端办事业者)也会最先建置Blackwell新平台的AI Server数据中间,预估有机遇带动液冷散热方案渗入率达10%。 气冷、液冷并行开云体育app方案知足更高散热需求 按照TrendForce集邦咨询查询拜访,NVIDIA Blackwell平台将在2025年正式放量,代替既有的Hopper平台、成为NVIDIA高端GPU(图形处置器)主力方案,占整体高端产物近83%。在B200和GB200等寻求高效能的AI Server机种,单颗GPU功耗可达1,000W以上。HGX机种每台装载8颗GPU,NVL机种每柜达36颗或72颗GPU,可不雅的能耗将增进AI Server散热液冷供给链的成长。 TrendForce集邦咨询暗示,办事器芯片的热设计功耗(Thermal Design Power, TDP)延续提高,如B200芯片的TDP将达1,000W,传统气冷散热方案不足以知足需求;GB200 NVL36和NVL72整机柜的TDP乃至将高达70kW和近140kW,需要搭配液冷方案方以有用解决散热问题。 据TrendForce集邦咨询领会, GB200 NVL36架构早期将以气冷、液冷并行方案为主;NVL72因有更高散热能力需求,原则上优先利用液冷方案。 不雅察现行GB200机柜系统液冷散热供给链,首要可分水冷板(Cold Plate)、冷却分派系统(Coolant Distribution Unit, CDU)、不合管(Manifold)、快接头(Quick Disconnect, QD)和电扇背门(Rear Door Heat Exchanger, RDHx)等五年夜零部件。 TrendForce集邦咨询指出,CDU为此中的要害系统,负责调理冷却剂的流量至全部系统,确保机柜温度节制在预设的TDP规模内。TrendForce集邦咨询不雅察,今朝针对NVIDIA AI方案,以Vertiv(维谛手艺)为主力CDU供给商,奇鋐、双鸿、台达电和CoolIT等延续测实验证中。 2025年GB200出货量估可达6万柜,促Blackwell平台成市场主流、将占NVIDIA高端GPU逾8成 按照TrendForce集邦咨询不雅察,2025年NVIDIA将以HGX、GB200 Rack和MGX等多元组态AI Server,分攻CSPs和企业型客户,预估这三个机种的出货比例约为5:4:1。HGX平台可较无缝对接现有Hopper平台设计,使CSPs或年夜型企业客户能敏捷采取。GB200整柜AI Sever方案将以超年夜型CSPs为主打,TrendForce集邦咨询预期NVIDIA将在2024年末先导入NVL36组态,以便快速进入市场。NVL72因其AI Server整体设计和散热系统较为复杂,估计将在2025年推出。 TrendForce集邦咨询暗示,在NVIDIA鼎力扩大CSPs客群的环境下,预估2025年GB200折算NVL36合计出货数目可望达6万柜,而GB200的Blackwell GPU用量可望达210-220万颗。 但是,终端客户采取GB200 Rack的进程仍有几项变量。TrendForce集邦咨询指出,NVL72需较完美的液冷散热方案,难度较高。而液冷机柜设计较合适新建数据中间,但会牵扯地盘建物计划等复杂法式。另外,CSPs可能不但愿被单一供给商绑住规格,可能会选择HGX或MGX等搭载x86 CPU架构的机种,或扩年夜自研ASIC(专用集成电路)AI Server根本举措措施,以应对更低本钱或特定AI利用场景。

欲知详情,请下载word文档 下载文档

电机工程署(电机署)署长潘国英8月13日(秘鲁时候)在秘鲁利马出席第六届亚太区经济合作组织(亚太经合组织)能源聪明社区倡议最好实践嘉奖打算的颁奖仪式。

要害字: AI

8月8日,2024中国品牌节在广州揭幕,同期备受业界存眷的“2024中国品牌500强”榜单正式发布,国科微以140.4亿的品牌价值荣登榜单,位列第382位,持续3年跻身“中国品牌500强”。

要害字: AI 芯片

上一篇:开云-全国一等奖!九章量子教学实验仪器获权威认可 下一篇:开云-Nexperia为其功率器件产品组合添加了具有出色限流精度的新型大电流eFuse