AI服务器作为算力基础设备，其需求有望受益于AI时代下对于算力不断提升的需求而快速增长。
在整体服务器出货量中占比不足10%的AI服务器由于受AI大模型发展浪潮带来的算力需求增长及核心GPU部件缺货等影响，需求高企带动出货量逆势增长。
根据TrendForce统计，截至，预计搭载GPGPU的AI服务器年出货量占整体服务器比重近1%，而预估在ChatBot相关应用加持下，可望再度刺激AI相关领域出货，预计AI服务器出货量同比增长将达到15.4%。#人工智能#
资料来源：trendforce
AI服务器行业概览
以前，AI计算基础设施主要都使用的是X86服务器。
但是，随着AI算法和芯片的发展，GPU、FPGA以及ASIC芯片为核心计算单元的AI专用基础设施增多，其中GPU服务器最为主流。
相较于通用服务器，AI服务器是采用异构形式的服务器，在异构方式上可以根据应用的范围采用不同的组合方式，如CPU+GPU、CPU+TPU、CPU+其他的加速卡等。#CPU#
AI服务器的CPU+GPU架构：
加速卡数量: 通用服务器一般是单路或多路CPU架构，而AI服务器需要承担大量的AI运算，一般配置四块及以上加速卡。
AI服务器由于对加速卡的独特需求，需要针对性的对于系统结构、散热等做专门的设计，才能满足AI服务器需求。#服务器#
AI服务器和通用服务器的区别：
目前按照GPU数量的不同，有4颗GPU（浪潮NF5448A6）、8颗GPU（Nvidia A100 640GB）以及16颗GPU（NVIDIA DGX-2）的AI服务器。
根据芯语的数据，相比于高性能服务器、通用服务器，AI服务器的芯片组（CPU+GPU）价格和成本占比通常更高，如AI服务器(训练)芯片组成本占比达83%、AI服务器(推理)芯片组占比为50%。
AI服务器分类方式有两种：
1）按应用场景：AI服务器按照应用场景可以分为深度学习训练型和智能应用推理型。训练任务对服务器算力要求较高，需要训练型服务器提供高密度算力支持，典型产品有中科曙光X785-G30和华为昇腾Atlas 800（型号9000、型号9010）。
推理任务则是利用训练后的模型提供服务，对算力无较高要求，典型产品有中科曙光X785-G40和华为昇腾Atlas 800（型号3000、型号3010）。
2）按芯片类型：AI服务器为异构服务器，可以根据应用范围调整计算模块结构，可采用CPU+GPU、CPU+FPGA、CPU+TPU、CPU+ASIC或CPU+多种加速卡等组合形式。目前，产品中最常见的是CPU+多块GPU的方式。
资料来源：中科曙光
AI服务器产业链
AI服务器核心组件包括GPU（图形处理器）、DRAM（动态随机存取存储器）、SSD（固态硬盘）和RAID卡、CPU（中央处理器）、网卡、PCB、高速互联芯片（板内）和散热模组等。
AI服务器核心组件包括GPU（图形处理器）、DRAM（动态随机存取存储器）、SSD（固态硬盘）和RAID卡、CPU（中央处理器）、网卡、PCB、高速互联芯片（板内）和散热模组等。
CPU主要供货厂商为Intel、GPU目前领先厂商为国际巨头英伟达，以及国内厂商如寒武纪、海光信息等。
内存主要为三星、美光、海力士等厂商，国内包括兆易创新等。SSD厂商包括三星、美光、海力士等，以及国内江波龙等厂商。
PCB厂商海外主要包括金像电子，国内包括沪电股份、鹏鼎控股、深南电路、兴森科技等。
主板厂商包括工业富联，服务器品牌厂商包括浪潮信息、紫光股份、中科曙光、中兴通讯等。
AI服务器竞争格局
IDC发布了《第四季度中国服务器市场跟踪报告Prelim》。
从报告可以看到，前两名浪潮与新华三的变化较小，第三名为超聚变，从3.2%份额一跃而至10.1%，增幅远超其他服务器厂商。
Top8服务器厂商中，浪潮、戴尔、联想均出现显著下滑，超聚变和中兴则取得明显增长。其中，浪潮份额从30.8%下降至28.1%；新华三份额从17.5%下降至17.2%；中兴通讯（000063）从3.1%提升至5.3%，位居国内第5。联想降幅最为明显，从7.5%下降至4.9%。
据TrendForce集邦咨询统计，AI服务器采购占比以北美四大云端业者Google、AWS、Meta、Microsoft合计占66.2%为最，而中国近年来随着国产化力道加剧，AI建设浪潮随之增温，以ByteDance的采购力道最为显著，年采购占比达6.2%，其次紧接在后的则是Tencent、Alibaba与Baidu，分别约为2.3%、1.5%与1.5%。
根据TrendForce最新研究报告，除了经济持续疲软及高通胀，促使北美四大云端服务供应商（CSP）下修今年服务器采购量之外，包含Dell 与HPE 在内的Enterprises OEM 亦已开始调降ODM 的主板生产。
TrendForce认为 年全球服务器出货量将下跌至1,443 万台，年成长率收敛为1.31%，而OEM 下修出货展望的举动，除了反应终端需求不如预期外，更多原因是受零部件库存调节与客户端控制财务支出等影响所致。
自新兴应用题材的带领下，包含自动驾驶汽车、AIoT与边缘运算，诸多大型云端业者开始大量投入AI相关的设备建设，截至为止，预估搭载GPGPU（General Purpose GPU）的AI服务器年出货量占整体服务器比重近1%。#5月财经新势力#
液冷服务器：AI服务器新趋势
目前发展的散热冷却技术主要有风冷和液冷两大类，其中风冷包括自然风冷和强制风冷，适用的机柜功率密度较低。
液冷分为单相液冷和相变液冷。散热冷却系统所采用的冷却介质、冷却方式不同，移热速率差距大。
传统风冷最高可冷却30 kW/r的机柜，对于30 kW/r以上功率密度的机柜无法做到产热与移热速率匹配，会使机柜温度不断升高导致算力下降甚至损害设备。
目前国内高密度的云数据中心以及智算中心主要以冷板式液冷为主，超算中心主要以浸没式液冷为主。
根据赛迪顾问的数据，以液冷数据中心对传统市场进行替换作为市场规模测算基础，结合华为、阿里巴巴和中科曙光对液冷数据中心的替换率调查，预计2025年我国液冷数据中心的市场规模将破1200亿元，-2025年均复合增速25%。
市场格局方面来看，国中科曙光、华为、浪潮、联想和阿里等公司在数据中心液冷的商业化探索已经取得了一定成果。
据《中国液冷数据中心发展白皮书》，通过对液冷数据中心产品营收、市场占有率、技术专利等维度的综合评价，中科曙光、华为、阿里及联想为液冷数据中心的领导者，广东合一、浪潮位于挑战者位置，戴尔、维谛、英维克等处于跟随者地位。
从温控设备供应市场来看，英维克、佳力图、申菱环境、依米康等为机房温控设备的主要供应商，同飞股份、高澜股份等工业温控领域“玩家”有望凭借技术同源快速切入数据中心温控市场。
未来，考虑到对服务器改变形态的大小以及综合成本等，服务器热力密度为15-20KW阶段，冷板式液冷对于服务器的形态变化相对较小、冷却液环节占比较低，环保等方面有望优先采用，随着算力密度的进一步增加，浸没式液冷整体散热能力有望进一步增强，推广度有望逐步打开。
关注乐晴智库，洞悉产业格局！
