受AI(人工智能)大模型发展热潮影响,市场算力需求大增,AI服务器作为算力基础设施之一,由于具备图形渲染和海量数据的并行运算等优势,能够快速准确地处理大量数据,市场价值逐渐凸显,近来市场需求大增,外加AI服务器核心零部件GPU(图像处理器、加速芯片)芯片持续紧缺、GPU价格不断上涨等,近期AI服务器价格大涨。
有企业向证券时报·e公司记者透露,其去年6月购买的AI服务器不足一年价格涨了近20倍。同期,GPU价格也不断上涨,例如A100GPU市场单价已达15万元,两个月前为10万元,涨幅50%,而A800价格涨幅相对更小,价格在9.5万元左右,上月价格为8.9万元左右。
“AI服务器价格这几年一直变化较大,主要因其配置在不断提升,同时其核心零部件GPU全球主要厂家英伟达、AMD在GPU方面的产能有限,市场GPU供应持续紧缺,预计未来AI服务器价格仍将保持上涨趋势。”IDC中国研究经理索引对证券时报·e公司记者表示。
值得一提的是,上游高端GPU芯片持续缺货等,一定程度上还影响了企业AI服务器出货量,进而影响到相关服务器上市公司短期业绩。不过,长远来看,AI服务器获业界一致看好,相关上市公司也正加码布局。
AI大模型大热
“去年6月我们公司购买了8台AI服务器,它的基础配置为8颗英伟达A100GPU,存储是80G,当时购买价格为8万元/台,今年3月已经涨到130万元/台,现在大约160万元/台,不到一年涨了近20倍。”近日,东莞松山湖一家检测企业相关负责人告诉证券时报·e公司记者。
“不仅是这款AI服务器涨价,基本上所有与英伟达相关的AI服务器都在涨价,后悔买少了。”前述负责人说。
无独有偶,某服务器ODM企业相关人士告诉记者,从5月份开始该公司A100卡也有15%涨幅,整体AI服务器为10%左右的涨幅。
事实上,今年以来,市场频传AI服务器价格大涨。
前不久,一个关于服务器大幅涨价的“小作文”也广泛流传。据说,某厂家3月的AI服务器售价大概是75万~85万元,4月均价直接上修到了85万~100万元。
究其原因,市场需求大增是AI服务器价格大涨的主因。
据了解,ChatGPT火热后,全球各大科技企业都在积极拥抱AIGC(生成式AI),纷纷发力AI大模型。据不完全统计,自3月16日百度率先公布“文心一言”以来,国内已有超过30项大模型产品亮相。
然而,AI大模型的实现,需要海量数据和强大算力来支撑训练和推理过程,华为预估2030年相比2020年,AI爆发带来的算力需求将增长500倍。
AI服务器作为算力基础设施单元服务器的一种类型,由于普遍采用CPU(中央处理器)、GPU等组合的异构式架构,相较通用服务器具备图形渲染和海量数据的并行运算等优势,能够快速准确地处理大量数据,可以满足大模型所需强大的算力需求,广泛应用于深度学习、高性能计算、搜索引擎、游戏等行业,其价值逐渐凸显。
“AI应用增加,推升算力需求,GPU服务器会增加,预期未来含有GPU的AI服务器需求将会持续增加,看好云端服务供应商(CSP)或AI服务器的成长性。”在近日举行的电话会议上,富士康集团董事长刘扬伟表示。
索引对记者表示,过去几年,加速计算服务器(加速计算服务器中90%为AI服务器)是拉动服务器市场增长的主要驱动力,2019年~2022年,整个服务器市场增量为100亿美元,其中50亿美元来自加速计算服务器市场增量,随着人工智能应用进入大模型时代,加速计算服务器市场预计仍将保持活力,其增速也预计大于通用服务器市场。
据IDC数据,2021年,全球AI服务器市场规模达156亿美元,同比增长39.1%,超过全球AI整体市场增长率22.5%。IDC预测,2025年全球AI服务器市场规模将达317.9亿美元,年复合增长率为19%。2021年中国AI服务器市场规模为53.9 亿美元,同比增长高达68.6%,预计2025年达到103.4亿美元,2021~2025年年复合增长率达17.7%。
市场格局方面,2021年上半年全球AI服务器市场中,浪潮信息以20%的市场份额位居第一,戴尔、惠普、联想、华为分别以14%、10%、6%、5%紧随其后,当前中国AI服务器企业在全球处于前列位置。
GPU持续紧缺
核心零部件GPU持续紧缺与价格大涨,也是导致AI服务器价格大涨的重要原因之一。
据了解,不同于高性能服务器、通用服务器,AI服务器除了2颗CPU外,一般还要配备4~8颗GPU,部分高配服务器甚至可以搭配16颗GPU,目前市场上主流的AI服务器一般配置2颗CPU加8颗GPU,因此AI服务器需求的提升,将直接成倍增加市场对GPU的需求,同时也提升了GPU、CPU等零部件在AI服务器中的成本占比。
有机构数据显示,AI服务器(训练)芯片组(CPU+GPU)成本占比达83%、AI服务器(推理)芯片组占比为50%。
值得一提的是,目前GPU市场主要由英伟达和AMD两家所占据,其中英伟达占据全球约八成市场份额,且英伟达GPU产能有限,持续紧缺,价格也不断上涨。
在面向中国市场方面,2022年8月,英伟达高端显卡A100/H100被美国宣布禁售,2022年11月,英伟达表示于2022年第三季度投产面向中国客户的A800(替代A100),今年3月,英伟达表示已研发出可向中国出货的H800(替代H100),目前国内企业可购买A800、H800、V100等型号英伟达GPU。
“服务器厂商(包括国内)很少会采用国产GPU,绝大多数会选用英伟达和AMD公司的GPU,但现在根本很难买到这两家公司的GPU,哪怕是被美国禁供后A100、H100的替代品A800、H800都一直供不应求。”一位服务器行业分析师对记者表示。
5月15日,记者从一家英伟达终端商家了解到,目前英伟达A100单价为15万元,两个月前为10万元,涨幅50%,另外A800目前单价约为9.5万元,上月单价为8.9万元。
“A100都已经禁售了,以后也不会有货了,我现在的货是在禁售前买的一点尾货,卖完就没有了,别说涨价,或者是不是全新,有货就很好了。”这位商家对记者表示,“A100还会涨,8月份估计要涨到20万每颗”。
另有代理商透露,英伟达A100价格从去年12月开始上涨,截至今年4月上半月,5个月价格累计涨幅达到37.5%;同期A800价格累计涨幅达20%。
由于一个AI服务器往往搭载数颗GPU,因此AI服务器的价格涨幅往往高于零部件价格涨幅。
行业媒体集微网报道,由于算力需求的增加,即使是涨价后市场对于英伟达顶级芯片的需求并未减少,这导致英伟达GPU交货周期也被拉长,之前拿货周期大约为一个月,现在基本都需要三个月或更长,甚至部分新订单“可能要到12月才能交付”。而为了应对增加的订单量,英伟达也向台积电追加预订1万片先进封装产能,以满足AI顶级规格芯片的生产。另外,国内可用于训练AI大模型的A100大约有4万~5万个,供应相当吃紧,一些云服务厂商已严格限制内部使用这些先进芯片,以将其保留至需要强力运算的任务。
服务器出货量受牵制
GPU的持续紧缺等,甚至已影响服务器行业出货量。
“现在英伟达GPU严重缺货,服务器厂商缺少核心零部件,一定程度上影响了相关企业的出货量。”一位券商分析师告诉记者。
相关情况从上市公司一季报也能窥见一斑。
浪潮信息今年一季度营收94亿元,同比下降45.59%,净利润2.1亿元,同比下降37%,浪潮信息表示,营业收入下滑主要系客户需求节奏较上年同期发生变化,本期发货需求减少所致。
据了解,英伟达是浪潮信息最大的供应商,浪潮信息此前几乎所有GPU芯片都从英伟达采购,2021年,英伟达占浪潮信息采购额的23.83%。
今年3月,美国将包括浪潮信息在内的中国28家企业最新列入美国实体清单,根据美国商务部规定,被列入实体清单的企业,必须取得美国政府的授权,才能获得美国产品和技术。
同行来看,工业富联一季度营收达1058.88亿元,同比增长0.79%,净利润31.28亿元,同比下降3.91%,但毛利率同比提升0.6个百分点至7.4%。
工业富联内部人士向证券时报·e公司记者表示,期内工业富联AI服务器已应用于ChatGPT,AI大模型技术的持续火热为工业富联改善毛利率提供了空间,公司还正加速提升AI服务器及高效运算(HPC)产品的占比和研发速度。
据了解,工业富联的云计算服务器出货量持续维持全球第一,2017年,工业富联联合英伟达、微软推出了全世界第一台AI服务器HGX1,ChatGPT使用的服务器就是HGX1,目前该款服务器已迭代至第四代。
富士康集团董事长刘扬伟也表示,去年富士康光是服务器的营收就达到1.1万亿新台币,其中AI服务器的营收大约占20%,ChatGPT带动的需求虽然强大,富士康会受惠于相关基础建设的需求,但也需要一段时间的沉淀才能成为稳定的业务。
值得一提的是,在芯片供应方面,工业富联深度绑定英伟达,供应不受限制。
中兴通讯总裁徐子阳也表示,在AI领域,中兴通讯未来将重点投入三个产品方向:一是新一代智算中心基础设施产品,全面支持大模型训练和推理,包括高性能AI服务器、高性能交换机、DPU等,计划今年底推出会支持大带宽的ChatGPT的GPU服务器;二是下一代数字星云解决方案,利用生成式AI技术,在办公智能化、运营智能化等领域展开研究;三是新一代AI加速芯片、模型轻量化技术,可大幅降低大模型推理成本。
此外,闻泰科技也透露,正在预研面向超大规模数据中心的训练和推理服务器,去年第四季度,闻泰科技服务器产品开始出货,当年基数相对较低。
除AI服务器外,在东数西算、数字经济等趋势下,各科技企业还一致看好整个服务器、存储相关行业。
工业富联指出,算力需求的增长不仅带动AI服务器的出货增长,也会带动整个超算系统架构的升级,包括中央处理器单元、运算加速器、高效能存储器、更高的带宽等。此外,算力的指数级增长会带来巨大的能耗,工业富联提前布局了数据中心液冷及沉浸式散热产品,HGX4就采用了水冷和气冷两种散热技术,绿色产品在算力需求增长的未来,重要性会更为凸显。
中兴通讯高级副总裁、政企业务总裁朱永涛对记者表示,新一轮数字经济浪潮带来的市场机会确定,今年中兴通讯将加强对服务器和存储的资源投入。
索引表示,2009年,中国本土供应商在全球的出货占比只有1%左右,到2022年这个数字变成了25%,如果加上台湾几家ODM给互联网的直接供货,这个占比已经超过60%,中国本土服务器供应商在全球正扮演越来越重要的角色。
此外,亦有券商研究员提示,我国服务器生产商面临核心零部件供应风险,同时服务器行业的经营发展状况与国家整体宏观经济发展密切相关。