AI服務器作為算力基礎設施受青睞為了滿足AI大模型對算力的需求，市場對于AI服務器作為算力基礎設施之一的需求也隨之增加。AI服務器是一種專門用于支持人工智能應用的服務器，與傳統通用服務器相比，它具備以下特點：- 異構式架構：AI服務器通常采用CPU和GPU等組合的異構式架構，利用GPU強大的圖形渲染和海量數據并行運算能力，提高運算效率和性能；- 高密度設計：AI服務器通常采用高密度設計，將多個節點集成在一個機架內，節省空間和能源消耗；- 高性能網絡：AI服務器通常采用高性能網絡接口和交換機，實現高速數據傳輸和低延遲通信；- 高效散熱：AI服務器通常采用高效散熱方案，保證設備在高負載運行下穩定工作。
由于以上特點，AI服務器可以快速準確地處理海量數據，在深度學習、高性能計算、搜索引擎、游戲等行業廣泛應用。例如，在深度學習領域，訓練復雜的神經網絡模型；在搜索引擎領域，提供智能搜索服務；在游戲領域，渲染高清畫面和生成虛擬角色等。據IDC數據顯示，在2021年上半年全球AI服務器市場中，浪潮信息以20%的市場份額位居第一，戴爾、惠普、聯想、華為分別以14%、10%、6%、5%緊隨其后。當前中國AI服務器企業在全球處于前列位置。
IDC中國研究經理索引對記者表示：“過去幾年，加速計算服務器（加速計算服務器中90%為AI服務器）是拉動服務器市場增長的主要驅動力，2019年~2022年，整個服務器市場增量為100億美元，其中50億美元來自加速計算服務器市場增量。”據TrendForce的數據，截至2022年為止，預估搭載GPGPU（General Purpose GPU）的AI服務器年出貨量占整體服務器比重近1%，預估在ChatBot相關應用加持下，有望再度推動AI相關領域的發展，預估出貨量年成長可達8%；2022~2026年復合成長率將達10.8%。
GPU持續緊缺推動AI服務器價格大漲盡管AI服務器市場前景廣闊，但目前AI服務器行業也面臨著一些困境，其中最突出的就是核心零部件GPU的持續緊缺和價格大漲。GPU是圖形處理器或加速芯片的簡稱，是一種專門用于處理圖形和視頻相關的運算的芯片。由于GPU具有強大的并行計算能力，可以同時處理大量數據，因此在人工智能領域被廣泛應用于加速深度學習模型的訓練和推理過程。
目前，全球GPU市場主要由英偉達和AMD兩家公司所壟斷，其中英偉達占據全球約八成市場份額。然而，由于全球芯片產業鏈的復雜性和脆弱性，以及美國對中國企業的技術封鎖和制裁，導致GPU供應持續緊張。另一方面，由于疫情期間游戲、云計算、加密貨幣等行業的需求增加，也導致GPU需求持續旺盛，供需失衡使得GPU價格不斷上漲。據悉，英偉達在2020年8月發布了面向AI領域的高端顯卡A100/H100，但在2022年8月被美國宣布禁售中國企業。
為了應對這一局面，英偉達在2022年11月表示已研發出可向中國出貨的A800（替代A100），并在今年3月表示已研發出可向中國出貨的H800（替代H100）。然而，這些替代品的供應仍然十分有限，遠遠不能滿足市場需求。
據一家英偉達終端商家透露，目前英偉達A100單價為15萬元，兩個月前為10萬元，漲幅50%；A800目前單價約為9.5萬元，上月單價為8.9萬元。另有代理商透露，英偉達A100價格從去年12月開始上漲，截至今年4月上半月，5個月價格累計漲幅達到37.5%，同期A800價格累計漲幅達20%。由于一個AI服務器往往搭載數顆GPU，因此AI服務器的價格漲幅往往高于零部件價格漲幅。有企業透露，其去年6月購買的AI服務器不足一年價格漲了近20倍。同期，其他品牌的AI服務器也出現了不同程度的漲價。例如，某服務器ODM企業相關人士告訴記者，從五月份開始該公司A100卡也有15%漲幅，整體AI服務器為10%左右的漲幅.
