發表日期 4/8/2022, 10:20:20 PM
智東西(公眾號:zhidxcom)
作者 | 楊暢
編輯 | 漠影
智東西4月8日報道,近日,權威AI性能基準測試平台MLPerf發布最新Inference v2.0推理測試結果。這份備受IT圈關注的“戰報”顯示,成立於2019年的服務器企業寜暢趕超眾多老牌國際服務器廠商,拿下瞭59項第一。
就在不久前,知名調查公司IDC發布最新《中國半年度加速計算市場(2021下半年)跟蹤》,顯示寜暢已位居中國加速服務器市場銷售榜第二。
隨著“東數西算”、綠色數據中心相關政策的齣台,以及人工智能(AI)、雲計算等技術和應用的加速落地,各行各業對於服務器性能相關的各項需求不斷的發生變化,2021年國內服務器市場銷售額同比增加12.7%,達250.9億美元。各個服務器企業也不斷推齣自己的新産品,國內服務器市場競爭激烈。
想要在國內的服務器市場中成功突圍,搶占更多的市場份額並不容易,那麼寜暢是如何取得如此快速地發展的? 而未來,隨著政策、行業、技術的變化和發展,國內服務器市場又會有哪些變化,寜暢會選擇如何去迎接這些挑戰?智東西采訪瞭寜暢的首席技術官趙雷,溝通探討寜暢不斷突破背後的技術積澱和戰略思考。
一、拿下59項MLPerf測試第一,寜暢三款AI服務器立大功
本次MLPerf Inference v2.0測試共有超10傢國際服務器廠商的數十種服務器産品參加。寜暢的X640 G40、X660 G45、X620 G40三款AI服務器斬獲瞭其中59項測試的第一名。
作為一傢成立並不久的玩傢,寜暢是如何屠榜的?首先,讓我們來看看寜暢的明星産品――X640 G40 AI服務器。
X640 G40是一款定位為多應用場景的超級AI服務器,在Datacenter組所有已發布的産品中,贏得10類測試場景總體性能第一的成績,也是本次測試中的全場第一。
再來看看寜暢X660 G45,這款服務器搭載具備NVLink超高速互聯能力的NVIDIA A100 80GB Tensor Core GPU,在SSD-Mobilenet(目標檢測移動端)模型測試的Multi-Stream(多數據流)場景測試中,取得瞭0.44的成績,位居第一。
據悉,這一成績得益於X660 G45具備的兩大優勢:一是GPU高速互聯,二是每個GPU有專屬的網絡設備和存儲,保證數據交互和讀取的高帶寬、低延遲。
最後,我們再來看看寜暢X620 G40。這款服務器搭載有4顆NVIDIA A2 Tensor Core GPU,取得瞭Datacenter組同配置15項第一,並且幾乎所有模型測試中都錶現優異,作為一款超級AI 推理服務器,X620 G40可以滿足數據中和和邊緣端的推理、編解碼、虛擬化等需求。
今年是“十四五”第二年,智能計算中心等新基建仍是國傢的發展重點。從2021年以來,國內至少有26座城市都陸續開始或者加速進行人工智能計算中心等人工智能算力基礎設施建設。隨著“東數西算”工程啓動,全國算力一張網的建設需求更加緊迫。
根據IDC數據,國內AI市場規模已達21.8億美元,同比增長42.2%。無論是從算力基礎設施層麵還是AI行業發展層麵,中國AI相關産業對於智能算力的需求在相應的增加。
用戶對能提供智能算力的AI服務器的需求也在不斷增加。根據IDC預測,到2026年,中國加速計算服務器包括GPU等AI服務器的市場規模將達到103.4億美元。寜暢的X640 G40、X660 G45、X620 G40這三款AI服務器所屬於的服務器市場前景廣闊,依托優異的性能錶現,寜暢也已經取得瞭一些突齣的成績。
二、“智定”為核心,寜暢成第二,三方麵因素加持
看完MLPerf戰報,我們再來看看寜暢的另一項成績單。那就是權威調查機構IDC的數據:2021年下半年,寜暢占到瞭國內加速計算服務器市場份額的8.5%,繼續穩居第二。
寜暢首席技術官趙雷談道,從成立到現在,寜暢是處於一個穩步上升的狀態,寜暢的通用服務器和GPU服務器的銷售額每個季度都有增長。
很長時間以來,國內服務器市場都是一個巨頭掌握話語權的市場,為什麼寜暢作為一傢年輕企業,能夠在AI服務器這條賽道衝齣重圍?結閤與寜暢負責人的對話,我們可以看到大緻有以下三方麵因素:
首先,技術方麵, 寜暢有多年的積纍。寜暢雖然成立僅2年多,但是技術團隊已經有十幾年的技術積纍,技術人員在服務器領域的平均工作經驗都是8年以上,主要的核心技術人員工作經驗都在10年以上。
以GPU服務器為例,NVLink GPU服務器可以算是市場上最高端的GPU服務器之一,國內僅有3傢企業推齣瞭8卡NVLink GPU服務器,充分說明瞭寜暢具備深厚的研發實力。
其次,用戶方麵, 寜暢的目標用戶主要是大的行業用戶,分布於互聯網、金融電信、製造、醫療等多種領域。
目前,AI技術正加速在各行業深度融閤和落地應用,場景非常多變,對於定製算力的需求也在上升,相應的定製服務器需求驟增。據IDC市場調研顯示,全球服務器市場定製化産品采購份額已達30%以上。
而寜暢能快速響應用戶的定製化需求,為用戶在新基建和數字化轉型中的定製化需求第一時間提供齣符閤要求的産品,從而實現長期的閤作。
趙雷指齣寜暢收到瞭很多用戶的積極反饋和認可。寜暢的企業用戶既有一些頭部的互聯網企業,還有一些行業主流的AI企業。寜暢為它們提供深度定製服務或OEM/ODM級彆的定製服務。
第三方麵是寜暢一直是緊跟政策需求和行業發展動嚮的。 麵對像雙碳、新型數據中心等國傢積極推進的政策措施,寜暢都在第一時間推齣瞭相應的解決方案。
比如,國傢規定新建的大型、超大型數據中心的PUE值不能超過1.3;同時,國傢也在積極推進“東數西算”這項全國一體化大數據中心協同創新體係算力樞紐工程。於是,寜暢在近期推齣瞭三款新係列液冷服務器産品:4U高密度服務器B5000 G4 LP、X660 G45 LP和通用服務器R620 G40 LP 2U,兼顧性能和能耗。
寜暢的B5000 G4 LP服務器擁有8個計算節點,采用的是全新的高效冷闆式液冷散熱方式,兼顧降低能耗和提升性能。專為AI深度學習訓練開發的6U旗艦型液冷計算平台X660 G45 LP則是可以滿足熱功耗500W GPU散熱需求,可配閤200G的網絡交換設備搭建GPU高速集群。寜暢的R620 G40 LP 2U服務器身形小巧、冷闆可以靈活部署,能夠根據業務需求進行彈性配置。
其實,對於寜暢來說,定製是寜暢服務器發展的核心定位。從成立之初的精細化定製目標,到2021年寜暢確定“智定+”戰略並推齣瞭兼顧性能和節能的G40係列産品,寜暢不斷在升級其定製化的戰略重點。寜暢參與本次MLPerf基準測試的三款服務器産品中有兩款就是G40係列産品。
結語:服務器市場穩步增長,寜暢堅持定製為核心
根據IDC數據,2021年國內服務器市場銷售額達250.9億美元,同比增長12.7%,加速服務器方麵,2021年中國市場規模同比增長68.6%。綜閤來看,國內市場對服務器的需求穩步增長。
2022年,隨著各行各業的數智化轉型進入深水區,AI服務器市場競爭也將更加激烈。作為服務器領域的新玩傢,寜暢已實現瞭快速增長,市占率保持領先。如果寜暢能繼續保持目前的發展態勢,有望在國內服務器領域獲得更多突破。