發表日期 3/29/2022, 8:34:37 PM
未來計算有三大支柱,CPU和GPU已穩坐兩席,最後有資格入選是誰?英偉達CEO黃仁勛給齣瞭自己的答案:“第三顆主力芯片”是DPU。[1]
三大計算支柱角色各異。CPU相當於管傢,負責思考處理各種業務;GPU相當於美工,專門處理各種圖像處理工作;DPU相當於前台,負責打包、拆包各種數據[2]。DPU雖然是芯片界後生,但因市場規模可期,這兩年熱潮湧動,瘋狂入局的全球新玩傢,都想從這片海中取一勺。
本文是“果殼硬科技”策劃的“國産替代”係列第五篇文章,關注DPU國産替代。在本文中,你將瞭解到:DPU是什麼,DPU能做什麼,這一概念的發展曆史,國産DPU的機會。
付斌 | 作者
李拓 | 編輯
果殼硬科技 | 策劃
瘋狂的DPU賽道
DPU(Data Processing Unit)是一種擁有計算能力的智能網卡,用於分擔CPU運行低效、GPU難以處理的網絡、存儲和安全等任務,以提升計算係統效率、降低係統總擁有成本(TCO)。[3]
國內DPU市場有多瘋狂?創業公司趕集式落地和搶先宣發,是最直接的錶現。
DPU相關國産廠商投融資情況,製錶丨果殼硬科技
參考資料丨公開資料
由於DPU概念較新,市場導入正當時,國內DPU初創企業極其注重産品的設計研發和量産速度。
DPU相關國産廠商,製錶丨果殼硬科技
“趕工”並非浮躁,而是因為現有海外産品本身單價貴,加之齣貨量小,代理購買會進一步增加成本。更重要的是,處於探索階段的海外公司,産品也不是很完善,國産DPU這一賽道機會非常大。
芯啓源董事長兼CEO蘆笙曾嚮筆者介紹,DPU是兵傢必爭之地,目前世界前五的巨頭都在積極布局,誰占領瞭這篇領地,就占領瞭整個數據中心和網絡中心的平台。
不僅如此,DPU的需求量還在持續攀升,預計全球DPU市場規模在2024年將達100億美元[4],其中中國DPU市場規模將從2022年超10億美元增長至2025年37.41億美元,復閤增長率超過50%。[5]
各大投資機構也看好DPU賽道,認為它是下一代數據中心的樞紐和是剛需,擁有數百億美元的增量價值。[6]
為什麼一定是DPU
DPU是怎麼火起來的?
是因為CPU性能增加趕不上數據産生的速度:據第一財經數據,2010年以前,網絡帶寬年化增長約30%,現在已提升至45%,而CPU的性能增長從10年前的23%現在已經降到3%[7]。這給瞭DPU機會。
最開始,網絡相關介入工作是由基礎網卡(Network Interface Card,簡稱NIC)負責,但為瞭處理網絡協議,它會擠占一些CPU算力,同時它隻擁有一些非常基本的任務卸載功能。[8]
為瞭卸載掉這些擠占的資源,智能網卡(SmartNIC)應運而生。網卡變得智能,需要加載運行代碼,為此會配備額外的計算能力和闆載存儲器[9],以此降低網絡互聯、安全、虛擬化、內存訪問等對CPU資源的消耗,為應用提供更多的CPU資源[10]。
這種智能網卡也早已部署至數據中心內。從2015年起,亞馬遜[11]、微軟[12]都曾先後在自己業務中部署智能網卡。
既然有瞭智能網卡,為什麼還要DPU?因為DPU支持更多功能,包括帶寬壓縮、安全加密、網絡功能虛擬化等,雖然這些功能對於普通用戶存在感稀薄,但它們是現有日常應用更高效、更安全、更實時的保障[13]。搭載這些功能的DPU,能比智能網卡更好地解決網絡協議處理、數據安全、算法加速等問題,同時這些功能是CPU做不好、GPU做不瞭的。[14]
DPU發展的三個階段
圖源丨專用數據處理器(DPU)技術白皮書,中國科學院計算技術研究所,鄢貴海等
雖然DPU是如此強大,但它隻是CPU的助手。
數字芯片發展至今,“CPU已經很難做好所有事情”已成為行業共識,但它卻又不可或缺。芯片工程師老石錶示,在算法加速領域論文中,CPU就是悲催的存在,動輒比CPU強幾倍、幾十倍、上百倍的器件比比皆是。但任由時光流動,CPU依舊挺立在數據中心的王座,隻不過旁邊多瞭GPU,還有一個DPU蠢蠢欲動。[15]
上海矩嚮科技CEO、前UCloud芯片和硬件研發負責人黃朝波則分析,CPU、DPU和GPU三者既相互協作,又相互競爭。傳統觀點認為,DPU僅僅充當CPU的任務卸載,但按照軟硬件融閤觀點來看,DPU與嵌入式CPU/GPU構成瞭超異構計算平台,獨立CPU/GPU又是DPU的拓展。[16]
DPU的作用,圖源丨Socnoc[17]
現有DPU市場非常粗放
DPU誕生的背後,是麯摺而又摺騰的命名拉鋸戰,這導緻當前DPU市場非常粗放,標準良莠不齊,定位和市場策略百花齊放。
2019年,Fungible將DPU定義為一種新型數據處理單元,但在當時並沒有砸齣水花。緊接著,英偉達在2020年6月收購Mellanox,把其原IPU係列(同樣功能不同名稱産品)重新包裝為DPU,並在2020年10月開始大張旗鼓地宣傳[18],這纔讓DPU被眾人熟知。2021年6月,英特爾發布自己的DPU,但卻改名為“基礎設施處理器”(IPU)。[19]
DPU的發展曆史,製錶丨果殼硬科技
之後,業界又對DPU中的“D”有瞭三種新的解讀,包括Data、Datacenter、Data-centric,分彆側重數據、數據中心、數據為中心。[20]
對DPU的不同解讀
對DPU命名上的不一緻,導緻廠商的市場策略擁有不同的理解:英偉達(即Mellanox)麵嚮數據安全、網絡安全、存儲卸載,Fungible麵嚮網絡、存儲、虛擬化,英特爾、博通(Broadcom)麵嚮交換機和路由器芯片,美滿(Marvall)麵嚮5G基帶,Pensando麵嚮支持P4的軟件定義網絡(SDN)。[21]
DPU競爭格局,圖源丨賽迪顧問[22]
這種定位的差異,導緻不同廠商在選擇架構時也存在不同的理解,目前分為SoC(Arm與ASIC協同架構)、FPGA、ASIC三種主要技術形態。基於FPGA的DPU擁有最佳的靈活性,但吞吐量、功耗在一定程度上受到限製;隨著帶寬變高,基於ASIC的DPU需求將會增加;對於更復雜的、更廣泛的用例,基於SoC的DPU擁有良好的性價比、易於編程且高度靈活性。
智能網卡不同技術實現參數對比,圖源丨賽迪顧問[22]
這種差異就會引發兩個問題,一是DPU究竟要做什麼,如何與計算平台做銜接及對業務場景的理解,二是技術方案究竟要怎麼選擇。[23]
國産DPU該如何突圍
由於DPU是一個新生事物,整個行業的需求各異、體係封閉的局麵短期內並不會發生改變[21]。與此同時,DPU産品在全球市場上尚未真正實現規模化和商業化,這種高度整閤化的器件打造難度非常高,現在已有産品並不能滿足行業對DPU在通用領域的期待[24]。另外,DPU市場客戶需求分散和不單一進一步加劇應用場景和架構的差異化。[25]
英特爾曾嚮筆者豪言:“DPU/IPU顯然是一個很大的市場,但它漸漸不再是一個初創公司可以霸占的市場,而是一個由大公司主導的市場。”一直以來,對CPU非常有自信的英特爾也進入這一市場,說明所有計算都由CPU處理的時代已一去不復返,也足以說明這一領域究竟有多麼重要。
由於DPU是由國際巨頭提齣的概念,並優先量産産品,現有市場也主要由它們包攬,這種情況下,國産DPU初創企業該如何生存?
首先,應該對應用場景有更深刻的理解。“DPU需要的是一個嶄新的單元,而並非在原有交換機或CPU基礎上拼湊組閤[23]。”大禹智芯CEO李爽認為,不能簡單地把DPU定義成一顆芯片,而是要看作一個係統,是一種架構轉移。設計齣一款有競爭力又好用的DPU,對場景的深刻理解是關鍵。[26]
無獨有偶,IDG資本閤夥人李驍軍也錶示,DPU領域需要充分理解大規模雲廠商業務需求、定義架構特性,還要具備大芯片的工程實現能力。[27]
其次,用不同方案適配不同客戶。芯謀高級分析師張彬磊認為,國內DPU企業更適閤通過FPGA和NP等可適用性較好的方案,進入中小客戶市場。[25]
最後,差異競爭,快速迭代。賽迪顧問集成電路産業研究中心分析師孫卓異建議,國內DPU采取差異化競爭思路,加快自主研發進程,加快産品的迭代速度,並在商業模式上找到細分産品角度創新。[25]
References:
[1] NVIDIA:What Is a DPU?.2020.5.20.https://blogs.nvidia.com/blog/2020/05/20/whats-a-dpu-data-processing-unit/
[2] 半導體行業觀察:大有可為的DPU芯片.2021.4.8.https://mp.weixin.qq.com/s/tBP2HYK0nfYY6ZC0afJb-A
[3] 中國科學院計算技術研究所:中科院計算所牽頭發布DPU技術白皮書.2021.10.21.http://www.ict.cas.cn/xwgg/jssxw/202110/t20211021_6226618.html
[4] 雲豹智能Jaguarmicro:雲豹智能發布全功能雲霄DPU網卡,引領數據中心新趨勢.2021.12.15.https://mp.weixin.qq.com/s/y5gpY6_3vrtUvU08-c1v8Q
[5] 開源證券資管:行業觀察丨雲計算時代算力需求提升-DPU賽道初見端倪.2022.3.9.https://mp.weixin.qq.com/s/EaZ-3fr4ZMoky3pfG1tUQQ
[6] 天天IC:資本推動下的DPU“芯”戰場 ,數億元已成投資標配?.2021.8.21.https://mp.weixin.qq.com/s/t2VIA2CAsvqZ3H29O77cMA
[7] 來莎莎.DPU:呼之欲齣的百億賽道[N].第一財經日報,2021-12-30(A10)
[8] 軟硬件融閤:如何區分SmartNIC和DPU的定義?STH NIC分類框架介紹.2021.8.31.https://mp.weixin.qq.com/s/0wohV_OIvi3Tubn1q5daEw
[9] Xilinx賽靈思官微:SmartNIC 與普通的 NIC 有哪些顯著性差異?.2020.10.10.https://mp.weixin.qq.com/s/c9yh1EnF0FpA-c-uStTPcg
[10] 中智觀察:AWS/阿裏雲紛紛自研,英特爾/英偉達競相布局,DPU有何魔力?.2021.8.18.https://mp.weixin.qq.com/s/MyqEt_kCSFbdYhvXviyMfA
[11] 國際電子商情:DPU市場,一片混戰.2021.12.20.https://mp.weixin.qq.com/s/BPOGI1MpvtnUaauB5L2Tmg
[12] 21ic電子網:80%雲服務商麵臨的“聯網危機”,為何必須是FPGA?.2020.3.9.https://www.21ic.com/article/697539.html
[13] 趙廣立.計算芯片“新貴”DPU,前路幾何[N].中國科學報,2021-11-04(003)
[14] 張心怡.數據中心“第三顆主力芯片”DPU打響卡位戰[N].中國電子報,2022-01-18(007)
[15] 老石談芯:聚光燈下的DPU:如何開啓一個時代.2021.11.05.https://mp.weixin.qq.com/s/ObRQDIpFdFtWQQ2EhC06Rg
[16] iTalk沙龍:又是數億元融資!齣道即巔峰的DPU到底是什麼?.2021.12.28.https://mp.weixin.qq.com/s/tZZB8TOpzPCom7HIwsNHCg
[17] Socnoc官方網站:https://www.socnoc.ai/
[18] 量子位:英偉達一大波硬件來襲:今日GTC發布專業GPU與DPU,為收購ARM將在英國建超算.2020.10.6.https://mp.weixin.qq.com/s/aQYgo5IWh9Aub5ooGjettg
[19] 知IN:英特爾推齣全新的基礎設施處理器(IPU).2021.6.15.https://mp.weixin.qq.com/s/7cxb-CyCmSo7Yq9oaOP9fg
[20] 趙廣立.計算芯片“新貴”DPU,前路幾何[N].中國科學報,2021-11-04(003)
[21] 鄢貴海等.DPU:以數據為中心的專用處理器[J].《中國計算機學會通訊》,2021,17(10)
[22] 賽迪顧問股份有限公司:中國DPU行業發展白皮書.2021.12.9.https://microsite-wx-industries.nvidia.cn/Uploads/20211209/61b1809e68fba.pdf
[23] 中科創星:「大禹智芯」完成數韆萬元Pre-A輪融資,國內首個25G DPU産品進入商業化|創星Portfolio.2021.7.9.https://mp.weixin.qq.com/s/sVIsuTHlGMJou26tva4clw
[24] 鉛筆道:“大禹智芯”融資數韆萬 研發國內首個25G DPU産品進入商業化.2021.7.9.https://www.pencilnews.cn/p/39233.html
[25] 許子皓.多傢入局路綫不一 DPU上演差異化競爭[N].中國電子報,2021-08-13(008)
[26] 大禹智芯:深入淺齣看DPU:為什麼它是時代之需?.2021.11.22.https://mp.weixin.qq.com/s/1NGM-Ran0NqSQ9GiZO1M4A
[27] 雲脈芯聯:雲網融閤“芯”勢力,雲脈芯聯獲數億元天使輪投資.2021.10.22.https://mp.weixin.qq.com/s/rtr_lYLSHIOVBzGwpRDWaw