無論你是否從事ICT行業(yè),在過去的兩年里,有一個詞你一定聽過,那就是DPU。
DPU作為一種全新的科技概念,正以驚人的速度崛起,成為全行業(yè)乃至全社會關注的焦點尤其是在投資領域,DPU簡直是被人追,被視為未來顛覆行業(yè)的潛在技術
DPU到底是什么它和我們熟悉的CPU,GPU有什么區(qū)別
今天,小棗君將帶您深入了解DPU的來龍去脈。
什么是DPU。
DPU的全英文名字叫數(shù)據(jù)處理單元,也就是數(shù)據(jù)處理器。
英偉達CEO黃仁勛曾在演講中表示,DPU將是未來計算的三大支柱之一,未來數(shù)據(jù)中心的標準將是‘CPU+DPU+GPU’CPU用于通用計算,GPU用于加速計算,DPU用于數(shù)據(jù)處理
聽起來有點暈DPU做哪種數(shù)據(jù)處理有了CPU和GPU,為什么還需要DPU
眾所周知,著名的馮·諾依曼架構自計算機誕生以來就一直被采用。
馮·諾依曼建筑
這種架構基于計算和存儲作為處理器單元,CPU負責各種算術和邏輯計算內存和硬盤負責存儲數(shù)據(jù)和與CPU交互
除了CPU,內存,硬盤,就是鍵盤,顯示器等輸入輸出設備久而久之,后來,我們有了鼠標,有了顯卡,有了網卡最終形成了我們現(xiàn)在看到的計算機的基本結構
有了顯卡,就有了GPU和圖形處理器大家都玩過游戲,很清楚伴隨著游戲,3D設計等多媒體圖形軟件的飛速發(fā)展,要處理的工作量越來越大,CPU真的不堪重負所以有一個專門做圖像和圖形相關運算的GPU來分擔CPU的壓力
DPU的出現(xiàn)也是如此還有就是因為CPU承受不了一些復雜的計算,所以需要劃分任務
dpu到底是什么
好了,終于到了關鍵點聊了半天,DPU分享的是什么CPU工作
說實話,從技術上解釋DPU分享的作品有點困難,也不容易理解但是,我們可以從工作場景來解釋
總的來說,DPU分享的工作可以歸納為四個關鍵詞,分別是虛擬化,網絡,存儲和安全。
特別是,我們需要提醒您,DPU是一個與數(shù)據(jù)中心緊密相關的概念也就是說,它主要應用于數(shù)據(jù)中心等大型計算場景,而不是我們的臺式機,筆記本電腦或手機
DPU服務于云計算,主要功能是提高數(shù)據(jù)中心等計算基礎設施的效率,減少能源消耗和浪費,進而降低成本。
上面說的虛擬化,網絡,存儲,安全是數(shù)據(jù)中心非常重要的工作,也是消耗大量計算資源的工作。
以網絡為例。
在數(shù)據(jù)中心,每時每刻都有大量數(shù)據(jù)在傳輸主機收發(fā)數(shù)據(jù)時,需要海量的網絡協(xié)議處理按照傳統(tǒng)的計算架構,所有這些協(xié)議都是由CPU處理的
據(jù)統(tǒng)計,以線速處理10G網絡需要4核左右的至強CPU也就是說,僅網絡數(shù)據(jù)包的處理就要占用8核CPU的一半現(xiàn)在數(shù)據(jù)中心網絡不斷升級,從10G到40G,100G,甚至400G,這些性能成本如何承擔
這些費用如此之大,以至于被稱為數(shù)據(jù)中心稅。
在業(yè)務運行之前,僅僅通過訪問網絡數(shù)據(jù)就消耗如此多的計算資源,這是無法忍受的因此,一些公司提出了SmartNIC的概念,將網絡協(xié)議處理的工作從CPU卸載到網卡上,以分擔CPU的負載
2015年,云計算廠商AWS率先探索了這種SmartNIC模式他們收購了芯片制造商Annapurna Labs,并于2017年正式推出Nitro system同年,阿里云也正式公布了類似功能的神龍架構
2019年3月,英偉達斥資69億美元收購以色列芯片公司Mellanox英偉達將Mellanox的ConnectX系列高速網卡技術與自身現(xiàn)有技術相結合,于2020年正式推出兩款DPU產品:BlueField—2 DPU和BlueField—2X DPU
從此,DPU的概念正式進入公眾視野2020年,也被稱為DPU元年
因為DPU和SmartNIC有這樣的歷史,所以人們普遍把DPU看作是SmartNIC的延伸和升級版。
在SmartNIC的基礎上,DPU將存儲,安全和虛擬化工作負載從CPU卸載到自身。
90年代末,以VMWare為代表的虛擬化技術剛出現(xiàn)的時候,完全是軟件模擬,缺乏硬件的支持,所以性能很差,幾乎難以使用。
后來在2005年,伴隨著技術的演進,逐漸解決了CPU和內存的硬件虛擬化問題,大大提高了虛擬化系統(tǒng)的性能,激活了這項技術的發(fā)展前景和價值眾所周知,我們目前的云計算架構是基于虛擬化技術開發(fā)的
虛擬化技術的發(fā)展是一個硬件能力不斷取代軟件能力的過程我們之前提到過AWS發(fā)布了Nitro system除了SmartNIC,該系統(tǒng)還完成了I/O的硬件虛擬化..它還將虛擬機管理程序從CPU轉移到專用硬件這樣一來,虛擬化技術的性能損失趨近于零,CPU的負擔進一步減輕
存儲也是如此。
如今,數(shù)據(jù)中心需要高速的存儲讀寫在SSD價格逐漸下降后,通過本地PCIe或高速網絡將SSD連接到系統(tǒng)成為主流技術路線對于分布式系統(tǒng),在InfiniBand,F(xiàn)C和以太網的基礎上,RDMA技術開始流行
在RDMA模式下,應用程序的數(shù)據(jù)直接與網卡通信,不經過CPU和復雜的操作系統(tǒng)這意味著DPU可以承擔存儲相關的高速接口標準協(xié)議處理,進一步為CPU分擔壓力
最后看安全性。
目前,在日益嚴峻的安全形勢下,為了保證網絡和系統(tǒng)的安全性和可靠性,大量的加密算法被引入以前這些算法都是CPU加解密的
但實際上,網絡界面才是理想的隱私邊界在網絡接口上加密解密是最合理的因此,國家機密標準的非對稱加密算法SM2,哈希算法SM3和對稱分組密碼算法SM4實際上可以交給DPU計算未來區(qū)塊鏈技術應用成熟后,相關算法也可以從CPU卸載到DPU
綜上所述,你也應該明白,DPU的本質是卸載,加速,隔離——把CPU的部分工作卸載給自己,利用自己的計算能力來加速這些任務,在整個過程中,實現(xiàn)了計算的隔離。
dpu的未來前景
DPU是一款新型可編程多核處理器和SoC芯片符合行業(yè)標準,計算能力高,具有高性能的網絡接口,能夠高速分析處理數(shù)據(jù),高效的將數(shù)據(jù)傳輸?shù)紺PU和GPU
DPU和CPU最大的區(qū)別是CPU擅長一般的計算任務,而DPU更擅長基礎層應用任務,比如網絡協(xié)議處理,交換路由計算,加密解密,數(shù)據(jù)壓縮等等。
因此,DPU是CPU的好幫手,將與CPU,GPU形成鐵三角,徹底顛覆數(shù)據(jù)中心的計算模式。
這就是為什么DPU如今備受關注。
正如本文開頭所述,DPU目前的受歡迎程度已經無法用語言來形容了對首都DPU的熱情更加令人印象深刻巨頭和初創(chuàng)企業(yè)都進入了DPU賽道DPU市場仍在升溫,發(fā)展前景看好
以英偉達為例繼BlueField—2 DPU和BlueField—2X之后,2021年4月,NVIDIA發(fā)布了新一代數(shù)據(jù)處理器——blue field—3 DPU
藍田—3 DPU
這是第一個為人工智能和加速計算設計的DPU它針對多租戶和云原生環(huán)境進行了優(yōu)化,并提供數(shù)據(jù)中心級軟件定義和硬件加速的網絡,存儲,安全和管理服務
據(jù)說,一個BlueField—3 DPU提供的數(shù)據(jù)中心服務,可以相當于多達300個x86內核才能實現(xiàn)的服務這釋放了大量CPU資源來運行關鍵業(yè)務應用程序
想要在現(xiàn)代數(shù)據(jù)中心發(fā)揮DPU的核心價值,離不開軟件的加持換句話說,沒有軟件的芯片只是昂貴的沙子
為了建立一個更強大的DPU生態(tài)系統(tǒng),英偉達推出了一個軟件開發(fā)平臺——Nvidia Doca,這是為DPU藍田公司量身定制的。
DOCA的全稱是片上數(shù)據(jù)中心基礎架構,即在線數(shù)據(jù)中心基礎架構在DOCA的幫助下,開發(fā)者可以通過使用行業(yè)標準的API,在英偉達BlueField上快速創(chuàng)建網絡,存儲,安全和管理服務,以及AI/HPC的一系列應用和服務
2022年5月,英偉達發(fā)布了DOCA 1.3該版本不僅增加了121個API開發(fā)接口,還增加了DOCA流庫,通信通道庫,正則表達式庫和基于OVN的數(shù)據(jù)路徑加密等功能它還增加了HBN等服務,這在開發(fā)者中很受歡迎
DOCA的建筑1.3
最近幾天,英偉達發(fā)布了DOCA 1.4,支持DPU固件升級,無需重啟主機它可在藍田—2 DPU 25G安培,100G w/BMC產品支持32GB DDR內存,增加主機支持AArch64服務器,基于最長前綴匹配流水線的路由功能
借助1.4版本,開發(fā)者可以更加靈活,簡單,快捷地在BlueField DPU上進行開發(fā)環(huán)境,從而快速推出新產品。
結論
據(jù)預測,到2025年,DPU的全球市場容量有望達到120億美元。
伴隨著摩爾定律逐漸進入瓶頸,為了更高效的利用計算資源,我們需要大力發(fā)展DPU,讓CPU,GPU,DPU合理分工,讓他們更專注于自己擅長的工作這樣才能最大限度的發(fā)揮數(shù)據(jù)中心的能效,為全社會的數(shù)字化轉型提供強大而綠色的動力
鄭重聲明:此文內容為本網站轉載企業(yè)宣傳資訊,目的在于傳播更多信息,與本站立場無關。僅供讀者參考,并請自行核實相關內容。