24萬元一片!NVIDIA最強GPU全面投產(chǎn),超 50 款服務(wù)器型號面世
導(dǎo)語:最新消息,英偉達3月份發(fā)布的計算卡H100終于開始出貨,也是10月份開始上市。由此看來,NVIDIA在GTC 2022上宣布 NVIDIA H100 Tensor Core GPU全面投產(chǎn),也算是其對臺積電下了“超級急件”訂單傳聞的表態(tài)了。
9月22日消息,在昨晚的GTC 2022大會(上下半年各一次),NVIDIA不僅發(fā)布了RTX4080/4090系列顯卡,還宣布了一件事,那就是3月份發(fā)布的計算卡H100終于開始出貨,也是10月份開始上市。
換言之,英偉達NVIDIA H100 Tensor Core GPU全面投產(chǎn),NVIDIA全球技術(shù)合作伙伴計劃于10月推出首批基于開創(chuàng)性NVIDIA Hopper架構(gòu)的產(chǎn)品和服務(wù)。
實際上,H100加速卡今年3月份的GTC大會上發(fā)布,距今剛好半年了,采用Hopper架構(gòu),GH100大核心,臺積電4nm制造工藝、CoWoS 2.5D封裝技術(shù),集成800億個晶體管,核心面積814平方毫米。
據(jù)悉,它擁有18432個CUDA核心、576個Tensor核心、60MB二級緩存,支持6144-bit位寬的六顆HBM3/HBM2e,支持PCIe 5.0,支持第四代NVLink總線。
另外,H100計算卡有SXM、PCIe 5.0兩種樣式,其中SXM版本15872個CUDA核心、528個Tensor核心,PCIe 5.0版本14952個CUDA核心、456個Tensor核心,功耗最高達700W。
編者也了解到,關(guān)鍵的是,H100使企業(yè)能夠削減AI的部署成本,相較于上一代,在提供相同AI性能的情況下,可將能效提高3.5倍,總體擁有成本減少至1/3,所使用的服務(wù)器節(jié)點數(shù)也減少至1/5。
可喜的是,NVIDIA DGX H100系統(tǒng)現(xiàn)在也已開始接受客戶預(yù)定。該系統(tǒng)包含8個H100 GPU,F(xiàn)P8精度的峰值性能達到32PFlops。每個DGX系統(tǒng)都包含NVIDIA Base Command和NVIDIA AI Enterprise軟件,可實現(xiàn)從單一節(jié)點到NVIDIA DGX SuperPOD的集群部署,為大型語言模型和其他大規(guī)模工作負載的高級AI開發(fā)工作提供支持。
對于需求方最關(guān)心的問題,H100的價格沒有官方消息,不過之前日本市場有過預(yù)售,PCIe版本的都要475多萬日元,人民幣要24萬元以上了,SXM版價格應(yīng)該會更貴。
但也有最新消息顯示,H100加速卡10月份上市,其中亞馬遜、谷歌及微軟三大云服務(wù)供應(yīng)商會率先采用,還有就是科研機構(gòu)及高校,洛斯阿拉莫斯國家實驗室和瑞士國家超級計算中心、日本筑波大學(xué)也會采購。
另一方面,全球領(lǐng)先的計算機制造商所提供的搭載H100的系統(tǒng)預(yù)計將在未來幾周內(nèi)發(fā)貨,到今年年底將有超過50款服務(wù)器型號面市,2023年上半年還將有數(shù)十款型號面市。已在構(gòu)建系統(tǒng)的合作伙伴包括源訊(Atos)、思科、戴爾科技、富士通、技嘉科技、慧與、聯(lián)想和超微。
回顧數(shù)日前(9月19日),據(jù)中國臺灣省《經(jīng)濟日報》報道,全球GPU龍頭英偉達近期對臺積電下了“超級急件(super hot runs)”訂單,以提前生產(chǎn)原計劃明年出貨的部分產(chǎn)品。傳聞稱,這批“超級急件”涉及5000片晶圓產(chǎn)能,相關(guān)產(chǎn)品的交期將大幅縮短,從原本預(yù)估的5-6個月,壓縮至2-3個月,臺積電最快將在10月底至11月初向英偉達開始交貨。
由此看來,NVIDIA在GTC 2022上宣布 NVIDIA H100 Tensor Core GPU全面投產(chǎn),也算是對上述傳聞的“表態(tài)”了。
為何如此著急?皆因在8月底,美國方面命令NVIDIA及AMD停止向中國大陸、中國香港和俄羅斯銷售部分高性能GPU,其中就包括NVIDIA的A100和H100。
對此,NVIDIA與美國相關(guān)部門展開了積極斡旋,很快在9月1日,他們公告聲明已獲得美國政府批準,可以在明年3月前繼續(xù)向美國客戶出口(到中國)的產(chǎn)品提供A100,可以在明年9月前繼續(xù)履行A100和H100的訂單。
總的來說,考慮到中國是NVIDIA和AMD最重要的市場之一,美國方面決定給予禁售令最多1年的寬限期。而為了應(yīng)對市場和出口管制政策的不確定因素,NVIDIA也要在這1年內(nèi)盡可能多地保障客戶長期需求,所以向臺積電下“超級急件”訂單,早些生產(chǎn)出明年出貨的量,滿足市場客戶“囤貨”的需求。
編輯:ZQY 最后修改時間:2022-09-23