top of page

NVIDIA推出新一代Blackwell GPU,效能提升五倍,開拓生成式AI微服務市場

隨著大型語言模型(LLM)的規模不斷擴大,對性能的需求也在增加。現有的GPU難以充分滿足未來模型的需求,因此需要更大更強大的GPU。因應這一需求,NVIDIA日前在「GTC 2024」活動上宣布推出針對生成式人工智慧(AI)時代最佳化的下一代「Blackwell」圖形處理單元(GPU)和平台。這款新型GPU將帶來顯著的性能提升,為AI應用開發者提供更大的計算能力和效率。


圖片來源:NVIDIA - Blackwell GPU


新型的「Blackwell」GPU採用了台積電定制的4NP製程,每個矽集成了超過1,040億個電晶體,並搭載了192GB的HBM3e記憶體,提供8TB/s的記憶體頻寬。相較於上一代「Hopper」,Blackwell GPU在AI效能方面提升了5倍,並且擁有更大的晶體管數量和記憶體容量。這款GPU可以應用於現有基礎架構的HGX配置,也可以與Grace CPU結合,提供更高效的計算能力和更大的內存空間。其支援的新FP4格式運算將顯著推動生成式人工智慧AI的發展。


圖片來源:NVIDIA GTC - 黃執行長介紹 Blackwell GPU(左)和 Hopper GPU(右)


此外,NVIDIA還宣布將推出生成式AI的微服務,以幫助企業更輕鬆地構建和利用優化的生成式AI環境。透過提供合作夥伴們在雲端基礎設施中使用Blackwell GPU和平台,為開發人員提供更多的選擇和支持,加速人工智慧應用程式的開發和部署。


這次的GTC 2024活動對於NVIDIA來說是一個重要的里程碑,展示了該公司在AI技術領域的最新進展和未來發展方向。隨著Blackwell GPU和相關平台的推出,我們可以預見在生成式AI時代將迎來更加革命性的應用和創新。




近期熱門文章:


9 次查看

Commentaires


bottom of page