NVIDIA推出新一代Blackwell GPU，效能提升五倍，開拓生成式AI微服務市場
隨著大型語言模型（LLM）的規模不斷擴大，對性能的需求也在增加。現有的GPU難以充分滿足未來模型的需求，因此需要更大更強大的GPU。因應這一需求，NVIDIA日前在「GTC 2024」活動上宣布推出針對生成式人工智慧（AI）時代最佳化的下一代「Blackwell」圖形處理單元（GPU）和平台。這款新型GPU將帶來顯著的性能提升，為AI應用開發者提供更大的計算能力和效率。
圖片來源：NVIDIA - Blackwell GPU
新型的「Blackwell」GPU採用了台積電定制的4NP製程，每個矽集成了超過1,040億個電晶體，並搭載了192GB的HBM3e記憶體，提供8TB/s的記憶體頻寬。相較於上一代「Hopper」，Blackwell GPU在AI效能方面提升了5倍，並且擁有更大的晶體管數量和記憶體容量。這款GPU可以應用於現有基礎架構的HGX配置，也可以與Grace CPU結合，提供更高效的計算能力和更大的內存空間。其支援的新FP4格式運算將顯著推動生成式人工智慧AI的發展。
圖片來源：NVIDIA GTC - 黃執行長介紹 Blackwell GPU（左）和 Hopper GPU（右）
此外，NVIDIA還宣布將推出生成式AI的微服務，以幫助企業更輕鬆地構建和利用優化的生成式AI環境。透過提供合作夥伴們在雲端基礎設施中使用Blackwell GPU和平台，為開發人員提供更多的選擇和支持，加速人工智慧應用程式的開發和部署。
這次的GTC 2024活動對於NVIDIA來說是一個重要的里程碑，展示了該公司在AI技術領域的最新進展和未來發展方向。隨著Blackwell GPU和相關平台的推出，我們可以預見在生成式AI時代將迎來更加革命性的應用和創新。
近期熱門文章：