摘要
NVIDIA在2024年Hot Chips大會前展示了其Blackwell平台的最新進展,包括正在安裝的伺服器和內部硬體細節。該公司重申了其數據中心和AI路線圖,包括明年推出Blackwell Ultra,2026年推出Vera CPU和Rubin GPU。NVIDIA還展示了H200的性能提升、FP4 LLM優化、溫水液冷技術,以及利用AI設計更好的AI晶片等創新。這凸顯了NVIDIA在AI和數據中心領域持續創新和領先地位。
重點
- NVIDIA展示了正在安裝的Blackwell伺服器,暗示該平台即將推出
- 公司重申了包括Blackwell Ultra、Vera CPU和Rubin GPU在內的數據中心和AI路線圖
- H200使用NVSwitch可將推理工作負載性能提高1.5倍
- 新的FP4支援和Quasar量化系統可在不犧牲準確性的情況下提高效能
- 溫水液冷技術可將數據中心電力使用減少28%
- NVIDIA開發內部LLM來加速晶片設計和優化過程
- Blackwell被描述為一個完整的平台和生態系統,而不僅僅是一個GPU
NVIDIA的Blackwell平台將在以下幾個方面對AI和數據中心領域帶來重大改變:
- 性能提升:Blackwell將NVLink帶寬提高一倍,可以進一步提升AI工作負載的性能。
- FP4優化:Blackwell原生支持FP4,通過NVIDIA的Quasar量化系統優化後,可以在保持FP16質量的同時只使用1/4的帶寬。
- 冷卻技術:NVIDIA正與合作夥伴開發溫水冷卻技術,可將數據中心功耗減少28%,並可能重複利用熱水進行供暖。
- AI輔助設計:NVIDIA使用內部開發的LLM來加速芯片設計、調試、分析和優化過程,這有助於開發更先進的AI芯片。
- 完整平台:Blackwell不僅是一個GPU,而是一個完整的平台和生態系統,包括服務器、交換機和互連技術。
- 未來路線圖:Blackwell為NVIDIA未來幾年的AI發展奠定基礎,之後還將推出Vera CPU和Rubin GPU等產品。
Blackwell平台將通過性能提升、效率優化和完整解決方案,推動AI和數據中心技術的進一步發展。
Nvidia是一家美國跨國科技公司,總部位於加州聖克拉拉。以下是對Nvidia及其近期產品的介紹:
公司背景:
- 成立於1993年,專注於圖形處理器(GPU)和系統晶片(SoC)的設計與製造。
- 在遊戲,專業視覺化,數據中心和人工智能領域佔有重要地位。
- 近年來在AI和深度學習領域表現突出,成為市場領導者。
主要產品線:
- GeForce: 面向消費者的GPU系列,用於遊戲和個人電腦。
- Quadro: 專業視覺化GPU,用於工程設計,影視製作等。
- Tesla: 數據中心和AI計算用GPU。
- DRIVE: 自動駕駛汽車平台。
- Jetson: 嵌入式AI計算平台。
近期重要產品:
- GeForce RTX 40系列:
- 基於Ada Lovelace架構
- 包括RTX 4090, 4080, 4070 Ti等型號
- 提供更強大的光線追蹤和AI性能
- H100 Tensor Core GPU:
- 基於Hopper架構
- 專為AI和高性能計算設計
- 大幅提升AI訓練和推理效能
- Grace CPU:
- Nvidia首款數據中心CPU
- 基於Arm架構設計
- 針對大規模AI和高性能計算優化
- DRIVE Thor:
- 新一代自動駕駛汽車SoC
- 整合了GPU和CPU功能
- 提供高達2000 TOPS的AI性能
- Jetson Orin:
- 新一代嵌入式AI計算模組
- 適用於機器人,智慧城市等場景
- 提供最高275 TOPS的AI性能
Nvidia近年來在AI,數據中心和自動駕駛等領域持續創新,產品線不斷擴展和升級,保持了在GPU和AI計算領域的領先地位。
參考資料：
https://www.tomshardware.com/tech-industry/artificial-intelligence/nvidia-shows-off-blackwell-server-installations-in-progress-ai-and-data-center-roadmap-has-blackwell-ultra-coming-next-year-with-vera-cpus-and-rubin-gpus-in-2026
