場景需求等繼續追趕
。引硬件而是场英一個開發者大會 。B200采用定製的伟达、Blackwell GPU的开启AI性能達到Hopper的5倍
。以支持新型AI基礎設施運行萬億參數級生成式AI業務 。向软型中國是引硬件全球產業鏈中重要的一環
。我們很難追上英偉達 ,场英在統一的伟达Blackwell平台下 ,包含了采用全新架構Blackwell的开启GPU B200和GB200係列芯片,安全AI和新解壓縮引擎
,向软型答案就是引硬件更大的芯片
。需要8000張Hopper GPU,场英”黃仁勳如此說。伟达英偉達最新一代AI芯片的开启定價在3萬至4萬美元 ,本屆GTC雖然新GPU吸人眼球
,向软型是往回收錢的一個過程,而Hopper架構隻有800億個晶體管 ,如果要訓練一個1.8萬億參數量的GPT模型
,第五代NVLink網絡技術、
除了超大尺寸的AI超級芯片
,可謂是AI芯片的性能天花板。
近日
,據介紹B200訓練萬億大模型的性能是H100的4倍,延續了前幾代(Pacal 、兩塊小芯片之間的互聯速度高達10TB/秒 ,
為什麽英偉達推出如此大尺寸的GPU ?黃仁勳表示 :“我們已經來到了一個臨界點 ,它代表的是一個平台,基於Omniverse Cloud API的新軟件框架等。亞馬遜等公司與Blackwell平台進行合作。訓練是前期投入燒錢的過程
,
有媒體報道
,英偉達Quantum-X800 InfiniBand網絡和Spectrum-X800以太網絡是全球首批端到端吞吐量高達800Gb/s的網絡平台,但黃仁勳宣布了穀歌、RAS引擎、
此外
,跑90天隻消耗四分之一的電力。它代表的是一個平台。還得是英偉達。這是向第一位入選美國國家科學院的黑人學者
、或是AI進入應用部署階段。新的GPU架構和技術也大大改善了能耗。英偉達在GTC上對外展示出新一代圖形計算平台Blackwell,基於GB200 NVL72AI超級計算平台DGX B200係統和新一代DGX SuperPOD AI超級計算機。
盡管英偉達還沒明確B200 GPU的上市時間,Blackwell又有些不一樣。英偉達還展示出Blackwell所具備的新特性
:第二代Transformer引擎
、而使用Blackwell GPU,比如推理微服務(NIM)、所以外觀尺寸也比前代大不少。采用Blackwell架構的GPU B200是最先被推出來的硬件新品 ,推理性能最多提升30倍
。就此黃仁勳回應稱:“我隻是試圖讓大家對我們產品的定價有一定的感受
,”
同時,雙reticle(光刻模板)的台積電4NP(4N 工藝的改進版本)工藝,隻需要2000張 ,
盡管國產AI芯片還很難追上英偉達GPU的步伐,多位產業分析師表示,然而,連續跑上90天。B200不是單一的GPU
,英偉達推出該係列的“全家桶”產品:GB200超級芯片(通過第五代NVLink-C2C互連技術將2個Blackwell架構的 GPU連接到1個Arm架構的Grace CPU)、Hopper)的命名邏輯。”
AI芯片的性能天花板
據了解,據介紹 ,推理是麵向用戶的 ,這才說明整個產業是在走向落地的。英偉達創始人兼首席執行官黃仁勳在開場演講中直言
:“這並不是一場演唱會 ,而並不打算給出具
能把一場技術大會辦得如Taylor Swift演唱會那樣火爆,英偉達能夠做什麽 ?當然,但正如黃仁勳所說,消耗15兆瓦的電力,”與非網資深行業分析師張慧娟認為,黃仁勳舉例稱 ,前者被稱為“地表最強算力AI芯片”,B200被英偉達稱為“新工業革命的引擎”。萬人會場座無虛席,數學家David Harold Blackwell致敬 ,微軟、Volta
、但是可以利用數據優勢 、”
《中國經營報》記者注意到
,而是由兩個緊密耦合的芯片組成,那麽
,
但相比前幾代 ,“我們的芯片中有大量的零部件產自中國” ,英偉達還推出全新網絡交換機X800係列,這是外界所矚目的地方。網絡計算性能達到14.4TFLOPS。這是英偉達的一個新階段,其擁有2080億個晶體管,可以支持多達10萬億個參數的AI大模型。“Blackwell不僅僅是一款芯片,在全新FP4精度下,
毋庸置疑
,
因此,
黃仁勳表示,但驚豔之處還在於英偉達的軟件服務,交換帶寬容量較前代產品提高5倍,據介紹 ,網絡計算能力通過英偉達第四代SHARP技術提高了9倍 ,基於GB200的GB200 NVL72(將36個CPU和72個GPU集成到1組巨大的液冷機架的大型超級運算產品)
、Ampere
、電子創新網CEO張國斌表示:“在製造工藝上的限製,因此需要一種新的計算方式來加速整個行業的發展效率。在這一輪AI浪潮下,
“這屆GTC講推理的次數遠遠大過講訓練。英偉達將全新的GPU架構命名為Blackwell ,英偉達2024 GTC(GPU Technology Conference)引發全球AI界的關注 ,