雷遞網 樂天 8月10日
(資料圖片僅供參考)
英偉達日前發布新一代NVIDIAGH200GraceHopper?平臺,英偉達稱,該平臺基于全球首款搭載HBM3e處理器的GraceHopper超級芯片,專為加速計算和生成式AI時代而構建。
新平臺專為處理大語言模型、推薦系統、矢量數據庫等全球最復雜的生成式AI工作負載而構建,將提供多種配置選擇。
該平臺采用雙配置——提供的內存容量和帶寬比當前產品分別增加了3.5倍和3倍——包括一個擁有144個ArmNeoverse內核、8petaflops的AI性能和282GB最新HBM3e內存技術的單個服務器。
NVIDIA創始人兼首席執行官黃仁勛表示:“為了滿足對生成式AI不斷激增的需求,數據中心需要能夠滿足特定需求的加速計算平臺。全新GH200GraceHopper超級芯片平臺以出色的內存技術和帶寬,提高了吞吐量,在不影響性能的情況下可連接多GPU以整合性能,并且具有可以輕松部署到整個數據中心的服務器設計。”
新平臺采用了GraceHopper超級芯片,可以通過NVIDIANVLink?與其他超級芯片連接,使它們能夠協同工作,從而部署當下大型生成式AI模型。這種高速、一致性技術使GPU可以完全訪問CPU內存,在雙配置中可提供總計1.2TB的快速內存。
HBM3e內存比當前HBM3快50%,可提供總計10TB/s的帶寬。這使得新平臺能夠運行比上一版本大3.5倍的模型,同時憑借快3倍的內存帶寬提升性能。
英偉達表示,預計業界領先的系統制造商將于2024年第二季度開始交付搭載該平臺的系統。
日前,有外媒披露,百度、字節跳動、騰訊和阿里巴巴已下價值10億美元的訂單,將從英偉達(NVDA.O)購買約10萬顆A800處理器,這些處理器將于2023年交付。兩位接近英偉達的人士表示,這些企業還購買了價值40億美元的GPU處理器,將于2024年交付。
早前,大眾對人工智能的熱情高漲之際,大多數互聯網巨頭的庫存芯片都不到幾千個,這些芯片可用于訓練大型語言模型。從那時起,這些芯片的價格開始飆升。
如今,隨著部分大模型的落地,及芯片的交付,英偉達的股價反而破防。截至今日收盤,英偉達股價為425.54美元,較前一日大跌4.72%,公司市值仍高達10511億美元。
雷遞由資深媒體人雷建平創辦,若轉載請寫明來源。
標簽:
Copyright @ 2008-2020 www.zbyitongzhileng.cn 華夏財富網 版權所有 聯系郵箱:3960 29142@qq.com