Supermicro 推出業內首個 NVIDIA HGX H100 液冷式 8 及 4-GPU H100 伺服器 – 降低數據中心高達 40% 的電力成本
液冷式大型 AI 訓練基礎建設作為整體機架綜合解決方案提供,可加速部署、提高效能以及降低環保總成本
加利福尼亞州聖荷西及德國漢堡 2023年5月22日 /美通社/ -- Supermicro, Inc. (納斯達克股票代碼:SMCI),一個雲端、人工智能 (AI) /機器學習 (ML)、存儲和 5G/邊緣 (Edge) 的一站式解決方案供應商,以液冷式 NVIDIA HGX H100 機架規模 (rack scale) 解決方案持續擴展其數據中心的服務。完全由 Supermicro 提供的改良液冷技術,可減少完整安裝的前導時間,提高性能,降低營運費用,同時顯著減少數據中心的 PUE。與風冷式數據中心相比,使用 Supermicro 液冷解決方案估計能為數據中心節省 40% 的電力。此外,與現有的數據中心相比,可減少高達 86% 的直接冷卻成本。
「Supermicro 持續引領行業,支援嚴苛的 AI 工作負載需求及全球的現代數據中心。」Supermicro 主席兼行政總裁 Charles Liang 說。「使用我們液冷技術的創新性 GPU 伺服器,可顯著降低數據中心的電力需求。啟用現今快速發展的大規模 AI 模組需要大量電力,優化總體擁有成本 (TCO) 及總體環境成本 (TCE) 對數據中心營運商來說十分重要。我們在設計及建設整個高性能伺服器機架方面擁有成熟的專業知識。這些 GPU 系統從頭到尾都是為液冷式機架規模整合而設計,旨在提供優越性能、效率以及便利的部署,讓我們能夠在較短前導時間內滿足客戶的需求。」
欲了解更多有關 Supermicro GPU 伺服器的資訊,請瀏覽:https://www.supermicro.com/en/products/gpu
最新的 Supermicro 產品系列及 AI 優化機架,包括 Intel 及 AMD 伺服器產品系列,能根據標準工程模板快速交付,或輕易地根據用戶的獨特要求訂制。Supermicro 繼續提供業內最廣泛的產品系列,有著最高性能的伺服器及存儲系統,以解決複雜的計算密集型項目。機架規模整合解決方案為客戶提供信心,可讓他們插入機架,連接到網絡,相比於自己管理技術,能更快地提高生產力。
頂級液冷式 GPU 伺服器包含雙 Intel 或 AMD GPU,及八個或四個相互連接的 NVIDIA HGX H100 Tensor Core GPU。使用液冷可減少數據中心高達 40% 的電力消耗,從而降低營運成本。此外,這兩個系統都明顯地超越了上一代配備 NVIDIA HGX GPU 的系統,在現今的大型變換器模型中,以更快的 GPU-GPU 互連速度及基於 PCIe 5.0 的網絡和存儲,提供高達 30 倍的性能及效率。
Supermicro 為現今最大規模的 AI 模組所提供的八個最先進的 NVIDIA H100 SXM5 Tensor Core GPU 伺服器包括:
- SYS-821GE-TNHR –(兩個第 4 代 Intel Xeon 可擴展 CPU,NVIDIA HGX H100 8 GPU,8U)https://www.supermicro.com/en/products/system/GPU/8U/SYS-821GE-TNHR
- AS -8125GS-TNHR –(兩個第 4 代 AMD EPYC CPU,NVIDIA HGX H100 8 GPU,8U)https://www.supermicro.com/en/products/system/GPU/8U/AS-8125GS-TNHR
- Supermicro 亦設計了一系列可訂製的 GPU 伺服器,用於快速 AI 訓練、大量 AI 推論或 AI 融合 HPC 工作負載,包括配有四個 NVIDIA H100 SXM5 Tensor Core GPU 的系統。
- SYS-421GU-TNXR –(兩個第 4 代 Intel Xeon 可擴展 CPU,NVIDIA HGX H100 4 GPU,4U)https://www.supermicro.com/en/products/system/GPU/4U/SYS-421GU-TNXR
- SYS-521GU-TNXR -(兩個第 4 代 Intel Xeon 可擴展 CPU,NVIDIA HGX H100 4 GPU,5U)https://www.supermicro.com/en/products/system/GPU/4U/SYS-521GU-TNXR
Supermicro 的液冷機架水平解決方案包括一個冷卻液監控主機 (CDU),為現今最高的 TDP CPU 及 GPU 提供高達 80kW 的直接晶片 (D2C) 冷卻,適用於廣泛類型的 Supermicro 伺服器。額外及可熱插拔的電源及液冷泵,將確保伺服器在電源或泵發生故障時仍會持續冷卻。防漏連接器為客戶對所有系統的持續液冷提供了更大的信心。欲了解更多有關 Supermicro 液冷系統,請瀏覽: https://www.supermicro.com/en/solutions/liquid-cooling
機架規模設計及整合已成為系統供應商的一項關鍵服務。隨著 AI 及 HPC 成為機構內愈來愈關鍵的技術,從伺服器層面到整個數據中心的配置都需要優化和設定,以將性能最大化。Supermicro 的系統及機架規模專家與客戶緊密合作,以探索需求,並擁有向全球客戶提供大量機架的知識及製造能力。
閱讀有關 Supermicro 大規模 AI 解決方案的簡介 - https://www.supermicro.com/solutions/Solution-Brief_Rack_Scale_AI.pdf
Supermicro 在 ISC 上
若想探索這些科技,並與我們的專家會面,請計劃參與德國漢堡於 2023 年 5 月 21 日至 25 日的2023 年 ISC 高性能活動,參觀 Supermicro 在 D405 的攤位。
關於 Super Micro Computer, Inc.
Supermicro(納斯達克股票代碼:SMCI)是應用優化的一站式 IT 解決方案的全球領導者。Supermicro 在加利福尼亞州聖荷西創立並經營,致力於為企業、雲端、AI 和 5G 電信/邊緣 IT 基礎設施提供市場創新。我們正在轉變為提供伺服器、人工智能、存儲、物聯網、交換系統、軟件和服務的一站式 IT 解決方案提供商,同時帶來先進的大容量主板、電源和機箱產品。這些產品在公司內部設計和製造(美國、台灣和荷蘭),利用全球運營來實現規模和效率,經過優化以改善擁有權總成本並減少環境影響(綠色計算)。屢獲殊榮的 Server Building Block Solutions® 產品組合允許客戶從廣泛的系統中進行選擇,從而精確地優化其工作負載和應用。這些系統基於我們靈活且可重複使用的構建塊,支持各種各樣的外形尺寸、處理器、內存、繪圖處理器、存儲、網路、電源和冷卻解決方案(冷氣機、自然風冷或液冷)。
Supermicro、Server Building Block Solutions 和 We Keep IT Green 是 Super Micro Computer, Inc. 的商標和/或註冊商標。
英特爾、英特爾標識和其他英特爾標誌是英特爾公司或其子公司的商標。
所有其他品牌、名稱和商標均為其各自所有者的財產。