2024-11-24

Supermicro透過領先業界的全新系統產品組合 將前瞻AI性能推向邊緣運算環境

2024-02-22
Supermicro透過領先業界的全新系統產品組合 將前瞻AI性能推向邊緣運算環境

記者黃俊育 / 綜合報導

Supermicro, Inc.（納斯達克股票代碼：SMCI）為AI、雲端、儲存和 5G/邊緣領域的全方位 IT 解決方案製造商，正在擴展其AI解決方案產品組合，讓客戶在公共空間、零售商店或工業基礎架構等邊緣位置能有效運用AI的強大性能。透過使用搭載NVIDIA GPU的Supermicro應用最佳化伺服器，可更輕鬆地微調預訓練模型（Pre-trained Model）及將AI推論解決方案部署在產生資料的邊緣端，進而縮短回應時間與改善決策。

Supermicro總裁暨執行長梁見後表示：「Supermicro擁有最多元的邊緣AI解決方案產品組合，能支援客戶用於邊緣環境的預訓練模型。Supermicro Hyper-E伺服器搭載兩個第五代Intel® Xeon®處理器並支援最多三個NVIDIA H100 Tensor Core GPU，能為邊緣AI提供無與倫比的效能。藉由這些具有最高8TB記憶體的伺服器，我們能將資料中心的AI處理性能帶至邊緣位置。隨著企業透過在邊緣端處理AI資料來建立競爭優勢，Supermicro也將繼續為產業提供最佳化解決方案。」

深入了解Supermicro邊緣AI解決方案，請造訪：www.supermicro.com/edge-ai

透過這些伺服器升級，如非必要情況，使用者不再需要將資料傳回雲端進行處理，再將資訊擷取回邊緣端。同時，客戶現在可以使用預先訓練且效能最佳化後的大型語言模型（LLM），並透過NVIDIA AI Enterprise在其邊緣位置使用，以便在靠近資料生成端進行即時、精準的決策。

NVIDIA合作夥伴聯盟副總裁Kevin Connors表示：「越來越多來自醫療保健、零售、製造和汽車等領域的企業有意在邊緣端運用AI技術。Supermicro的全新NVIDIA認證系統由NVIDIA AI平台所驅動，提供了最高效能的加速運算基礎架構，並透過NVIDIA AI Enterprise軟體協助運行邊緣 AI 工作負載。」

例如，Supermicro的Hyper-E伺服器SYS-221HE系列便針對邊緣訓練和推論進行了最佳化，而其具備短機身與前置 I/O設計的系統機型搭載了雙路CPU。此系統最多容納三個雙寬NVIDIA Tensor Core GPU，包括NVIDIA H100、A10、L40S、A40和A2 GPU。這些GPU為Supermicro Hyper-E提供足夠的運算能力，可在收集、分析和儲存資料的邊緣端處理AI 工作負載。Supermicro SYS-221HE也提供前置或後置維運選項，使這些伺服器可被安裝在各種環境內。包括Eviden等合作夥伴正在打造邊緣AI解決方案，進而改善傳統零售商店內的客戶體驗，這些即為Supermicro Hyper-E伺服器的性能和靈活性可被運用的範例。

Supermicro的先進邊緣伺服器還包括：

  • Supermicro SYS-621C-TNR12R（CloudDC系列）是一款適用於雲端資料中心的一體成型機櫃式平台。這款緊湊型2U系統能在其25.5吋機箱內支援最多兩個雙寬GPU和4至12個SATA/SAS磁碟槽。這些磁碟槽可選擇性搭配完整NVMe支援。
  • Supermicro SYS-111E-FWTR是一款高密度邊緣系統。該系統高度為1U，並搭載第五代Intel Xeon處理器和兩個PCIe 5.0 x16 FHFL插槽，非常適合用於各種網路和邊緣應用。
  • 緊湊型Supermicro SYS-E403-13E可搭載第五代Intel Xeon處理器和最多三個NVIDIA GPU，並透過其Box PC機型規格提供資料中心等級的效能。該系統的緊湊機體設計使其能被部署在狹小空間內，例如壁掛式機櫃中，或作為可攜式裝置使用。
  • 超短機身SYS-211E-FRN2T的系統深度為300mm，專為空間有限的網路邊緣環境所設計。該系統可搭載最高第五代Intel Xeon處理器，並提供AC或DC電源設計選項。
  • SYS-211SE-31D/A做為強大且多功能的SuperEdge系統之一，是具有三個獨立節點的多節點系統。此系統每個節點均具有第五代Intel Xeon處理器、三個PCIe 5.0 x16插槽和最高2TB的DDR5記憶體。這款2U系統不但具有前置I/O和寬廣運行溫度範圍，其短機身設計更是非常適合資料中心外部的部署。
  • SYS-E300-13AD是一款緊湊型物聯網伺服器。該伺服器搭載第13代Intel Core處理器，機型尺寸僅265x226mm，是能容納NVIDIA GPU的最小系統，十分適合為邊緣端提供分散式AI性能。

歡迎蒞臨Supermicro在2024年世界行動通訊大會（Mobile World Congress 2024）內的展位。該大會在西班牙巴塞隆納內舉辦，Supermicro展位位於2 號廳內的2D35展場位置。

零售業智慧應用專家StoreGenius執行長Jacque Istok表示：「Eviden的 AI零售解決方案是基於Supermicro邊緣系統和NVIDIA技術，徹底改變了人們在商店等空間內導覽和互動的方式。透過商店的3D模型和能傳達適當資訊的互動式聊天機器人，此解決方案為客戶提供互動式且個人化的購物模式，進而改善購物體驗。融合逼真的臉部動畫、先進的語音辨識和3D建模，使虛擬購物幾乎如同在實體商店一樣真實。」