緯穎 GTC 大會秀新品!搭載 GB200 NVL72助 LLM 飆升30倍速

刊登日期:2024/3/19 下午 05:13:31 資料來源:經濟日報
緯穎作為 NVIDIA 緊密的合作夥伴,緯穎目標在滿足生成式AI時代對大規模運算能力和先進冷卻解決方案不斷增長的需求。據悉公司不僅是較早卡位 NVIDIA 的業者,並且更是首批搭載GB200 NVL72的公司之一。此次全新發表的 NVIDIA GB200 Grace™ Blackwell Superchip支援最新的 NVIDIA Quantum-X800 InfiniBand 和 Spectrum™-X800 乙太網路平台。與上一代 GPU 相比,不僅將生成式AI提升到兆級參數的規模,並且實現了30倍速快的即時大型語言模型(LLM)推理速度,並且降低25倍的 TCO 和25倍的能源消耗。憑藉在高速資料傳輸、功耗效率、系統整合和先進冷卻方面的優勢,緯穎致力於打造最佳化的整機櫃液冷AI解決方案,以滿足客戶對資料中心基礎設施在性能、可擴展性和多樣性的需求。緯穎總經理暨執行長張順來博士表示:我們很高興成為首批搭載 NVIDIA GB200 NVL72的合作夥伴之一,並於與NVIDIA 在 GTC 2024展示我們合作的創新設計。透過我們的 GB200 AI機櫃解決方案,我們將為客戶提供卓越的運算能力,同時確保可客製化的彈性,以滿足資料中心在擴展、靈活性和管理方面的多樣需求。張順來強調,我們將持續與 NVIDIA 合作,為生成式AI時代的資料中心共同開發優化和可持續的解決方案。NVIDIA GPU 產品部門副總裁 Kaustubh Sanghani 表示,緯穎提供可應用於不同產業的可擴展且安全的 NVIDIA 加速運算產品。透過我們的 NVIDIA GB200 NVL72系統,緯穎致力於創新現代的資料中心,推動一個運算新時代。