NVIDIA 今年年中推出的DGX Spark 和 DGX Station個人 AI 超級電腦系統,旨在滿足不同的使用者需求和工作負載。合作的廠商有Acer、ASUS、Dell Technologies、GIGABYTE、HP、聯想及 MSI,相關產品已陸續在市面推出,如聯想ThinkStation PGX。 以下是DGX Spark 和 DGX Station的規格和用途的詳細比較:
就硬體規格而言:
DGX Spark
-晶片:搭載 NVIDIA GB10 Grace Blackwell 超級晶片。
-記憶體:128GB 統一記憶體。 AI 運算能力:高達 1 petaflops。
-外型尺寸:緊湊便攜,尺寸與迷你 PC 相仿,適合個人開發者和小團隊使用。
-目標使用者:面向需要強大且便攜的解決方案來快速建立原型和微調 AI 模型的研究人員、開發者和學生。
DGX Station
-晶片:配備更強大的 NVIDIA GB300 Grace Blackwell Ultra 超級晶片
-記憶體:784GB 統一記憶體
-AI 運算能力:高達 20 petaflops,適合處理更大更複雜的 AI 模型
-外形尺寸:更大的桌上型機塔式機箱,專為更嚴苛的工作負載和多用戶環境而設計。
-目標使用者:專為企業級應用、高強度模型訓練和多使用者場景而設計,是從事大規模 AI 團隊的理想之選。
就效能和用例而言,DGX Spark 針對快速原型設計和 AI 應用而開發,能高效運行小型模型並執行推理任務,這使開發人員能夠在對可移植性要求極高的環境中工作,例如學術機構或小型創業公司。DGX Station 專為需要大量計算資源的密集型 AI 工作負載,憑藉其先進的多實例 GPU 技術,支援多個用戶同時運行;該技術允許將計算劃分為多個實例以執行不同的任務;其大規模 AI 模型訓練和推理,使其適用於需要強大計算能力的研究機構和企業。
就連接性和可擴展性而言,DGX Spark 提供與 NVIDIA DGX Cloud 和其他雲端基礎架構的無縫集成,從而輕鬆部署和擴展模型,能高速連接選項,但不如 DGX Station 的選項豐富。DGX Station 配備 NVIDIA ConnectX-8 SuperNIC 的高級網路功能,支援高達 800Gb/s 的速度,這對於高效能運算環境至關重要,增強的可擴展性選項,適用於更大的團隊和項目,使其成為協作式 AI 開發的集中式運算節點。
換言之,NVIDIA DGX Spark 是一款緊湊便攜的解決方案,非常適合專注於快速 AI 開發的個人開發者和小團隊;而 DGX Station 是一款功能強大的大型系統,專為需要大量計算資源和多用戶功能的企業級應用而設計。