AMD Instinct™ MI350系列GPU採用頂尖的全新第4代 AMD CDNA™架構,配備強大且節能的核心、高達288GB的HBM3E記憶體和8TB/s頻寬,透過支援新一代FP6和FP4資料類型(包括矩陣稀疏性),重新定義AI加速,以實現閃電般的AI推論和訓練,為生成式AI和高效能運算(HPC)樹立效能、效率和可擴展性的全新標竿。
AMD Instinct MI350系列包含Instinct MI350X和MI355X GPU及Instinct平臺,相較於上一代產品,提供4倍的AI運算能力提升及35倍的推論能力躍進,助力各產業實現變革性AI解決方案。相較於競爭對手,MI355X OAM 288GB較NVIDIA B200 SXM5 180GB帶來高達2.1倍的AI效能、2.1倍的HPC效能以及1.6倍的記憶體容量。同時,MI355X在性價比方面亦帶來顯著提升,相較於競爭對手解決方案,每美元可產生多達40%的Token。
AMD Instinct MI350系列平臺透過第4代AMD Infinity Fabric™技術,將8個完全互連的MI355X或MI350X GPU OAM模組整合到業界標準的OCP設計中,並具備領先業界的2.3TB HBM3E記憶體容量,以實現高輸送量的AI處理。這些即時部署的平臺支援多種系統,從標準氣冷式UBB伺服器到超高密度直接液冷(DLC)平臺,有助於在將AMD Instinct MI350系列GPU整合到現有的AI機架和伺服器基礎設施時,加速上市時間並降低開發成本。
全球各大超大規模雲端供應商(hyperscaler)、模型建構商與AI公司已廣泛部署AMD Instinct加速器,包括Meta、OpenAI、微軟、Oracle Cloud Infrastructure (OCI)和xAI等。