EE Awards / Arm / Arm Kleidi (KleidiAI and KleidiCV)
Arm Kleidi (KleidiAI and KleidiCV)
Candidate for:EE Awards - AI Solution Platform
1. 具彈性的各種核心組合
Arm Kleidi 提供具有彈性的各種核心組合,協助在框架上強化人工智慧。在 Arm 架構上提供廣泛的多面向人工智慧進展成果,從實現更多人工智慧功能、提升人工智慧準確性、到加速或減少記憶體負擔。

2. 精簡、高效且輕量
全新 KleidiAI 及 KleidiCV 效能函式庫非常輕量精簡,沒有記憶體配置,也沒有其他函式庫相依性或二進位版本,因此更容易採用,並能快速高效地整合至現有框架程式碼基底。

3. 釋放大眾市場的人工智慧效能
Kleidi 可於框架層級最佳化人工智慧,而每項最佳化都能讓數十億個 Arm 架構裝置的數百項工作負載從中獲益。應用程式開發人員只要在 Kleidi 最佳化框架執行模型,就能依預設達成頂尖效能。

4. 實現大規模的生成式人工智慧
Kleidi 可協助以最輕鬆快速的方式,讓作業最繁重的人工智慧推論工作負載部署於 Arm。KleidiAI 函式庫可在爆炸性成長的生成式人工智慧及大型語言模型 (LLM) 市場中導入同級最佳效能,部署範圍涵蓋雲端資料中心至邊緣的受限裝置。

5. 讓所有人隨處享有最佳化人工智慧
Kleidi 的目標是在全系列的 Arm Neoverse 及 Arm Cortex-A CPU 產品中,從雲端至邊緣輕鬆地促成最佳化。效能函式庫利用特定技術在 Arm 架構強化人工智慧功能,例如 Arm Neon、Arm 可擴展向量延伸指令集 (SVE) 及 Arm 可擴展矩陣延伸指令集 (SME)。

6. 降低開發人員所需費用
Arm Kleidi 函式庫的願景是將其直接整合至關鍵人工智慧框架中,包括 MediaPipe (透過 XNNPACK)、LLAMA.ccp、PyTorch (透過 ExecuTorch) 及 TensorFlow Lite (透過 XNNPACK)。

整合後,開發人員就能自動享有 Kleidi 最佳化框架的效能強化效益,無須承受任何直接費用。
Malicious vote manipulation is expressly forbidden in this voting event. The organizers reserve the right to evaluate the fairness and accuracy of the voting results. AspenCore retains the authority to interpret the rules of this event.