英芯科技不僅提供具高度競爭力的 NPU IP 外,更創新地提供從 AI 模型設計、IP 開發到 SOC 整合的一站式AI解決方案平臺AsicAI™ Link,這套服務能將 AI功能快速整合至晶片中,顯著提升部署效率,從而加速 AI 技術普及與廣泛應用落地。
一站式服務核心為一套全面且高效的軟體工具與應用程式介面組合,能簡化 AI 應用從概念到實現的全過程,提供清晰、高效的標準化工作流程。特色與優勢包括:
.AI 模型之硬體友善度確認:會自動分析需要部署的 AI 模型運算元,確保它能最大限度地利用英芯科技神經網路處理器 (NPU IP)
.支援主流模型框架:支援主流的 PyTorch、TensorFlow 和 Caffe 等模型,無需耗費大量時間進行模型轉換,能輕鬆移植到硬體平臺
.極致效能與資源優化:能對模型進行輕量化和性能優化,包括關鍵的模型量化 技術,在保持推論精度的前提下,有效降低延遲、縮小模型尺寸。透過將浮點數運算轉換為效率更高的整數運算,我們實測數據顯示,模型體積可平均縮小2-4倍,而推理速度則可提升4-16倍。顯著減少功耗與記憶體佔用,創造更快、更節能的 AI 應用。
.客製化模型編譯:針對不同應用場景對性能與泛用性提供兩套編譯方式,包括通用編譯與進階編譯。通用編譯無需針對特定硬體進行預編譯,能即時編譯並運行出結果,適用於一般應用。進階編譯為若終端應用對低延遲或記憶體限制有更高要求,英芯科技會進行進階且客製化編譯,讓模型在推理時發揮更高的效能與效率。
這套服務已成功吸引了多家指標性上市 IC 設計公司洽談技術合作與解決方案導入,其中兩家上市 IC 公司客戶已成功導入大規模量產階段,其中應用於微軟Human Presentation Detection 應用功能的 AI 晶片也獲得了國際領先的筆記型電腦製造大廠的青睞與採用,預計將於2025年底前正式上市。此外,我們也成功承接了業界前沿的7奈米製程 AI 晶片設計服務專案,提供從 NPU IP 設計, 整合到完整的系統單晶片(SoC)設計的統包(turnkey)解決方案服務。