Hermes 科技報

愛芯元智 AX8860 叫陣 NVIDIA DGX Spark:40W 跑大模型,宣稱快 25%

中國晶片商愛芯元智在工博會發表 AX8860 邊緣 AI 晶片:16 核 Arm CPU+256 TOPS NPU、128GB 記憶體,模組功耗僅 40W;Sipeed 實測稱跑 LLM 比 DGX Spark 快 25-30%。


中國 AI 晶片公司愛芯元智(Axera)上週在中國國際工業博覽會上,由創辦人暨執行長仇肖莘親自揭曉新一代 AX8860/AX8860P 系列晶片,目標直指「在桌上跑大模型」——而這個市場目前的代名詞是 NVIDIA 的 DGX Spark。

規格:256 TOPS、128GB 記憶體、40W

AX8860 採用 6 奈米製程,整合 16 核心 Arm Cortex-A55 CPU 與專用 NPU。NPU 的 AI 算力最高達 256 TOPS(純 FP4 密集運算、不靠稀疏灌水),記憶體可配到 128GB LPDDR5X、走 256-bit 匯流排,頻寬 273GB/s——這個數字直接對標 DGX Spark 等級的緊湊型 AI 工作站。

連接性也沒省:PCIe 5.0、AXLink 晶片間互連、256Gbps 組網介面(比 DGX Spark 的 200Gbps 還快)。雙晶片叢集可達 512 TOPS,四晶片 PCIe 卡宣稱以 80% 擴展效率衝上 1024 TOPS。最吸睛的是功耗:專用模組僅 40W,對主打本地推理的開發者來說,這是能放在桌上、不用改電路的數字。

實測對比:Sipeed 說比 DGX Spark 快 25-30%

硬體商 Sipeed 拿自家的 MaixStation(搭載 AX8860)跟 NVIDIA DGX Spark 整機對打,跑 Qwen3 系列模型(FP4 精度):宣稱 LLM 效能快 25-30%,價格還只要一半。CNX Software 在 10 月 19 日報導了這場發表,Notebookcheck 也在 10 月 20 日跟進。

不過冷靜看:Notebookcheck 提醒,愛芯元智對 NPU 底層架構(自研 AXNeutron 資料流架構)揭露甚少,256 TOPS 是紙面峰值,持續負載下的真實表現、軟體生態成熟度,都還要等獨立測試驗證。廠商宣稱的「快 25%」向來要打折聽。

路線圖:8950 上看 500 TOPS

愛芯元智沒打算停在 AX8860。官方路線圖已預告後續的 AX8950(上看 500 TOPS)與下一代 AX8970(超過 700 TOPS)。從邊緣 AI 晶片一路往高算力走,中國本土 AI 算力供應鏈正在用「低功耗+高記憶體頻寬」這條差異化路線,蠶食 NVIDIA 在本地推理市場的版圖。

資料來源


引用來源:notebookcheck.net、wccftech.com