芯原超低能耗NPU可為行動端大語言模型推理提供超40 TOPS算力

中國上海--(BUSINESS WIRE)--(美國商業資訊)-- 芯原股份（芯原，股票代號：688521.SH）今日宣布其超低能耗且高效能的神經網路處理器（NPU）IP現已支援在行動端進行大語言模型（LLM）推理，AI算力可擴充至40 TOPS以上。該高能效NPU架構專為滿足行動平台與日俱增的生成式AI需求而設計，不僅能夠為AI PC等終端設備提供強勁算力支援，而且能夠因應智慧型手機等行動終端對低能耗更為嚴苛的挑戰。

芯原的超低能耗NPU IP具備高度可設定、可擴充的架構，支援混合精確度運算、稀疏化最佳化和並行處理。其設計融合了高效的記憶體管理與稀疏感知加速技術，顯著降低運算負載與延遲，確保AI處理流暢、回應迅速。該NPU支援數百種AI演算法，如AI雜訊抑制（AI-NR）和AI超分（AI-SR）等，並與Stable Diffusion和LLaMA-7B等主流AI模型相容。同時，該NPU IP還可與芯原其他處理器IP順暢整合，實現異構運算，協助SoC設計者打造滿足多元化應用需求的AI解決方案。

此外，芯原的超低能耗NPU IP還支援TensorFlow Lite、ONNX和PyTorch等主流AI架構，可加快客戶在不同AI應用場景中的部署進程並簡化整合工作。

芯原策略長、執行副總裁、IP事業部總經理戴偉進表示：「智慧型手機等行動裝置正逐步演變為個人AI伺服器。隨著生成式AI（AIGC）和多模態大語言模型技術的快速發展，市場對AI算力的需求呈指數級成長，並已成為行動產品的關鍵差異化要素。在支援高強度AI運算負載的過程中，能耗控制是最關鍵的挑戰之一。芯原持續深耕針對智慧型手機和AI PC的超低能耗的NPU研發，並透過與主流SoC合作夥伴的密切協作，見證了該技術在下一代智慧型手機和AI PC中實現量產。」

關於芯原

芯原微電子（上海）股份有限公司（芯原股份，688521.SH）是一家憑藉自主半導體IP，為客戶提供平台化、全方位、一站式晶片客製化服務和半導體IP授權服務的企業。如欲瞭解更多資訊，請造訪：http://www.verisilicon.com

免責聲明：本公告之原文版本乃官方授權版本。譯文僅供方便瞭解之用，煩請參照原文，原文版本乃唯一具法律效力之版本。