ベリシリコンの超低消費電力NPUが、モバイルアプリケーションにおけるオンデバイスLLM推論で40 TOPS超を実現

上海--(BUSINESS WIRE)--（ビジネスワイヤ） -- ベリシリコン（688521.SH）は、超低エネルギーで高性能なニューラル・ネットワーク・プロセッシング・ユニット（NPU）IPが、40TOPSを超えるAIコンピューティング性能を持つ大規模言語モデル（LLM）のオンデバイス推論をサポートすると発表しました。このエネルギー効率に優れたNPUアーキテクチャは、モバイル・プラットフォーム上の生成AI機能に対する需要増を満たすよう特別に設計されています。このアーキテクチャは、AI PCやその他のエンドデバイスに強力なコンピューティング性能を提供するだけでなく、AIフォンやその他のモバイル・プラットフォームでますます厳しくなるエネルギー効率の課題にも対処するよう最適化されています。

ベリシリコンの超低エネルギーNPU IPは、高度に設定可能で拡張性があるアーキテクチャ上に構築されており、混合精度計算、高度なスパース性最適化、並列処理をサポートしています。その設計には、効率的なメモリ管理とスパース性を考慮したアクセラレーションが組み込まれており、計算オーバーヘッドとレイテンシを削減し、スムーズで応答性の高いAI処理を実現します。AI-NR、AI-SRのほか、ステーブル・ディフュージョンやLLaMA-7Bを含む主要なAIモデルなど、何百ものAIアルゴリズムをサポートしています。さらに、ベリシリコンの他のプロセッシングIPとシームレスに統合できるため、ヘテロジニアス・コンピューティングが可能になるほか、SoC設計者は多様なアプリケーション・ニーズを満たす包括的なAIソリューションを開発できるようになります。

ベリシリコンの超低消費電力NPU IPは、TensorFlow Lite、ONNX、パイトーチなどの一般的なAIフレームワークもサポートしていることから、さまざまなAIユースケース全体で顧客の展開が加速し、簡素化された統合が行えます。

ベリシリコンの最高戦略責任者（CSO）兼上級副社長兼IP事業部ゼネラル・マネジャーであるウェイ・ジンダイは、「スマートフォンなどのモバイル機器は、パーソナルAIサーバーへと進化しつつあります。AIGCとマルチモーダルLLM技術の急速な進歩に伴い、AIコンピューティングの需要は飛躍的に高まっており、モバイル製品における重要な差別化要因になりつつあります」とし、「このような高いAIコンピューティング・ワークロードをサポートする上で最も重要な課題の1つは、エネルギー消費の制御です。ベリシリコンは、AIフォンやAI PC向けの超低エネルギーNPU開発に継続的に投資してきました。主要なSoCパートナーとの緊密な連携を通じて、当社の技術が次世代AIフォンやAI PC向けのシリコンで実現されたことをうれしく思います」と語りました。

ベリシリコンについて

ベリシリコンは、プラットフォームベースの包括的な自己完結型カスタム・シリコン・サービスと、自社の半導体IPを活用した半導体IPライセンス供与サービスをお客様に提供することに尽力しています。詳細情報は、 www.verisilicon.com

本記者発表文の公式バージョンはオリジナル言語版です。翻訳言語版は、読者の便宜を図る目的で提供されたものであり、法的効力を持ちません。翻訳言語版を資料としてご利用になる際には、法的効力を有する唯一のバージョンであるオリジナル言語版と照らし合わせて頂くようお願い致します。