NPU com energia ultrabaixa da VeriSilicon fornece mais de 40 TOPS para inferência de LLM em dispositivos com aplicativos móveis

XANGAI--(BUSINESS WIRE)--A VeriSilicon (688521.SH) anunciou hoje que sua Unidade de Processamento de Rede Neural (NPU) IP com consumo extremamente baixo de energia e alto desempenho agora suporta inferência de grandes modelos de linguagem (LLMs) em dispositivos, com escalabilidade de desempenho de computação de IA além de 40 TOPS. Esta arquitetura de NPU com eficiência energética foi criada especificamente para satisfazer a crescente demanda por recursos de IA generativa em plataformas móveis. Ela não apenas oferece um potente desempenho computacional para PCs com IA e outros dispositivos finais, mas também é otimizada para atender aos desafios cada vez mais exigentes de eficiência energética de smartphones com IA e outras plataformas móveis.

Com base em uma arquitetura altamente configurável e escalável, a NPU IP com consumo extremamente baixo de energia da VeriSilicon suporta computação de precisão combinada, otimização avançada de dispersão e processamento paralelo. Seu design incorpora gerenciamento de memória eficiente e aceleração com reconhecimento de dispersão, o que reduz a sobrecarga computacional e a latência, garantindo um processamento de IA fluido e responsivo. Ele suporta centenas de algoritmos de IA, incluindo AI-NR e AI-SR, e os principais modelos de IA, como Stable Diffusion e LLaMA-7B. Além disto, pode ser perfeitamente integrado a outros IPs de processamento da VeriSilicon para possibilitar computação heterogênea, capacitando os projetistas de SoC a desenvolver soluções de IA abrangentes que satisfazem as diversas necessidades de aplicação.

A NPU IP com energia extremamente baixa da VeriSilicon também oferece suporte a estruturas de IA populares, como TensorFlow Lite, ONNX e PyTorch, que aceleram assim a implantação e simplificam a integração para clientes em vários casos de uso de IA.

"Dispositivos móveis, como smartphones, estão evoluindo para servidores pessoais de IA. Com o rápido avanço das tecnologias AIGC e LLM multimodal, a demanda por computação de IA vem crescendo de modo exponencial e se tornando um diferencial importante em produtos móveis", disse Weijin Dai, Diretor de Estratégia, Vice-Presidente Executivo e Diretor Geral da Divisão de IPs da VeriSilicon. "Um dos desafios mais cruciais no suporte a cargas de trabalho de computação de IA tão elevadas é o controle do consumo de energia. A VeriSilicon tem investido continuamente em desenvolver NPUs com consumo de energia extremamente baixa para smartphones com IA e PCs com IA. Através de uma estreita cooperação com parceiros líderes em SoC, estamos animados em perceber que nossa tecnologia foi concretizada em silício para smartphones com IA e PCs com IA de última geração."

Sobre a VeriSilicon

A VeriSilicon está comprometida em oferecer aos clientes serviços de silício personalizados completos, baseados em plataformas e serviços de licenciamento de IP de semicondutores, ao aproveitar seu IP interno de semicondutores. Para mais informação, acesse: www.verisilicon.com

O texto no idioma original deste anúncio é a versão oficial autorizada. As traduções são fornecidas apenas como uma facilidade e devem se referir ao texto no idioma original, que é a única versão do texto que tem efeito legal.