La NPU ultra-eficiente Ultra-Low Energy de VeriSilicon, con un rendimiento que supera los 40 TOPS, ofrece inferencia de LLM en dispositivos móviles, integrando procesamiento mixto y aceleración por dispersión.
El fabricante VeriSilicon ha anunciado que su unidad de procesamiento neuronal (NPU) ultra-eficiente y de alto rendimiento admite ahora la inferencia en dispositivo de modelos de lenguaje de gran tamaño (LLMs), logrando un rendimiento de inteligencia artificial superior a 40 TOPS.
Esta arquitectura energéticamente eficiente está diseñada para satisfacer la creciente demanda de capacidades de inteligencia artificial generativa en plataformas móviles, como teléfonos inteligentes y PCs con inteligencia artificial.
Ofrece no solo un elevado rendimiento informático, sino que también está optimizada para abordar los exigentes retos de eficiencia energética de los dispositivos móviles actuales.
Arquitectura escalable y configurable
La NPU ultra-eficiente Ultra-Low Energy de VeriSilicon se basa en una arquitectura altamente configurable y escalable que permite la computación de precisión mixta y la optimización avanzada de la dispersión.
Además, su procesamiento en paralelo reduce la latencia y mejora la respuesta en las tareas de inteligencia artificial.
El diseño integra una gestión de memoria eficiente y aceleración consciente de la dispersión, reduciendo la sobrecarga computacional y mejorando el rendimiento general. Esto garantiza un procesamiento de IA fluido y ágil en diversas aplicaciones.
Compatibilidad con algoritmos y marcos de IA
El NPU IP de VeriSilicon es compatible con cientos de algoritmos de inteligencia artificial, incluyendo IA-NR y IA-SR, así como con modelos de IA líderes como Stable Diffusion y LLaMA-7B.
Su integración es sencilla gracias al soporte de marcos populares como TensorFlow Lite, ONNX y PyTorch, lo que facilita la implementación y la adaptación en distintas aplicaciones.
La arquitectura también permite la integración sin fisuras con otras IPs de procesamiento de la compañía, fomentando la computación heterogénea y permitiendo a los diseñadores de SoC crear soluciones de IA completas y adaptadas a múltiples necesidades.
Según palabras de Weijin Dai, Chief Strategy Officer, Executive Vice President y General Manager de la división de IP de VeriSilicon, los dispositivos móviles se están transformando en servidores personales de IA, impulsados por el rápido avance de las tecnologías AIGC y LLM multimodales. El ejecutivo destaca que la eficiencia energética es un reto clave, y que la inversión continua de la empresa en NPUs ultra-eficientes ha permitido que esta tecnología ya esté implementada en soluciones de silicio para los próximos teléfonos inteligentes y PCs con IA.
Para más información o precios sobre la nueva NPU ultra-eficiente y con muy bajo consumo de VeriSilicon, puedes dejarnos un sencillo COMENTARIO. O también puedes utilizar nuestro SERVICIO AL LECTOR gratuito, que te pondrá en contacto con el fabricante o distribuidor de este producto.
#NPUUltraLowEnergy, #VeriSilicon, #InteligenciaArtificial, #ProcesamientoNeuronal, #LLMInference, #AIPhones, #AIPC, #ComputaciónHeterogénea
