¿Qué es una UNP? ¿Y por qué es clave para desbloquear la IA generativa en el dispositivo? | #Tech
La NPU está diseñada para IA y complementa a los otros procesadores para acelerar las experiencias generativas de IA
2 de febrero de 2024, Ciudad de México. La revolución de la inteligencia artificial generativa (IA) ya está aquí. Con la creciente demanda de casos de uso de IA generativa en sectores verticales con diversos requisitos y demandas computacionales, existe una clara necesidad de una arquitectura informática renovada y diseñada a medida para la IA. Comienza con una unidad de procesamiento neuronal (NPU) diseñada desde cero para la IA generativa, al tiempo que aprovecha una combinación heterogénea de procesadores, como la unidad central de procesamiento (CPU) y la unidad de procesamiento de gráficos (GPU). Al utilizar un procesador adecuado junto con una NPU, la computación heterogénea maximiza el rendimiento de las aplicaciones, la eficiencia térmica y la duración de la batería para permitir experiencias de IA generativa nuevas y mejoradas.
Imagen 1: Elegir el procesador adecuado, como elegir la herramienta adecuada en una caja de herramientas, depende de muchos factores y mejora las experiencias generativas de IA
¿Por qué es importante la computación heterogénea?
Debido a los diversos requisitos y demandas computacionales de la IA generativa, se necesitan diferentes procesadores. Una arquitectura informática heterogénea con diversidad de procesamiento brinda la oportunidad de utilizar los puntos fuertes de cada procesador, es decir, una NPU diseñada a medida centrada en la IA, junto con la CPU y la GPU, cada una de las cuales sobresale en diferentes dominios de tareas. Por ejemplo, la CPU para control secuencial e inmediatez, la GPU para transmisión de datos paralelos y la NPU para cargas de trabajo centrales de IA con matemáticas escalares, vectoriales y tensoriales.
La computación heterogénea maximiza el rendimiento de las aplicaciones, la eficiencia térmica del dispositivo y la duración de la batería para maximizar las experiencias generativas del usuario final con IA.
Imagen 2: Las NPU han evolucionado con los cambiantes casos de uso y modelos de IA para lograr un alto rendimiento con bajo consumo de energía
¿Qué es una NPU?
La NPU está construida desde cero para acelerar la inferencia de IA a baja potencia, y su arquitectura ha evolucionado junto con el desarrollo de nuevos algoritmos, modelos y casos de uso de IA. Las cargas de trabajo de IA consisten principalmente en calcular capas de redes neuronales compuestas de matemáticas escalares, vectoriales y tensoriales seguidas de una función de activación no lineal. Un diseño de NPU superior toma las decisiones de diseño correctas para manejar estas cargas de trabajo de IA y está estrechamente alineado con la dirección de la industria de la IA.
Imagen 3: El motor de IA de Qualcomm consta de la NPU Qualcomm Hexagon, la GPU Qualcomm Adreno, la CPU Qualcomm Kryo o Qualcomm Oryon, Qualcomm Sensing Hub y el subsistema de memoria
Nuestra NPU líder y solución informática heterogénea
Qualcomm está permitiendo la computación inteligente en todas partes. Nuestra NPU Qualcomm Hexagon, líder en la industria, está diseñada para una inferencia de IA sostenida y de alto rendimiento a bajo consumo. Lo que diferencia a nuestra NPU es nuestro enfoque de sistema, diseño personalizado y rápida innovación. Al diseñar de forma personalizada la NPU y controlar la arquitectura del conjunto de instrucciones (ISA), podemos evolucionar y ampliar rápidamente el diseño para abordar los cuellos de botella y optimizar el rendimiento.
La NPU Hexagon es un procesador clave en nuestra arquitectura informática heterogénea, la mejor de su clase, Qualcomm AI Engine, que también incluye la GPU Qualcomm Adreno, la CPU Qualcomm Kryo o Qualcomm Oryon, Qualcomm Sensing Hub y el subsistema de memoria. Estos procesadores están diseñados para trabajar juntos y ejecutar aplicaciones de IA de manera rápida y eficiente en el dispositivo.
Nuestro desempeño líder en la industria en pruebas comparativas de IA y aplicaciones reales de IA generativa lo ejemplifica. Consulta el siguiente documento técnico para profundizar en nuestra NPU, nuestros otros procesadores heterogéneos y nuestro rendimiento de IA líder en la industria en Snapdragon 8 Gen 3 y Snapdragon X Elite.
Imagen 4: Qualcomm AI Stack tiene como objetivo ayudar a los desarrolladores a escribir una vez y ejecutar en todas partes, logrando escala
Permitir a los desarrolladores acelerar las aplicaciones de IA generativa
Permitimos a los desarrolladores centrándonos en la facilidad de desarrollo e implementación en los miles de millones de dispositivos en todo el mundo impulsados por las plataformas Qualcomm y Snapdragon. Con Qualcomm AI Stack, los desarrolladores pueden crear, optimizar e implementar sus aplicaciones de IA en nuestro hardware, escribirlas una vez e implementarlas en diferentes productos y segmentos utilizando nuestras soluciones de chipset.
La combinación de liderazgo tecnológico, diseños de silicio personalizados, optimización de la IA de pila completa y habilitación del ecosistema distingue a Qualcomm Technologies para impulsar el desarrollo y la adopción de la IA generativa en el dispositivo. Qualcomm Technologies está permitiendo la IA generativa en el dispositivo a escala.
Consulta «El futuro de la IA es híbrido», parte 1
Consulta «El futuro de la IA es híbrido», parte 2
Consulta nuestro boletín para ver las novedades en inteligencia artificial y computación
Los productos de las marcas Snapdragon y Qualcomm son productos de Qualcomm Technologies, Inc. y/o sus subsidiarias
Para más noticias del mundo, cultura geek & tech, sigue en: GeekandLife.com.mx | Si quieres Noticias Anime, Videojuegos y Diversión, visita MultiAnime.com.mx
Fuente: PR
