Qualcomm anuncia tres nuevos chips aceleradores de IA para potenciar la computación perimetral
La compañía también está probando el kit de desarrollo Cloud AI 100, que incluye el nuevo chip, la conectividad 5G y el módulo de plataforma móvil Snapdragon 865.
Imagen: Qualcomm
Qualcomm tiene un nuevo conjunto de chips aceleradores de IA y un kit de desarrollo que podría tomar una porción más grande del espacio informático de rápido crecimiento.
John Kehrli, director sénior de gestión de productos, dijo que Qualcomm cree que el mercado de la computación con IA tiene una gran demanda de bajo consumo de energía, conectividad 5G y baja latencia.
“Estamos viendo un crecimiento explosivo en la computación perimetral y nos enfocamos en la inferencia”, dijo en un comunicado de prensa sobre el nuevo producto.
Hay tres versiones del nuevo chip: PCIe, DM.2 y DM.2e. Qualcomm ahora está probando el nuevo chip para varios clientes y planea comenzar a enviarlo en la primera mitad de 2023. Qualcomm cree que los aceleradores de IA tienen los siguientes usos:
- Centro de datos y borde de la nube
- Dispositivo de borde 5G independiente
- Sistemas avanzados de asistencia al conductor de nivel 3 y superior
- infraestructura 5G
Mirar: Procesamiento del lenguaje natural: una hoja de trucos (República tecnológica)
El nuevo chip CLoud AI 100 de Qualcomm está diseñado para operaciones de 1 billón y tera media por segundo (TOPS), dijo Kehrli. En el continuo de rendimiento de la IA, el TOPS alto es 50, el medio es de 5 a 10 y el bajo es menos de 5. El diseño del chip Cloud AI 100 permite que el rendimiento TOPS de DM 2.e alcance más de 50, DM.2 es de aproximadamente 200 TOPS y el chip PCIe alcanza 400 TOPS.
Kehrli también dijo que Qualcomm está experimentando un cambio en la arquitectura de la computación en la nube con IA, con una infraestructura que utiliza aceleradores dedicados 10 veces más rápidos y con mayor eficiencia energética que los diseños más tradicionales.
Kehril compartió un gráfico que compara el rendimiento del nuevo chip Cloud AI 100 de Qualcomm con el de otros proveedores que utilizan el punto de referencia ResNet-50. El chip PCIe Cloud AI 100 de Qualcomm funciona tan bien como el A100 de Nvidia, pero consume menos energía. Los chips Cloud AI 100 DM.2 y DM.2e son comparables a los chips Intel y Nvidia, pero consumen menos de 50 vatios.
«En un mundo donde el costo total de propiedad es muy importante, creemos que esto es muy convincente», dijo Kehrli.
Los nuevos chips están diseñados para realizar clasificación de imágenes, detección y seguimiento de objetos, traducción automática y recomendaciones de productos para plataformas de compras en línea.
Kehrli dijo que espera que los primeros despliegues comerciales de los nuevos chips se utilicen en la informática de punta, no en los centros de datos, incluidas las instalaciones de ciudades inteligentes, las tiendas minoristas y la fabricación.
Keith Kressin, vicepresidente senior y gerente general de cómputo y nube perimetral, dijo que espera dedicar tiempo a optimizar ciertos factores de rendimiento del chip en función de las necesidades del cliente.
La arquitectura de hardware del chip incluye:
- hasta 400 me gusta
- Rangos de potencia de 15 W para DM.2e a 25 W para DM.2 y 75 W para PCIe/HHHL
- Hasta 16 núcleos de IA
- Precisión: INT8, INT16, FP16, FP32
- Hasta 144 MB de SRAM en chip
- 4×64 LPDDR4x (2.1Ghz) con ECC en línea
- Hasta 8 carriles en PCI3 Gen 3/4
Qualcomm también lanzó un kit de desarrollo para los dos nuevos chips. La compañía llama al kit una ventanilla única que incluye el chip Cloud AI 100, el módulo de plataforma móvil Snapdragon 865 y el sistema Snapdragon X55 Modem-RF. El kit incluye dos SDK:
- SDK de aplicación AIC: compilador, simulador y código de muestra
- AID Platform SDK Runtime, API, controladores de kernel y herramientas
Kehrli dijo que el kit de desarrollo es una oportunidad completamente nueva para Qualcomm y una herramienta para que los clientes se inicien rápidamente en este campo emergente. El kit viene con una aplicación precompilada para fines de demostración, o los clientes pueden compilar su propia aplicación y ejecutarla de inmediato.
Los módulos 5G precertificados facilitarán la vida de los clientes que no tienen mucha experiencia trabajando con empresas de telecomunicaciones, dijo Kehrli.
Qualcomm proporcionará kits de desarrollo a los clientes en octubre de 2023.
