Hoy, d-Matrix, líder en cómputo de IA de alta eficiencia y procesadores de inferencia, anunció Jayhawk, una plataforma de chiplet basada en Bunch of Wires (BoW) de Open Domain-Specific Architecture (ODSA) para conectividad entre matrices con eficiencia energética sobre sustratos orgánicos. . Sobre la base de la plataforma de chiplet Nighthawk lanzada en 2021, la plataforma de silicio Jayhawk de segunda generación desarrolla aún más la plataforma de cómputo de inferencia basada en chiplet de escalabilidad horizontal. Los clientes de d-Matrix podrán usar las plataformas de cómputo de inferencia para administrar aplicaciones de IA generativa y aplicaciones transformadoras de modelo de lenguaje grande con una mejora de 10-20X en el rendimiento.
Los modelos de transformadores grandes están creando nuevas demandas para la inferencia de IA al mismo tiempo que los requisitos de memoria y energía están alcanzando límites físicos. d-Matrix proporciona una de las primeras plataformas de cómputo de inferencia basadas en Digital In-Memory Compute (DIMC) que llega al mercado, transformando la economía de los transformadores complejos y la IA generativa con una plataforma escalable construida para manejar los inmensos requisitos de datos y energía de la IA de inferencia . Mejorar el rendimiento puede hacer que los centros de datos que consumen mucha energía sean más eficientes al tiempo que reduce la latencia para los usuarios finales en las aplicaciones de IA.
“Con el anuncio de nuestra plataforma de chiplet de segunda generación, Jayhawk, y un historial de ejecución, estamos estableciendo nuestro liderazgo en el ecosistema de chiplet”, dijo Sid Sheth, director ejecutivo de d-Matrix. “El equipo de d-Matrix ha hecho un gran progreso hacia la construcción de la primera plataforma de computación en memoria del mundo con una arquitectura basada en chiplet dirigida a demandas sensibles a la latencia y hambrientas de energía de la IA generativa”.
La novedosa plataforma de cómputo de d-Matrix utiliza una combinación ingeniosa de una arquitectura IC basada en cómputo en memoria, herramientas sofisticadas que se integran con los modelos ANN líderes y chiplets en una formación de cuadrícula de bloques para respaldar la escalabilidad y la eficiencia para cargas de trabajo de ML exigentes. Mediante el uso de un enfoque basado en chiplet modular, los clientes del centro de datos pueden actualizar las plataformas informáticas a una cadencia mucho más rápida utilizando una arquitectura de chiplet prevalidada. Para habilitar esto, d-Matrix planea construir chiplets basados en interconexiones basadas en BoW y UCIe para habilitar una plataforma informática verdaderamente heterogénea que pueda acomodar chiplets de terceros.
«d-Matrix se ha movido rápidamente para aprovechar la oportunidad del chiplet, lo que debería darles una ventaja de ser los primeros en moverse», dijo Karl Freund, fundador y analista principal de Cambrian-AI Research. “Cualquiera que busque agregar un acelerador de IA a su diseño de SoC haría bien en investigar este nuevo enfoque para una IA eficiente”.
Las características de la plataforma de chiplet Jayhawk:
- Longitudes de rastro de 3 mm, 15 mm, 25 mm en sustrato orgánico
- Alto rendimiento de ancho de banda de 16 Gbps/cable
- Tecnología de proceso TSMC de 6 nm
- <0,5 pJ/bit de eficiencia energética
Jayhawk está actualmente disponible para demostraciones y evaluación. d-Matrix exhibirá la plataforma Jayhawk en la Chiplet Summit del 24 al 26 de enero en San José, CA
Regístrese para recibir el boletín gratuito insideBIGDATA.
Únase a nosotros en Twitter: https://twitter.com/InsideBigData1
Únase a nosotros en LinkedIn: https://www.linkedin.com/company/insidebigdata/
Únase a nosotros en Facebook: https://www.facebook.com/insideBIGDATANOW