Deci, la empresa de aprendizaje profundo que aprovecha la inteligencia artificial (IA) para construir la IA, anunció sus resultados para los modelos de inferencia de Computer Vision (CV) y Natural Language Processing (NLP) que se enviaron a la división MLPerf v2.0 Datacenter Open. Estas presentaciones demostraron el poder de la tecnología de construcción de arquitectura neuronal automatizada (AutoNAC) de Deci, que generó automáticamente modelos denominados DeciNets y DeciBERT, brindando así una precisión y un rendimiento de rendimiento sin precedentes en las CPU de Intel.
“Estamos entusiasmados de mostrar otro hito importante en nuestro viaje para permitir la inferencia de aprendizaje profundo eficiente en cualquier hardware, incluidos los dispositivos con recursos limitados, como CPU y otros dispositivos de borde”, dijo Yonatan Geifman, director ejecutivo y cofundador de Deci. “Este importante aumento tanto en la precisión como en el rendimiento significa que las tareas que requieren muchos recursos y que antes no podían llevarse a cabo en las CPU ahora son posibles y, de hecho, verán una marcada mejora en el rendimiento. La disponibilidad de hardware o la potencia de cómputo nunca deberían ser un factor limitante para las empresas que buscan emplear los últimos desarrollos en aprendizaje profundo”.
Para su presentación de CV, Deci presentó tres de sus modelos DeciNets en la categoría ResNet50 en el escenario fuera de línea en la división abierta. Deci realizó presentaciones en dos plataformas de hardware diferentes: una CPU Intel Cascade Lake de 12 núcleos y dos CPU Intel Ice Lake diferentes con 4 y 32 núcleos. Los modelos se optimizaron en un tamaño de lote de 32 y se cuantificaron a INT8 utilizando OpenVINO. En comparación con el modelo ResNet50 de 8 bits, Deci brindó una mejora de +1,74 % en la precisión y una mejora de 4x en el rendimiento.
La presentación del CV de Deci este año demostró una 37% de mejora en el rendimiento del rendimiento, así como una mejora notable en la precisión, en comparación con su presentación anterior en 2020.
Para NLP, Deci presentó sus modelos DeciBERT optimizados que produjeron resultados sobresalientes: acelerar el rendimiento de las tareas de preguntas y respuestas en varias CPU Intel en 5 veces (según el tipo de hardware y el nivel de cuantificación) al mismo tiempo que mejoró la precisión en +1.03 %.
MLPerf reúne a líderes expertos en aprendizaje profundo para crear puntos de referencia justos y útiles para medir el rendimiento de capacitación e inferencia del hardware, software y servicios de ML. Los modelos presentados se optimizaron con la tecnología AutoNAC de Deci y se cuantificaron con OpenVINO de Intel con una precisión de 8 bits.
La tecnología AutoNAC basada en IA de Deci genera y optimiza automáticamente la arquitectura de aprendizaje profundo para cualquier conjunto de datos y hardware para maximizar su precisión y rendimiento de inferencia. La tecnología AutoNAC de Deci, así como sus DeciNets y DeciBERT generados automáticamente, están listos para su implementación y uso comercial y se pueden integrar fácilmente para respaldar cualquier tarea de CV o NLP en una amplia gama de tipos de hardware.
Resultados de la presentación de visión por computadora de Deci:
Envío de Visión por Computador:
Precisión y rendimiento [samples/sec] Resultados en diferentes tipos de hardware
Resultados de la presentación de PNL de Deci:
Precisión y rendimiento [samples/sec] Resultados en diferentes tipos de hardware
Regístrese para recibir el boletín gratuito insideBIGDATA.
Únase a nosotros en Twitter: @InsideBigData1 – https://twitter.com/InsideBigData1
