Neural Magic es una empresa nueva que se centra en el desarrollo de tecnología que permite que los modelos de aprendizaje profundo se ejecuten en CPU estándar en lugar de hardware especializado como GPU. La empresa fue fundada en 2018 por Alexander Matveev, ex investigador del MIT, y Nir Shavit, profesor de informática en el MIT. Recaudaron un total de $50 millones en financiamiento hasta la fecha en 3 rondas, de inversionistas como Comcast Ventures, NEA, Andreessen Horowitz, Pillar VC y Amdocs.
La tecnología central de la compañía se llama «Neural Magic Platform», que consiste en la versión 1.4 del producto de las bibliotecas DeepSparse, SparseML y SparseZoo. El software optimiza los modelos de aprendizaje profundo para que se ejecuten en CPU con alto rendimiento y eficiencia. Esto se logra a través de una combinación de optimizaciones algorítmicas y de hardware que aprovechan las características únicas de las CPU, como sus grandes tamaños de caché, capacidades de subprocesos múltiples e instrucciones vectoriales.
Las bibliotecas de Neural Magic son compatibles con marcos de aprendizaje profundo populares como TensorFlow y PyTorch, lo que facilita a los desarrolladores integrarlos en sus flujos de trabajo existentes. El software se puede utilizar para una variedad de aplicaciones, incluido el procesamiento del lenguaje natural, la visión artificial y el análisis de series temporales.
Una de las principales ventajas de usar CPU en lugar de hardware especializado es el costo. Las CPU son mucho más baratas y están más disponibles que las GPU, que pueden ser prohibitivamente costosas para algunas organizaciones. Esto hace que el aprendizaje profundo sea más accesible para una gama más amplia de empresas e investigadores.
Otra ventaja es la flexibilidad. Las CPU son procesadores de propósito general que se pueden usar para una variedad de tareas, mientras que las GPU están diseñadas específicamente para computación paralela. Esto significa que las CPU se pueden usar para una gama más amplia de aplicaciones, lo que las convierte en una opción más versátil.
Neural Magic también ofrece un rendimiento mejorado en comparación con la ejecución de modelos de aprendizaje profundo en CPU sin optimización. En los puntos de referencia realizados por la empresa, el software pudo lograr un rendimiento hasta 10 veces más rápido en las CPU en comparación con los modelos no optimizados.
La compañía ya ha atraído a varios clientes. Striveworks y Neural Magic anunciaron su asociación. Striveworks, pionera en MLOps responsables para la seguridad nacional y otros espacios altamente regulados, integrará las ofertas principales de Neural Magic en los servicios modelo y de capacitación de su plataforma Chariot MLOps.
Neural Magic también ha desarrollado una serie de modelos preentrenados que se pueden usar listos para usar para una variedad de aplicaciones. Estos modelos están optimizados para ejecutarse en CPU, lo que los convierte en una opción rápida y eficiente para las organizaciones que necesitan ponerse en marcha rápidamente.
La tecnología de Neural Magic tiene el potencial de transformar el campo del aprendizaje profundo al hacerlo más accesible y asequible para una gama más amplia de organizaciones. Al permitir que los modelos de aprendizaje profundo se ejecuten en CPU con alto rendimiento y eficiencia, la empresa está ayudando a democratizar la IA y desbloquear su potencial para nuevas aplicaciones.
Neural Magic tiene fuertes lazos con la comunidad de investigación de IA y ha escrito varios artículos de investigación convincentes.
En conclusión, Neural Magic es una empresa emergente prometedora que está desarrollando tecnología innovadora para optimizar modelos de aprendizaje profundo para CPU. Las bibliotecas y herramientas de software de la compañía permiten un aprendizaje profundo eficiente y de alto rendimiento en hardware básico. Su tecnología tiene el potencial de hacer que el aprendizaje profundo sea más accesible y asequible para una gama más amplia de organizaciones, desbloqueando su potencial para nuevas aplicaciones.
CContribución de Daniel D. Gutiérrez, editor en jefe y científico de datos residente de insideBIGDATA. Además de ser periodista tecnológico, Daniel también es consultor en ciencia de datos, autor, educador y forma parte de varios consejos asesores de varias empresas emergentes.
Regístrese para recibir el boletín gratuito insideBIGDATA.
Únase a nosotros en Twitter: https://twitter.com/InsideBigData1
Únase a nosotros en LinkedIn: https://www.linkedin.com/company/insidebigdata/
Únase a nosotros en Facebook: https://www.facebook.com/insideBIGDATANOW