vultr®, un proveedor independiente líder de infraestructura en la nube, anunció que Vultr Talon, con la tecnología de GPU NVIDIA y el software NVIDIA AI Enterprise, ahora está disponible en versión beta. Una plataforma innovadora basada en la nube, Vultr Talon ofrece computación acelerada asequible al permitir el uso compartido de GPU, por lo que múltiples cargas de trabajo pueden ejecutarse de manera eficiente en una sola GPU NVIDIA.
Vultr es el primer proveedor de nube que ofrece virtualización de GPU NVIDIA A100 Tensor Core para permitir el uso compartido de GPU. Con el lanzamiento de hoy, Vultr presenta un conjunto de planes de máquinas virtuales (VM) con NVIDIA A100, desde solo $ 90 por mes o $ 0,13 por hora.
Nube Plataforma Avance que habilita las cargas de trabajo de IA a una fracción del costo
En el núcleo de Vultr Talon se encuentra una plataforma de virtualización de GPU NVIDIA de última generación basada en el software vGPU de NVIDIA. En lugar de adjuntar GPU físicas completas a las máquinas virtuales, Vultr adjunta solo una fracción en forma de GPU virtual (vGPU). Estas vGPU funcionan con el paquete de software NVIDIA AI Enterprise, que incluye el software NVIDIA vGPU y está optimizado para ejecutar cargas de trabajo de IA de forma remota y análisis de datos de alto rendimiento.
Para la máquina de un cliente, una vGPU parece una GPU física. Cada vGPU tiene su propia memoria dedicada que es una parte de la memoria de la tarjeta subyacente. La vGPU tiene acceso a una parte correspondiente de la potencia computacional de la GPU física. Para los planes Vultr con al menos 10 GB de GPU RAM, la tecnología de GPU de múltiples instancias (MIG) de NVIDIA se utiliza para proporcionar calidad de servicio garantizada, caché de memoria de alto ancho de banda de GPU completamente aislada y núcleos de cómputo dedicados a los inquilinos.
Las GPU de gama alta suelen costar miles de dólares al mes. Si bien este gasto a menudo es justificable para las cargas de trabajo empresariales más grandes, para muchas empresas y desarrolladores, el costo de incluso una sola GPU puede ser prohibitivo para comenzar, experimentar o ejecutar aplicaciones en entornos de desarrollo y prueba. Incluso las empresas con presupuestos de TI sustanciales pueden terminar desperdiciando cantidades significativas de dinero, aprovisionando más capacidad de GPU de la necesaria o simplemente decidiendo evitar usar GPU en absoluto.
“En Vultr, nos enorgullecemos de hacer que la infraestructura en la nube de alto rendimiento sea asequible para todos. Con Vultr Talon, hemos invertido el modelo de entrega de GPU. Gracias a nuestra revolucionaria plataforma en la nube, los desarrolladores de IA y los científicos de datos pueden proporcionar exactamente tanto procesamiento de GPU NVIDIA como realmente necesitan, a precios que pueden pagar”, dijo JJ Kardwell, director ejecutivo de la empresa matriz de Vultr, Constant.
Fracciones de un NVIDIA A100, desde solo $ 90 por mes o $ 0.13 por hora
La GPU NVIDIA A100 Tensor Core ofrece una aceleración sin precedentes para el aprendizaje profundo, la informática de alto rendimiento (HPC) y el análisis de datos. En combinación con el paquete de software NVIDIA AI Enterprise, optimizado para aprovechar los beneficios de la arquitectura subyacente, NVIDIA A100 acelera todos los principales marcos de análisis de datos y aprendizaje profundo como TensorFlow y más de 700 aplicaciones HPC a través del catálogo NVIDIA NGC.
Vultr trabajó en estrecha colaboración con NVIDIA para crear su oferta Vultr Talon, comenzando con la GPU NVIDIA A100 Tensor Core.
“No existe una talla única para las cargas de trabajo de los clientes, y proporcionar la aceleración del tamaño correcto para su carga de trabajo y maximizar la utilización es fundamental para la optimización de costos de la nube”, dijo Matthew McGrigg, director de desarrollo comercial global para socios de la nube en NVIDIA. «La plataforma altamente accesible de Vultr facilita el aprovisionamiento de recursos de GPU NVIDIA con gran granularidad».
A partir de solo $ 90 por mes, o $ 0.13 por hora, los planes Vultr Talon iniciales que incluyen el software virtualizado NVIDIA A100 y NVIDIA AI Enterprise son perfectos para cargas de trabajo de creación de modelos e inferencia de aprendizaje automático, así como para aplicaciones como procesamiento de lenguaje natural, reconocimiento de voz y visión artificial.
GPU Bare Metal para grandes cargas de trabajo
Para los clientes que deseen ejecutar grandes cargas de trabajo que requieran varias GPU físicas, Vultr también ofrece servidores Bare Metal con cuatro GPU NVIDIA A100 y CPU Intel Xeon dual de 24 núcleos.
Expansión ambiciosa por delante
El lanzamiento de la versión beta es solo el comienzo de Vultr Talon con GPU NVIDIA, con capacidad inicial de NVIDIA A100 en Nueva Jersey. Vultr agregará un inventario global para las GPU NVIDIA A100, A40 y A16 en las próximas semanas, para admitir regiones adicionales y una variedad más amplia de casos de uso.
Los socios de Vultr, como la plataforma de orquestación en la nube Cycle.io, están entusiasmados con los productos Vultr Talon y Bare Metal GPU.
“A través de nuestra asociación con Vultr, estamos encantados no solo de poder ofrecer una variedad de recursos de GPU a las organizaciones, sino también de una manera asequible y flexible, suficiente para satisfacer cualquier caso de uso. La capacidad de mezclar y combinar vGPU y bare metal es un cambio de juego para nuestros usuarios”, dijo Jake Warner, director ejecutivo de Cycle.io.
Las empresas, los desarrolladores y los científicos de datos interesados en probar Vultr Talon pueden aprovisionar instancias a través del panel de control de Vultr.
Regístrese para recibir el boletín gratuito insideBIGDATA.
Únase a nosotros en Twitter: @InsideBigData1 – https://twitter.com/InsideBigData1