Microsoft describe el mantenimiento del modelo de lenguaje grande OpenAI de Azure — Redmondmag.com

Noticias

Microsoft describe el mantenimiento del modelo de lenguaje grande OpenAI de Azure

Microsoft describió el viernes cómo los usuarios de Azure OpenAI pueden mantenerse automáticamente al día con las últimas actualizaciones del modelo de lenguaje grande y también dio garantías sobre problemas de privacidad.

También se anunciaron algunas reducciones de precios. Sin embargo, el modelo de precios de «pago por uso» para Azure OpenAI es algo complejo.

Los grandes modelos de lenguaje creados por la empresa de inteligencia artificial generativa (AI) OpenAI, y utilizados por Microsoft en sus servicios de Azure, se actualizan y tienen números de versión. Microsoft anunció el viernes que se lanzaron nuevas actualizaciones de la versión 0613 de los modelos GPT 3.5 y GPT 4 para su uso en el servicio Azure OpenAI.

Las versiones anteriores de modelos de lenguaje grande, como GPT 3.5-Turbo versión 0301 y GPT 4 versión 0314, están configuradas para «caducar no antes del 15 de octubre de 2023», según el «documento de modelos de servicio Azure OpenAI» de Microsoft.

GPT significa «Transformadores preentrenados generativos». Tanto GPT 3.5 como GPT 4 pueden «comprender» las indicaciones de texto del usuario y generar respuestas en «lenguaje natural» a esas indicaciones. GPT 4 también es capaz de generar código, aunque Azure OpenAI también admite modelos Codex que están diseñados específicamente para generar código a partir de mensajes de texto.

Se pueden encontrar más matices sobre los muchos modelos disponibles en el servicio Azure OpenAI en el documento «Modelos de servicio» de Microsoft.

Nuevos modelos GPT
Microsoft ha agregado recientemente los modelos GPT 3.5 Turbo («gpt-35-turbo») y GPT 3.5 Turbo-16k («gpt-35-turbo-16k») a su servicio Azure OpenAI. Ambos modelos están ahora en la versión 0613.

Microsoft también agregó recientemente las versiones 0613 de GPT 4 y GPT 4-32k al servicio Azure OpenAI. Sin embargo, el uso de estos modelos GPT 4 más precisos no está disponible para el público. El uso de GPT 4 en el servicio Azure OpenAI solo está disponible a pedido, y los posibles usuarios deben completar este formulario.

Las actualizaciones automáticas de estas nuevas versiones 0613 de GPT 3.5 y GPT 4 llegarán «en dos semanas», indicó Microsoft.

Dado que llegarán nuevas versiones de GPT 3.5 y GPT 4, las versiones anteriores caducarán y se activará una actualización automática. Si las organizaciones no quieren que se produzcan tales actualizaciones automáticas, tendrán que «configurar la opción de actualización del modelo para que caduque a través de la API», aunque Microsoft no publicará una guía sobre cómo hacerlo hasta el «1 de septiembre».

Control de actualizaciones de modelos
Las organizaciones que usan el servicio Azure OpenAI tienen cierto control sobre las actualizaciones del modelo.

Es posible «fijar» una versión de modelo en particular, o las organizaciones pueden usar la configuración predeterminada de actualización automática de Microsoft. Esta configuración se puede administrar con Azure AI Studio, que también tiene una función que enumerará las fechas de obsolescencia para versiones de modelos particulares.

La capacidad de actualización automática solo está disponible para «implementaciones de modelos seleccionados», explica el documento «Modelos de servicio» de Microsoft. Si bien Microsoft generalmente recomienda usar la configuración predeterminada, las organizaciones deben optar por elegir cuándo deben realizarse las actualizaciones al usar «incrustaciones».

Una «incrustación» es un formato de datos especial para funcionalidades, es decir, Microsoft tiene incrustaciones de «similitud, búsqueda de texto y búsqueda de código». Se dice que este formato de datos es «fácilmente utilizado por modelos y algoritmos de aprendizaje automático», según el documento «Modelos de servicio».

Uso y privacidad de Azure OpenAI
Microsoft repitió las garantías de privacidad con respecto al uso de los servicios Azure OpenAI en su anuncio del viernes. No utiliza los datos proporcionados por los clientes para mejorar los productos de Microsoft o ajustar sus modelos, y no divulga los datos de los clientes a «terceros».

Sin embargo, las solicitudes enviadas por los usuarios de Azure OpenAI aún están sujetas al proceso de «supervisión de abusos» de Microsoft, que incluye revisiones humanas por parte de los empleados de Microsoft cuando se marca una solicitud o contenido de finalización generado por IA.

Microsoft también almacena dicha información generada por el cliente durante 30 días, lo que se hace para detectar y abordar los abusos. Las organizaciones que no desean tal supervisión por parte de Microsoft deben completar un formulario para solicitar una exención del proceso de supervisión de abusos de Microsoft.

Así es como Microsoft explicó el almacenamiento de la información proporcionada por el cliente para monitorear el abuso, según su documento «Datos, privacidad y seguridad para el servicio Azure OpenAI»:

Para detectar y mitigar el abuso, Azure OpenAI almacena todas las indicaciones y el contenido generado de forma segura durante un máximo de treinta (30) días. (No se almacenan avisos ni finalizaciones si el cliente está aprobado y elige desactivar el monitoreo de abuso, como se describe a continuación).

El documento explica además que los modelos en sí mismos no tienen estado, lo que significa que «no se almacenan indicaciones ni generaciones en el modelo».

Las garantías de Microsoft sobre Azure OpenAI y la privacidad parecen estar claramente establecidas, aunque otros mensajes, como este anuncio de que las organizaciones van a necesitar seguridad de confianza cero para usar IA, ofrecen algunas dudas. Microsoft también planteó recientemente la idea de que es posible que se necesiten herramientas de gobierno de datos para usar herramientas de IA emergentes como Microsoft 365 Copilot, que ahora se encuentra en la etapa de vista previa privada limitada.