Para promover las capacidades de IA en el lugar de trabajo, OpenAI anunció una serie de actualizaciones de sus modelos pioneros de IA generativa, GPT-3.5 Turbo y GPT-4.
Estas mejoras, que incluyen la introducción revolucionaria de una nueva capacidad de llamada de funciones, una capacidad de dirección mejorada, un contexto ampliado para GPT-3.5 Turbo y una estructura de precios revisada, tienen como objetivo proporcionar a los desarrolladores una caja de herramientas ampliada para crear aplicaciones de IA sofisticadas y de alto rendimiento para satisfacer las complejidades de los entornos de trabajo modernos.
Aplicaciones impulsadas por OpenAI
Los desarrolladores no son los únicos que se beneficiarán de las últimas mejoras en los modelos GPT de OpenAI. Lo más probable es que haya utilizado una herramienta que implemente los avances de IA de OpenAI.
- Microsoft se asoció con OpenAI para ofrecer a los desarrolladores modelos de IA y mejorar productos populares como Bing y Office con IA generativa.
- Snapchat lanzó su chatbot generativo de IA, My AI, utilizando modelos OpenAI GPT. ¡La última actualización de mi IA puede enviar e interpretar instantáneas de imágenes!
- Salesforce lanzó el primer producto CRM de IA generativo, Einstein GPT, impulsado por los «modelos avanzados» más avanzados de OpenAI.
- Morgan Stanley anunció una asociación con OpenAI como una de las pocas empresas de gestión de patrimonio con acceso al último modelo GPT-4.
- HubSpot desarrolló nuevas herramientas, como ChatSpot.ai, basadas en OpenAI GPT-4.
- GitHub Copilot agregó IA generativa usando OpenAI Codex a su plataforma para ayudar a los desarrolladores, lo que finalmente llevó a una demanda por derechos de autor.
- Stripe incorporó la tecnología OpenAI GPT para ayudar a comprender a los clientes y reducir el fraude.
- GetResponse presentó un generador de correo electrónico impulsado por OpenAI GPT.
- Instacart creó un chatbot de IA para ayudar a los consumidores con sus compras de comestibles.
Idealmente, los usuarios de estas y otras herramientas creadas a partir de la tecnología OpenAI deberían ver mejoras en el rendimiento de la IA generativa gracias a las actualizaciones GPT-3.5 Turbo y GPT-4 de OpenAI.
Mejoras a GPT-3.5 Turbo y GPT-4
Las siguientes son las últimas actualizaciones anunciadas por OpenAI para los modelos GPT-3.5 Turbo y GPT-4. Las actualizaciones incluyen una nueva capacidad de llamada de funciones en la API de finalización de chat, capacidad de dirección mejorada, contexto ampliado para GPT-3.5 Turbo y precios más bajos.
Capacidad de llamada de función
Según los comentarios de los desarrolladores y las solicitudes de funciones, OpenAI les dio a los desarrolladores la capacidad de describir funciones en los modelos actualizados y hacer que la IA produzca de manera inteligente un objeto JSON que contenga argumentos para esas funciones. Esta mejora permite una conexión más confiable de las capacidades de GPT con herramientas y API externas, lo que admite una recuperación de datos mejor estructurada del modelo.
Las nuevas capacidades de llamada de funciones permiten una amplia gama de aplicaciones, incluidas las siguientes:
- Creación de chatbots que respondan preguntas llamando a herramientas externas,
- Conversión de consultas en lenguaje natural en llamadas a funciones, llamadas a API o consultas a bases de datos,
- Extracción de datos estructurados del texto.
- Los nuevos parámetros de API brindan a los desarrolladores los medios para describir funciones al modelo y solicitar al modelo que llame a una función específica opcionalmente.
La introducción de la función de llamada abre nuevas posibilidades para los desarrolladores. Pueden integrar los modelos GPT con otras API o herramientas externas de forma más fluida.
Por ejemplo, una aplicación para el lugar de trabajo podría usar esta función para convertir la consulta en lenguaje natural de un usuario en una llamada de función a un sistema CRM o ERP, lo que hace que la aplicación sea más fácil de usar y eficiente.
Si bien OpenAI permanece atento a posibles problemas de seguridad asociados con datos que no son de confianza, sugiere que los desarrolladores protejan sus aplicaciones consumiendo información solo de herramientas confiables e incluyendo pasos de confirmación del usuario antes de realizar acciones impactantes.
Los desarrolladores pueden registrarse en la lista de espera para obtener acceso a GPT-4.
Mejoras en el modelo
Los nuevos modelos GPT-4 y GPT-3.5 Turbo incorporan una maniobrabilidad mejorada y un contexto ampliado.
Los desarrolladores podrían utilizar una mayor capacidad de dirección para diseñar aplicaciones de IA que se alineen más estrechamente con los requisitos específicos de una organización o tarea, como generar informes comerciales más específicos o crear respuestas detalladas y conscientes del contexto en chatbots de servicio al cliente.
El lanzamiento de GPT-3.5 Turbo-16k puede proporcionar cuatro veces la longitud de contexto del GPT-3.5 Turbo estándar, y admite hasta 20 páginas de texto en una sola solicitud. Esta capacidad de contexto extendida permite que la IA comprenda y genere respuestas para cuerpos de texto mucho más grandes.
Por ejemplo, en lugares de trabajo académicos o legales, donde los documentos tienden a ser extensos, esta característica podría mejorar drásticamente la capacidad del modelo para comprender y resumir grandes cantidades de texto, lo que hace que la extracción de información sea más eficiente. De manera similar, para las aplicaciones de gestión de proyectos, podría permitir que la IA procese y comprenda los planes completos del proyecto de una sola vez, lo que ayuda a generar análisis y pronósticos de proyectos más perspicaces.
OpenAI también anunció la desaprobación de las versiones anteriores de GPT-4 y GPT-3.5 Turbo, y los modelos más antiguos permanecerán disponibles hasta el 13 de septiembre. A los desarrolladores se les aseguró una transición sin problemas y se les animó a proporcionar comentarios para ayudar a refinar el proceso.
Precios más bajos
Tras las mejoras en la eficiencia del sistema, OpenAI está transfiriendo los ahorros de costos a los desarrolladores.
El precio por usar el popular modelo de incrustaciones, text-embedding-ada-002, se reduce en un 75%. Además, hay una reducción de costos del 25 % en tokens de entrada para el modelo GPT-3.5 Turbo.
También quería tomarme un segundo para reiterar la caída del precio del 75 % en las incrustaciones. Esto es bastante loco. Antes podías insertar todo Internet por ~$50 millones, ahora se ha reducido a ~$12,5 millones.https://t.co/fyhQVGPEi8
— Logan.GPT (@OfficialLoganK) 13 de junio de 2023
Junto con una funcionalidad mejorada, estas reducciones de precios deberían facilitar a los desarrolladores el uso y la experimentación con estos modelos en sus aplicaciones.
Desarrollo continuo de modelos GPT
OpenAI parece estar comprometido con la mejora continua de su plataforma en función de los comentarios de los desarrolladores. Con las últimas mejoras en sus modelos de IA generativa, OpenAI ofrece nuevas posibilidades a los desarrolladores para crear aplicaciones de IA innovadoras y mejoradas para el lugar de trabajo.
Las actualizaciones de API y los modelos GPT más recientes brindan a los desarrolladores más capacidades para crear aplicaciones de IA más adecuadas para manejar la complejidad y la especificidad de las tareas que se encuentran comúnmente en los entornos laborales.
Imagen destacada: iama_sing/Shutterstock