Nischal Nadhamuni es el CTO y fundador de Claridad.
ChatGPT y otros modelos generativos de IA y lenguaje extenso están teniendo su momento. Inicialmente visto por algunos como un experimento divertido, la IA generativa se está moviendo rápidamente al mundo empresarial, capaz de hacer negocios serios.
Debido a que GPT y sus pares, como Flan de Google, están mejorando rápidamente, muchas empresas, incluso aquellas que crearon y perfeccionaron sus propios modelos de aprendizaje automático patentados, ahora están considerando mejorar sus plataformas con estos nuevos y poderosos modelos. El cálculo para las decisiones de construir versus comprar cambió de la noche a la mañana.
Mi empresa se centra en la automatización de flujos de trabajo centrados en documentos. Desde los inicios de nuestra empresa en 2017, siempre hemos seguido de cerca la “revolución de los transformadores”. Nuestros ingenieros han probado todos los modelos prometedores de lenguaje grande lanzados. Cuando algo supera nuestros puntos de referencia, corremos con él, y nuestro proceso para probar e implementar modelos GPT no ha sido diferente. GPT-3 luchó para dar sentido al lenguaje denso que se ve con frecuencia en los documentos complejos que manejamos. Entonces, esperamos. Luego apareció GPT-3.5 y los resultados fueron inmediatamente transformadores. De repente, un solo modelo poderoso pudo proporcionar mejoras masivas en una amplia variedad de tareas. Pero a pesar de estos avances, en nuestros experimentos, descubrimos que si bien GPT 3.5 era capaz de hacer cosas asombrosas, no estaba listo para la empresa desde el primer momento. Carecía de la precisión que nuestros clientes exigían para una plataforma financiera central.
Como empresa, teníamos que determinar si valía la pena dar el salto a la IA generativa. Después de algunas semanas de experimentación y evaluación rápidas, y de un examen de conciencia igualmente profundo en una sesión de lluvia de ideas, nuestro equipo ejecutivo decidió hacer una apuesta audaz para implementar la IA generativa. Para impulsar cambios significativos, no ganancias incrementales, optamos por agregar GPT-4 y otros modelos generativos de IA al núcleo de nuestra plataforma y nos dimos un plazo de tres meses de principio a fin para hacerlo.
Sabíamos que sería un desafío diseñar, crear prototipos, desarrollar, probar e implementar IA generativa en el núcleo de nuestra plataforma en tan poco tiempo y, al mismo tiempo, mantener las luces encendidas para los clientes existentes que confían en nuestros modelos existentes. Esto es lo que aprendimos y lo que deberían considerar otros líderes de la empresa que debaten sobre la implementación de la IA generativa.
Aclare su visión primero y tenga cuidado con las distracciones de objetos brillantes
Demasiadas empresas se lanzan de cabeza al mundo de la IA generativa sin pensar primero en el panorama general. Intentan obtener ganancias fáciles, tal vez en forma de una mesa de ayuda impulsada por IA, para llamarse a sí mismos una «empresa de IA generativa».
Si bien la IA generativa es capaz de realizar hazañas increíbles, los líderes deben comenzar por pensar críticamente sobre cómo estas nuevas capacidades impactan en las visiones de sus empresas. Específicamente, deberían estar haciendo preguntas como:
• “¿Cómo cambiará esta tecnología el problema que estamos resolviendo para nuestros clientes?”
• «¿Cuáles son algunas de las direcciones de productos radicalmente diferentes que la IA generativa ha hecho posible recientemente para nosotros?»
• «¿Cómo podría un competidor de IA generativa de nuestro negocio construir un producto significativamente superior en una fracción del tiempo?»
• “¿Cómo evolucionarán los puntos débiles de nuestros clientes en los próximos años como resultado de la IA generativa?”
Este ejercicio de pensamiento debe ser realizado por el equipo central de liderazgo; no se puede delegar. En nuestra empresa, esto tomó la forma de una sesión de varios días en la que todo nuestro equipo ejecutivo pasó un tiempo en persona haciendo una lluvia de ideas sobre el impacto a largo plazo de la IA generativa en la revisión de documentos. Al final de esto, acumulamos docenas de ideas provocativas y aparentemente imposibles que luego destilamos en cinco hipótesis centrales.
Organice un equipo que pueda avanzar a gran velocidad
Es vital designar roles para varios miembros del equipo y reconocer que no todos los miembros del equipo de ingeniería deben trabajar en IA generativa. Después de todo, las empresas todavía tienen que funcionar en el ínterin. Identificamos un subconjunto de nuestro equipo de ingeniería para que se concentre a tiempo completo en este esfuerzo (mientras que los demás se concentraron en los compromisos existentes).
Los ingenieros a los que llamamos para que se centraran en la IA generativa estaban completamente separados del resto del equipo y liberados de todas sus responsabilidades habituales. Los entregables de este proyecto se midieron en horas en lugar de días o semanas. Se les asignó la tarea de determinar la mejor manera de incorporar funciones de IA generativa en nuestra plataforma sin restricciones. Luego se les dio rienda suelta para llevar a cabo sus propios experimentos y construir prototipos para probar nuevas capacidades como mejor les pareciera.
Desarrolle barandillas para el uso responsable de IA generativa
Los líderes de la empresa deben tomar medidas proactivas para identificar y abordar los diversos riesgos asociados con la IA generativa, como los riesgos legales y de ciberseguridad.
Comenzamos trabajando con nuestros equipos legales y de ingeniería para ampliar nuestras estrictas pautas sobre el uso de datos. También instituimos un protocolo de prueba de equipo rojo en el que cada nueva función de IA generativa se probaría rigurosamente para exponer cualquier brecha que un actor malicioso podría explotar. Finalmente, ampliamos nuestra plataforma y equipo de seguridad para invertir aún más en nuestras capacidades de monitoreo continuo y mantener la certificación SOC1 Tipo 2 y SOC2 Tipo 2.
Comience a educar a los clientes sobre los cambios que está realizando
Recomendamos a las empresas que tengan conversaciones con los clientes para educarlos sobre la IA generativa en general y las capacidades que permite. Si bien muchas personas están entusiasmadas con las posibilidades, también existe una sensación general de incertidumbre sobre lo que puede traer este nuevo futuro. En particular, a muchas personas les preocupa cómo se pueden proteger los datos confidenciales para que no se incluyan en futuras iteraciones de modelos de base grandes.
Comenzamos creando documentación detallada y realizando una serie de seminarios web sobre nuestras capacidades de IA generativa. También pasamos tiempo uno a uno con los clientes para ayudarlos a comprender el potencial a largo plazo de la IA generativa, no solo en nuestra plataforma sino también en sus propias organizaciones.
En última instancia, la implementación exitosa de la IA generativa se reduce a equipos fuertes
Curiosamente, no fue difícil hacer funcionar un producto mínimo viable (MVP); Los modelos básicos generativos de IA tienden a ser relativamente fáciles de trabajar. En cambio, el desafío era aumentar la precisión al 90 % y más, además de garantizar la escalabilidad, la confiabilidad y la consistencia.
Tener un equipo que se inclina hacia el cambio fue fundamental para nuestro éxito, lo que nos permitió completar la transición de nuestra empresa a la IA generativa en 10 semanas, superando nuestra meta de 12. Desde entonces, varios clientes han probado la plataforma actualizada y nuestro equipo continúa iterar.
Al colocar a las personas adecuadas en los puestos correctos y seguir los otros pasos anteriores, otras empresas pueden implementar y beneficiarse con éxito de la IA generativa.
El Consejo de Tecnología de Forbes es una comunidad a la que solo se puede acceder por invitación para CIO, CTO y ejecutivos de tecnología de clase mundial. ¿Califico?
