NUEVA YORK – Salesforce dice que se toma en serio la IA generativa.
El gigante de CRM y CX presentó sus últimos servicios de inteligencia artificial generativa con un énfasis sustancial en la seguridad de los datos en un evento de un día en la ciudad de Nueva York el 12 de junio con una rara aparición en los medios de Marc Benioff, director ejecutivo, presidente y cofundador del proveedor.
«Los clientes tienen la capacidad de usar la IA generativa sin sacrificar la privacidad y la seguridad de sus datos», dijo Benioff durante una conferencia de apertura, y señaló que Salesforce comenzó a usar la IA de manera intensiva en 2016 cuando lanzó su primer modelo de confianza para la IA predictiva. «Esto es fundamental para todos y cada uno de nuestros clientes en todo el mundo».
AI Cloud y seguridad de datos
Hace casi una década, Salesforce utilizó inteligencia artificial para proporcionar predicciones sin mirar los datos, dijo. Ahora, con Einstein GPT Trust Layer del proveedor, parte del nuevo servicio AI Cloud, la IA generativa puede manejar datos de manera segura, dijo Benioff.
Con AI Cloud, parte de un arsenal de aplicaciones y plataformas en la nube específicas de la industria, Salesforce parece estar apuntando no solo a una gran cantidad de otros competidores de CRM y CX en la nube, sino también a los gigantes de la nube y la IA Microsoft, Google y AWS.
«Salesforce debe ofrecer herramientas de IA que sirvan tanto a los usuarios avanzados que requieren flexibilidad, como traer su propio modelo de lenguaje grande entrenado a la medida [LLM] para el servicio al cliente, y también aquellos que desean herramientas preconstruidas que pueden simplemente activar y comenzar a infundir IA generativa en sus diversos flujos de trabajo de inmediato», dijo Don Fluckinger, analista de Enterprise Strategy Group de TechTarget. «AI Cloud es el intento de Salesforce para atender a ese amplio espectro de usuarios en varios estados de adopción y competencia de IA».
Usar la IA generativa de forma segura
En el evento del Día de la IA de Salesforce el 12 de junio, julie dulceCEO y presidente de Accenture, el integrador de sistemas, que reveló planes el mes pasado para ayudar a los clientes de Salesforce a instalar sistemas de CRM respaldados por IA generativa, dijo que la confianza es importante para los clientes que usan IA generativa, que aún está en pañales y está sujeta a problemas crónicos. problemas como la inexactitud.
La tecnología de IA generativa basada en LLM que crean texto, imágenes y audio a partir de indicaciones humanas, incluidos ensayos, códigos informáticos y obras de arte, ha crecido de manera explosiva desde que el socio de Microsoft, OpenAI, lanzó el popular chatbot ChatGPT AI en noviembre pasado. Google, a su vez, lanzó Bard, su asistente generativo de IA, en marzo.
Pero tanto los sistemas de IA generativa, como otros, se han visto afectados por lo que recientemente se conoce como «alucinaciones», incidentes en los que los chatbots de IA inventan, distorsionan y se apropian de información de manera inapropiada, a veces produciendo respuestas ofensivas o irracionales.
Accenture tiene un programa de cumplimiento supervisado por el comité de auditoría de su directorio. Las empresas deben usar expertos y protocolos de seguridad de IA para comenzar a usar IA generativa de manera segura, dijo Sweet.
«Si, cuando sale de esta habitación, no puede levantar el teléfono, llame a alguien de su empresa y pídale que le diga dónde se está utilizando la IA… todavía no tiene una IA responsable», dijo Sweet.. «¿Cuáles son los riesgos? ¿Cómo se mitigan? ¿Cómo se monitorean? ¿Y quién es responsable?»
La clave entre las capacidades de Einstein GPT Trust Layer es cómo ayuda a reducir la cantidad de alucinaciones de IA, según Patrick Stokes, vicepresidente ejecutivo de marketing de productos e industrias de Salesforce.
A medida que se introducen más datos en el LLM, la curva de alucinaciones disminuye, según Stokes. Dijo que traer los datos de manera segura es clave y que Einstein GPT Trust Layer respalda esta misión.
«Podemos crear esta separación en la que los datos de su negocio, su activo más importante, se almacenan en un lugar donde podemos tener un control selectivo sobre cómo se utilizan los datos», dijo Stokes.
confianza de la IA
Los clientes tienen la capacidad de usar IA generativa sin sacrificar la privacidad y la seguridad de sus datos.
Marc Benioff, CEO, presidente y cofundadorFuerza de ventas
La tecnología como la capa de confianza de Salesforce es una de las tendencias más populares en la IA generativa ahora, señaló Fluckinger.
«Cuando los proveedores de tecnología comenzaron a lanzar herramientas de inteligencia artificial en masa hace más de una década, usaron palabras como ‘eficiencia’ y ‘automatización del flujo de trabajo’ para atraer a los usuarios», dijo. «Es interesante que muchos, incluido Salesforce, ahora se centren primero en la confianza y la transparencia antes de comenzar a presentar otros beneficios potenciales. Teniendo en cuenta los titulares sobre la IA en este momento, probablemente sea un movimiento inteligente».
Salesforce Ventures, el brazo de capital de riesgo del proveedor, también duplicó su fondo de IA generativa de $ 250 millones a $ 500 millones para respaldar el ecosistema de inicio de IA y la IA generativa segura.
Mary Reines es una redactora de noticias que cubre la experiencia del cliente y las comunicaciones unificadas para TechTarget Editorial. Antes de TechTarget, Reines fue editor de arte en la reportero cabeza de mármol.