Saltar al contenido

Got It AI desarrolla IA para identificar y abordar las alucinaciones de ChatGPT para aplicaciones empresariales

16 de enero de 2023

Got It AI, la compañía de inteligencia artificial conversacional autónoma, anunció una nueva e innovadora IA «Verificador de la verdad» que puede identificar cuándo ChatGPT está alucinando (generando respuestas fabricadas) al responder preguntas de los usuarios sobre un gran conjunto de artículos o base de conocimientos. Esta innovación hace posible implementar experiencias similares a ChatGPT sin el riesgo de proporcionar respuestas incorrectas a los usuarios o empleados. Las empresas ahora pueden implementar con confianza IA conversacionales generativas que aprovechan las bases de conocimientos a gran escala, como las que se utilizan para la atención al cliente externa o para las consultas de atención al usuario interno.

Truth Checker AI utiliza un sistema de inteligencia artificial basado en un modelo de lenguaje grande (LLM) avanzado e independiente y un dominio objetivo de contenido (por ejemplo, una gran base de conocimientos o una colección de artículos) para entrenarse de forma autónoma para una tarea: verificar la verdad. ChatGPT o un LLM subyacente, como un modelo GPT-3.5, proporcionado con el mismo contenido, se puede usar para responder preguntas en un diálogo de chat contextual de varios turnos. Se evalúa la veracidad de cada respuesta antes de presentarla al usuario. Siempre que se detecta una respuesta inexacta, la respuesta no se presenta al usuario. En su lugar, se proporciona una referencia a artículos relevantes que contienen la respuesta.

«Probamos nuestra tecnología con un conjunto de datos de más de 1000 artículos en múltiples bases de conocimiento utilizando conversaciones de varios turnos con estructuras lingüísticas complejas como correferencia, contexto y cambios de tema», dijo Chandra Khatri, ex líder del equipo del Premio Alexa y co- fundador de Got It AI. “ChatGPT produjo respuestas incorrectas para aproximadamente el 20 % de las consultas cuando se les proporcionó todo el contenido relevante para la consulta en su espacio de solicitud. Nuestro Truth Checker AI pudo detectar el 90% de las respuestas inexactas, sin ayuda humana. También proporcionaremos al cliente una interfaz de usuario simple para Truth Checking AI, para optimizarla aún más, identificar las inexactitudes restantes y eliminar prácticamente todas las respuestas inexactas”.

«Nuestra tecnología es un gran avance en la IA conversacional autónoma para dominios de contenido ‘conocidos’, como las bases de conocimientos empresariales, en comparación con ‘dominios abiertos’ como toda la red mundial», dijo Amol Kelkar, exarquitecto de Microsoft Office Online. y co-fundador de Got It AI. “Va más allá de la ingeniería rápida, el ajuste fino o simplemente una capa de interfaz de usuario. Es un modelo patentado que nos permite ofrecer IA conversacional escalable, precisa y fluida para los clientes que planean aprovechar los LLM generativos. Verificar la verdad de las respuestas generadas de manera rentable es la capacidad clave que cierra la brecha entre un sistema de I+D y un sistema listo para la empresa”.

Registros beta privados

Truth Checker AI de Got It AI está disponible dentro de su producto ArticleBot, que aprovecha Davinci-3, un LLM generativo GPT-3.5 de OpenAI. Se espera que OpenAI haga que ChatGPT y el muy esperado GPT-4 sean cada vez mejores con su retroalimentación humana de aprendizaje por refuerzo y otros enfoques. Sin embargo, seguirán existiendo algunas imprecisiones en cualquier chatbot generativo basado en LLM, especialmente dado el contenido de destino específico y el contenido que se actualiza periódicamente. ArticleBot de Got It AI con Truth Checker AI admitirá los últimos LLM generativos disponibles.


Recomendado: ¿Qué es el Big data?.


Para simplificar la evaluación del producto, Got It AI permite que los clientes simplemente proporcionen una base de conocimientos o un conjunto de artículos. ArticleBot no requiere configuración para capacitarse en el contenido de destino y los usuarios pueden comenzar a probarlo en minutos. Es ideal para aplicaciones de atención al cliente con inteligencia artificial conversacional de nivel empresarial, mesa de ayuda y asistencia de agentes. Got It AI está aceptando consultas sobre su versión beta cerrada para ArticleBot con Truth Checker AI incorporado en www.got-it.ai/articlebot o comunicándose directamente con el cofundador David Chu david@got-it.ai.

Regístrese para recibir el boletín gratuito insideBIGDATA.

Únase a nosotros en Twitter: https://twitter.com/InsideBigData1

Únase a nosotros en LinkedIn: https://www.linkedin.com/company/insidebigdata/

Únase a nosotros en Facebook: https://www.facebook.com/insideBIGDATANOW