La inteligencia artificial en la búsqueda se enfrenta a la vacilación de los consumidores

Los chatbots, programas informáticos que son capaces de entablar una conversación, existen desde hace casi tanto tiempo como las computadoras. Pero el desarrollo de grandes modelos de lenguaje, sistemas que utilizan bases de datos masivas de información existente para predecir y crear contenido, ha revolucionado la tecnología con la introducción de la inteligencia artificial generativa. Ahora, los chatbots no solo son capaces de responder con respuestas preprogramadas; pueden generar nuevos contenidos para responder a una pregunta o solicitud.

Esta tecnología se ha afianzado de manera importante. ChatGPT, un chatbot desarrollado por OpenAI que es capaz de hacer de todo, desde responder preguntas hasta crear poesía o contratos, ha acumulado más de 100 millones de usuarios activos mensuales en dos meses después de su lanzamiento público en noviembre de 2022.

Microsoft Corp., un importante inversionista en OpenAI, integró la tecnología en su motor de búsqueda Bing para crear una función de búsqueda conversacional, convirtiendo efectivamente las consultas de búsqueda en una conversación. Google, la empresa dominante en búsquedas, respondió anunciando su propio chatbot llamado Bard.

Estas herramientas han generado una cantidad considerable de interés y atención: la mitad de todos los adultos de EE. UU. han visto, leído o escuchado al menos algo sobre los chatbots impulsados ​​por IA, y aproximadamente 2 de cada 3 expresaron interés en las funciones de búsqueda conversacional, según una encuesta de Morning Consult. . Sin embargo, la confianza en estos sistemas es baja, y el público en general tiene una letanía de deseos de los motores de búsqueda que clasifican por encima de la funcionalidad impulsada por IA.

En general, existe interés entre el público en la búsqueda en línea impulsada por IA. Casi la mitad de las personas encuestadas dijeron que estaban algo o muy interesadas en dicha tecnología. Pero cuando se les preguntó qué es importante al decidir qué motor de búsqueda usar, el 46% dijo que usar IA para mejorar los resultados era importante, ocupando el último lugar entre todas las consideraciones.

Casi el doble de adultos dijo que la privacidad de los datos era importante para su elección de motor de búsqueda, y el 85 % dijo que los resultados honestos, imparciales e imparciales eran importantes. Otras características, como la integración en los navegadores web, fueron importantes para casi 7 de cada 10 encuestados, y 2 de cada 3 dijeron que es importante que la búsqueda sea parte de un ecosistema más amplio de herramientas, como correos electrónicos y mapas. Esto sugiere que la conveniencia y la familiaridad son más valiosas para muchos consumidores que la funcionalidad de IA.

Anteponer los avances de la IA a las necesidades de los usuarios

Chirag Shah, profesor asociado de la Escuela de Información de la Universidad de Washington y director fundador de InfoSeeking Lab, que se enfoca en temas relacionados con la búsqueda de información y las interacciones entre humanos y computadoras, cree que cuando se trata de la búsqueda de IA, «nadie realmente ha preguntado qué quieren los usuarios». .”

“Microsoft y Google, no los veo interesados ​​en preguntar eso. Están demasiado ocupados superándose unos a otros”, dijo Shah. «Gran parte de la ‘innovación’ en este momento está impulsada por la forma en que estas empresas intentan demostrar que tienen un sistema de IA mejor que el otro».

Shah agregó que las empresas están adoptando un enfoque de «construirlo y vendrán» a sus herramientas de búsqueda impulsadas por IA, con la esperanza de que los usuarios se adapten al nuevo modelo después de verlo en acción.

La razón por la que estos sistemas y otras herramientas generativas de IA, como los programas de texto a imagen Midjourney y DALL-E, están repentinamente disponibles es porque la tecnología ha alcanzado un punto de inflexión que les ha permitido mejorar rápidamente, según el representante Jake Auchincloss. (D-Mass.), quien entregó el primer discurso escrito por IA en el suelo de la Cámara a principios de este año.

Auchincloss, quien pasó un tiempo trabajando como gerente de proyectos en una startup de seguridad cibernética antes de postularse para el Congreso, dijo que tres tendencias tenían que converger para conducir al avance actual en IA generativa: “Tuviste la investigación académica que creó los algoritmos y el aprendizaje profundo, tu tenía ley de moore que hizo que los semiconductores fueran lo suficientemente eficientes y potentes como para ser los recursos informáticos en la nube para entrenar estos modelos, lo que ni siquiera era factible hace 10 años. Y tiene la calidad y la cantidad de datos a escala de Internet”.

Es una especie de fiebre del oro para el contenido generativo, que el público en general parece reconocer: más de la mitad de los adultos creen que las integraciones de IA en productos y servicios, similares a la integración de IA conversacional de Microsoft en Bing, son el futuro de la tecnología.

A pesar de esto, los usuarios están menos convencidos de que este futuro los beneficie: solo 1 de cada 3 adultos cree que la IA los ayudará a ahorrar dinero, y una proporción casi igual cree que la IA creará nuevos puestos de trabajo.

También hay dudas entre el público sobre si la IA se desarrollará y administrará de manera efectiva. Más de 2 de cada 5 encuestados dijeron que no está de acuerdo con que los sistemas de IA se desarrollen de manera responsabley una parte similar no estuvo de acuerdo con que la tecnología se controle fácilmente.

Establecer confianza en la IA es una batalla cuesta arriba

Hay una población notable de personas que aún no se han decidido por la IA: aproximadamente 1 de cada 5 no sabe o no tiene una opinión sobre si será el futuro de la tecnología, y 1 de cada 4 no está seguro de si lo será. desarrollado de manera responsable, pero existe una duda considerable que las empresas tendrán que superar.

Las preocupaciones sobre si las herramientas se están desarrollando de manera responsable ciertamente podrían aumentar en función de algunas de las interacciones iniciales con la búsqueda Bing impulsada por IA de Microsoft. Los usuarios se han topado con instancias del chatbot”alucinando” — un término usado para describir cuando un sistema de IA responde de manera impredecible o con información convincente pero completamente inventada. Otros han tenido el chatbot amenazarlos.

En algunos casos, los usuarios interactúan con estos sistemas de formas inesperadas. Pero hay otra condición en juego aquí, según Shah: la economía. Microsoft tiene una porción del mercado de búsqueda, mientras que Google domina, con más de 90% de todas las búsquedas pasando por su plataforma.

“Microsoft, por primera vez, en todos estos años, vio una oportunidad real de reclamar parte de esa participación de mercado”, dijo Shah.

Microsoft y Google no respondieron a las solicitudes de comentarios en el momento de la publicación.

La integración de IA en los motores de búsqueda podría tener el potencial de atraer nuevos usuarios: la encuesta de Morning Consult encontró que aproximadamente 3 de cada 10 adultos estarían dispuestos a cambiar los motores de búsqueda por una opción impulsada por IA.

“Microsoft no tiene nada que perder, en cierto modo: es un actor pequeño en el negocio de las búsquedas. Pero si pudiera reclamar incluso un dos por ciento de la participación de mercado de Google, eso podría significar miles de millones de dólares al año”, agregó Shah. Microsoft se apresuró a lanzar su chatbot Bing impulsado por inteligencia artificial, dijo Shah, y obligó a Google a apresurarse a responder.

Esa prisa tiene desventajas. Si bien la IA conversacional es relativamente sencilla en términos de cómo funciona, hay una curva de aprendizaje pronunciada para explicar lo que sucede detrás de escena.

“IA es un nombre inapropiado. No es inteligente”, dijo Auchincloss. “No puede razonar sobre el mundo. Es un algoritmo de predicción de palabras. Lo que hace es predecir la siguiente palabra en una secuencia de palabras”.

Algunas personas han cuestionado si los chatbots son sensibles, una preocupación que se ha visto exacerbada por las alucinaciones en las que Bing ha dijo a los usuarios que quiere estar «vivo». Auchincloss, que ha pedido la regulación de los sistemas de IA, expresó dudas de que las personas realmente entiendan con qué están interactuando. Cuando se le preguntó si el público en general o sus colegas en The Hill entienden la IA generativa, el congresista respondió simplemente, «no».

Esa falta de comprensión puede estar contribuyendo a la falta de confianza en los sistemas de IA que gran parte del público parece estar experimentando. Actualmente, solo 1 de cada 4 adultos confía en los motores de búsqueda impulsados ​​por IA para evitar el contenido de los sitios web que promueven información errónea, y solo 1 de cada 3 confía en ellos para brindar resultados fácticos.

Los sistemas han proporcionado razones para la falta de confianza: tanto los chatbots de Bing como los de Google. mostró resultados incorrectos durante las demostraciones diseñado para mostrar la funcionalidad de los sistemas. Eso, combinado con experiencias en las que los chatbots inventar informaciónson motivo suficiente para que los usuarios expresen dudas.

Será necesario abordar esos problemas para alentar la adopción de estos sistemas, ya que el 63 % de los adultos expresaron al menos cierta preocupación sobre la precisión de los resultados en los motores de búsqueda que usan IA. Además, el 68 % dijo estar preocupado por la información errónea en los resultados de búsqueda de IA y el 62 % está preocupado por el sesgo.

La búsqueda impulsada por IA tiene potencial, limitaciones

Auchincloss dijo que las industrias, particularmente aquellas que probablemente sean las primeras en adoptar esta tecnología, ya deberían estar pensando en cómo abordar estas preocupaciones.

“No debemos tenerle miedo, pero sí debemos tener el control”, dijo. “No puede ser como las redes sociales donde se permitió escalar e influir en gran parte de nuestras vidas públicas y privadas antes de que realmente lo controláramos y, francamente, todavía no lo hemos logrado”.

Hasta entonces, el público puede dudar en adoptar por completo las herramientas de búsqueda impulsadas por IA. Más personas creen que los motores de búsqueda estándar son una mejor opción que la búsqueda impulsada por IA para proporcionar información precisa y fáctica y para proporcionar resultados libres de sesgos.

Parte de eso puede deberse a que los resultados de búsqueda tradicionales, presentados como una serie de enlaces, han capacitado a los usuarios sobre cómo buscar información y considerar varias fuentes diferentes, un ejercicio que Shah dijo que, en última instancia, es algo bueno.

“Creo que es valioso que las personas sigan algunos de estos pasos por sí mismas, porque en algunos casos, incluso podrían comenzar a cuestionar su pregunta original”, dijo. “En algunos casos, pueden aprender algo que les permita cambiar su camino. Casi siempre, puede usar este proceso para validar y verificar lo que está encontrando, porque puede ver las cosas que se desarrollan frente a sus ojos”.

Por el contrario, la búsqueda impulsada por IA actualmente proporciona una respuesta singular, destinada a parecer definitiva. Sin embargo, esa presentación de una respuesta segura puede hacer que los usuarios crean en información que no es cierta. En muchos casos en los que los sistemas son «respuestas alucinantes, la única forma de saber que se trata de una alucinación es ir y verificar la respuesta manualmente», dijo Shah.

Algunos de estos problemas se pueden abordar con barandillas adicionales. Pero, dijo Shah, parte de esto es un problema fundamental con los grandes modelos de lenguaje.

“Los modelos de lenguaje no son máquinas inteligentes”, dijo. “Son esencialmente máquinas estocásticas que son realmente buenas para escupir ocurrencias de palabras que suenan naturales, que a menudo es lo que estamos buscando. Pero a menos que limitemos nuestras expectativas para estos sistemas, siempre serán problemáticos”.