Kate Linebaugh: Recientemente, el mundo de la tecnología se ha centrado mucho en una cosa: la inteligencia artificial. Está Chat GPT, está DALL·E, está Midjourney. Pero una gran empresa de tecnología ha estado al margen, Google.
Miles Kruppa: Creo que para algunas personas parece que Google se atrasó en convertir estos avances de inteligencia artificial realmente revolucionarios en nuevos productos, en cosas reales con las que la gente podría jugar. Y a pesar de todo el trabajo que se había realizado muchos años antes, Google estaba algo golpeado.
Kate Linebaugh: Ese es nuestro colega, Miles Kruppa. Él dice que Google ha estado desarrollando una poderosa IA durante años, pero que la compañía ha decidido continuamente no hacerla pública.
Miles Kruppa: Google tiene muchas razones para frenar este tipo de tecnología, pero es un escenario interesante en el que pensar. ¿Y si Google hubiera sido el primero en el mercado con estas cosas?
Kate Linebaugh: Y ahora Google está tratando de ponerse al día.
Miles Kruppa: En 2013, surgieron muchas cosas. Google ya había formado este grupo de investigación para analizar lo que llaman aprendizaje profundo y los avances en inteligencia artificial y cómo se podría aplicar eso a la empresa. Y dentro de sus propias filas tenían investigadores que decían hace años que Google necesitaba lanzar algo como un chatbot.
Kate Linebaugh: Entonces, los ingenieros de Google idearon un prototipo de cómo podría verse este chatbot. Lo llamaron Mena. Meena escaneó millones de interacciones en las redes sociales y usó esa información para generar respuestas que parecían provenir de un ser humano.
Miles Kruppa: Puedes decir cosas como, «Oh, estoy interesado en ir a ver una película». Y Meena dirá: «Recientemente escuché que una película de Wes Anderson, The Grand Budapest Hotel, estaba ganando algunos premios. Eso parece interesante». O incluso puede debatir cosas como la filosofía y las ideas de Platón. Así que era un programa de computadora conversacional bastante abierto.
Kate Linebaugh: En ese momento, este tipo de tecnología se consideraba revolucionaria, pero también planteaba preocupaciones de que pudiera usarse para difundir información errónea o reforzar estereotipos dañinos.
Miles Kruppa: Había todo tipo de investigadores y especialistas en ética que pedían a empresas como Google y otras que fueran más reflexivas sobre cómo estaban desarrollando este material. Estos programas pueden producir texto plausible y con un sonido agradable, pero puede que no sea cierto, que no sea justo y que no sea ético. Y tenemos que pensar en estas cosas más temprano que tarde.
Kate Linebaugh: Y Miles dice que este debate también estaba ocurriendo dentro de Google, y estalló en 2018 en torno a un acuerdo controvertido.
Miles Kruppa: El equipo de nube de Google está tratando de crecer muy rápidamente, ganar nuevos clientes y parte de ese trabajo que buscan hacer es con el Departamento de Defensa en algo llamado Proyecto Maven.
Kate Linebaugh: Ese proyecto planeaba usar la IA de Google para ayudar a los drones militares a rastrear objetivos y zonas de guerra y miles de empleados de Google no estaban contentos con eso. Firmaron una petición que decía que iba en contra del lema no oficial de la empresa, «No seas malvado». Pidieron a Google que cancelara el proyecto. Y eventualmente Google lo hizo y también prometió no usar tecnología de IA en armas militares.
Miles Kruppa: Y Sundar Pichai, quien es entonces el nuevo CEO de Google, presenta estos siete principios, principios de IA, en torno a cómo la empresa desarrollará sus programas de inteligencia artificial.
Kate Linebaugh: ¿Y cuáles son esos principios?
Miles Kruppa: En términos generales, los principios comprometen a Google a desarrollar inteligencia artificial para ser justos, para reducir los sesgos humanos que podrían estar presentes en todo el texto, todos los datos que se utilizan para entrenar estas cosas.
Kate Linebaugh: ¿Y esto ralentizó el avance de Google hacia la IA?
Miles Kruppa: Creo que lo que sucedió es que todo esto generó mucha burocracia en torno a la creación de nuevas herramientas de IA y su lanzamiento al mundo. Y muchos dirían, para mejor. Esto está sucediendo muy rápido y, a menudo, en empresas cerradas como Google, es muy difícil que personas externas incluso estudien cómo funcionan estas cosas. Así que Google realmente contrató a investigadores y especialistas en ética que probarían este material antes de que viera la luz del día.
Kate Linebaugh: Pero estas precauciones dificultaron cada vez más el avance de los proyectos de IA, como el chatbot. Y para 2020, el equipo detrás del chatbot Meena, que había sido rebautizado como Lamda, estaba frustrado. Habían estado experimentando con el uso de la tecnología en el Asistente de Google, esa herramienta de búsqueda activada por voz en los teléfonos y dispositivos domésticos inteligentes de Google.
Miles Kruppa: Así que trabajan en segundo plano con un asistente. Hacen experimentos sobre cómo se podría usar Lamda para responder preguntas a través del Asistente, pero lo que realmente quieren es una demostración pública. Y lo que Google les dice una y otra vez en diferentes formas es que no está listo para el horario de máxima audiencia.
Kate Linebaugh: Los altos mandos de la empresa le dijeron al equipo de Lamda que su chatbot no cumplía con los estándares de seguridad y equidad de Google.
Y luego Google se enfrentó a otro incidente de alto perfil relacionado con la IA.
Orador 3: El CEO de Google, Sundar Pichai, se disculpó con los empleados y abrió una investigación sobre cómo la empresa manejó la partida de uno de sus principales expertos en IA, Timnit Gebru.
Kate Linebaugh: Timnit Gebru era una destacada investigadora de ética en Google y dejó la empresa después de negarse a retractarse de un trabajo de investigación sobre los riesgos de la IA.
Miles Kruppa: Lo que sucedió efectivamente fue que Timnit ayudó a liderar un grupo que intentaba garantizar que Google lanzara inteligencia artificial de una manera ética y segura. Y fue coautora de un documento que se volvió muy controvertido, el proceso en torno a él se volvió muy controvertido y, efectivamente, Google dijo que el documento no debería haberse publicado y que en realidad no fue aprobado por Google.
A partir de ahí, se discute si renunció o si fue despedida, pero terminó dejando la empresa y causando un gran dolor de cabeza público a Google sobre cómo se manejó su despido. La gente tanto dentro como fuera de la empresa estaba muy descontenta.
Kate Linebaugh: Y después de eso, después de su partida y la atención que atrae, ¿qué hace Google con su división de inteligencia artificial?
Miles Kruppa: Después de eso, Google promete aumentar aún más el personal de su equipo de ética de IA, para duplicar ese equipo. Y por lo que entiendo, después de ese punto, se vuelve aún más difícil lanzar productos de inteligencia artificial en Google.
Kate Linebaugh: Google dice que este enfoque lento también es importante para generar confianza en el consumidor, pero tuvo sus costos. Los dos ingenieros principales detrás de Lamda dejaron la empresa. Y el año pasado, una nueva sensación viral de IA venció a Google en su propio juego.
Eso viene.
A fines del año pasado, se lanzó una nueva herramienta de IA.
Orador 4: Chat GPT.
Ponente 5: Chat GPT.
Orador 6: Voy a usar Chat GPT.
Orador 7: Planeo usar Chat GPT en mi clase este semestre.
Orador 8: Si no ha oído hablar de Chat GPT, entonces ha estado viviendo debajo de una roca.
Miles Kruppa: Entonces sale Chat GPT y es muy rápidamente un gran éxito. Atrae a millones de visitantes inmediatamente al sitio web. Comienza a bajar, comienza a chocar intermitentemente, porque es muy popular. Entonces, justo cuando Google está lidiando con todos estos problemas internos relacionados con la ética y el proceso de investigación, de repente esta cosa captura la imaginación del público.
Kate Linebaugh: Behind Chat GPT es uno de los mayores competidores de Google. En 2019, Microsoft invirtió mil millones de dólares en la startup que creó Chat GPT. Y en febrero, Microsoft dijo que usaría la tecnología para mejorar su propio motor de búsqueda, bing. Aquí está el CEO de Microsoft, Satya Nadella.
Satya Nadella: Es un nuevo día en la búsqueda. Es un nuevo paradigma para la búsqueda. La innovación rápida va a venir. De hecho, una carrera comienza hoy.
Miles Kruppa: El gran anuncio llamativo de febrero es que quieren enfrentarse a Google y su dominio en la búsqueda en línea mediante la creación de un nuevo tipo de experiencia de búsqueda que integra un chatbot como Chat GPT que puede responder preguntas junto con la experiencia de búsqueda tradicional.
Kate Linebaugh: ¿Cuál es la reacción dentro de Google a este anuncio?
Miles Kruppa: Creo que Google está un poco asustado por la cantidad de publicidad que Microsoft está sacando de este llamativo anuncio que es casi como un lanzamiento de iPhone. Es una amenaza porque, como a Google le encanta decir, en su propia defensa de su poder de mercado en las búsquedas, la elección está a solo un clic de distancia.
Kate Linebaugh: La búsqueda impulsada por IA en Bing podría significar un gran problema para Google, y podría dañar potencialmente el negocio publicitario de Google, porque podría significar que menos personas usan la búsqueda de Google y también podría cambiar por completo la forma en que funciona la búsqueda.
Miles Kruppa: Lo desafiante de estos nuevos productos de IA es que a menudo producen este tipo de respuestas sintetizadas y, a veces, es difícil verificar sus fuentes como lo haría en una búsqueda normal de Google que le brinda 10 enlaces azules. Entonces, en este nuevo mundo en el que estamos ingresando, donde potencialmente más personas están recurriendo a herramientas de IA como chatbots para obtener respuestas, está obligando a Google a estar en esta posición difícil de cómo responder a esto y al mismo tiempo dar respuestas que están a la altura. de los propios estándares de la empresa en cuanto a factualidad, precisión y relevancia?
Kate Linebaugh: Durante años, Google se había movido lenta y cautelosamente en la IA, pero frente a Chat GPT, la respuesta de la empresa fue rápida. El mes pasado organizó un evento de prensa en París.
Miles Kruppa: Ahora, Google había estado planeando este evento durante meses, y originalmente la idea era que sería solo una especie de evento regional europeo para mostrar algunas de las cosas nuevas y geniales en las que Google estaba trabajando en la búsqueda. Sin embargo, en el momento en que se produjo el evento, era un contexto muy diferente. Google se sentía presionado para tratar de producir algo que le mostrara a la gente que, «Oye, también estamos trabajando en nuestras propias herramientas de inteligencia artificial muy interesantes que podrían tener aplicaciones para la búsqueda».
Kate Linebaugh: En este evento, Google dijo que pronto lanzaría su competidor Chat GPT. Se llama Bard y está basado en Lamda. Aquí hay un ejecutivo de Google.
Orador 14: Digamos que está buscando un automóvil nuevo en el mercado, uno que sea adecuado para su familia. Bard puede ayudarlo a pensar en diferentes ángulos para considerar, desde el presupuesto hasta la seguridad y más.
Kate Linebaugh: Aunque Bard no es perfecto, Google quería lanzarlo a los evaluadores porque ha habido mucho entusiasmo en torno a la IA.
Orador 14: Continuamos utilizando los comentarios de las pruebas internas y externas para asegurarnos de que cumpla con el estándar alto, nuestro estándar alto, en cuanto a calidad, seguridad y conexión a tierra antes de lanzarlo de manera más amplia.
Kate Linebaugh: Pero luego las cosas empezaron a salir mal. En un video promocional de Bard, algunas personas notaron que el chatbot cometió un error.
Miles Kruppa: En realidad, parecía que una de las respuestas que funcionaba con IA parecía equivocarse cuando el telescopio espacial James Webb tomó «las primeras imágenes de un exoplaneta fuera del sistema solar».
Kate Linebaugh: En su debut, Bard tuvo un error, y este evento tan esperado en París en realidad no le dio a la gente una mirada profunda a la tecnología. Y ese día, las acciones de Google se desplomaron y el valor de la empresa se redujo en 100.000 millones de dólares.
Miles Kruppa: Los accionistas y el resto del mundo parecían pensar básicamente que la respuesta de Google, por así decirlo, no estaba realmente a la altura de lo que Microsoft estaba implementando.
Kate Linebaugh: ¿Está listo para el horario estelar si responde mal esta pregunta sobre el telescopio?
Miles Kruppa: Sí, es una gran pregunta. Básicamente, Sundar ha pedido a los Googlers que pasen unas horas trabajando con Bard y diciéndole cuándo sus respuestas son incorrectas o están fuera de lugar. Así que creo que Google todavía está en esta posición en la que Microsoft los obligó un poco y todavía están tratando de descubrir qué quieren hacer con esta cosa llamada Bard. es producto propio? ¿Es algo para integrar en el Asistente o en la búsqueda? Sigue siendo una especie de gran pregunta abierta.
Kate Linebaugh: En un correo electrónico a los empleados de Google el mes pasado, Pichai dijo que la empresa debería priorizar la creación de productos de inteligencia artificial de manera responsable y que la confianza del cliente se desarrollará con el tiempo.
Miles Kruppa: Básicamente dijo: «Empleados, no deberían preocuparse». Escribió un correo electrónico a la empresa tratando de recordarle a la gente que no es necesariamente correcto estar obsesionado con ser el primero. Google, el motor de búsqueda en sí, no fue el primer motor de búsqueda. Android, el gran sistema operativo móvil que ahora es el más grande del mundo, no fue el primero. En muchas, muchas categorías de productos, Google ha llegado en segundo lugar, pero aún ganó. Y tal vez ser cauteloso y ser el segundo en mover no sea lo peor para Google al final.
