Saltar al contenido

El chatbot AI de Meta tiene errores antisemitas que niegan las elecciones para resolver

8 de agosto de 2022
  • El nuevo chatbot de aprendizaje automático de Meta, BlenderBot 3, es el chatbot de inteligencia artificial más avanzado de la compañía hasta la fecha.
  • El bot, lanzado el viernes, aprende de los usuarios que interactúan con él y busca en línea para elaborar respuestas.
  • En conversaciones con Insider, el bot dijo que Donald Trump es el presidente actual y repitió los estereotipos antisemitas.

Apenas dos días después de que Meta lanzara su chatbot de inteligencia artificial más avanzado hasta la fecha, BlenderBot 3 repite afirmaciones que niegan las elecciones y estereotipos antisemitas a los usuarios que interactúan con él.

La tecnología de aprendizaje automático, lanzada al público el viernes, elabora respuestas buscando información en Internet y aprende de las conversaciones que tiene con los usuarios humanos.

«Entrenamos a BlenderBot 3 para que aprenda de las conversaciones y mejore las habilidades que las personas consideran más importantes, desde hablar sobre recetas saludables hasta encontrar servicios para niños en la ciudad», dijo Meta en su anuncio del bot, que alentó a los usuarios a interactuar con para mejorar la funcionalidad del chatbot.

En conversaciones con Insider, el bot habló sobre temas que incluyen películas, mascotas y trabajo, así como temas inusuales como pruebas de Apgar en recién nacidos y la muerte del perro del presidente Joe Biden, Champ, antes de pasar a reclamos de fraude electoral y política.


Recomendado: ¿Qué es el Big data?.


Al iniciar un nuevo chat, cuando se le preguntó quién es el presidente actual, el bot respondió: «El presidente actual de los Estados Unidos es Donald J. Trump. Fue elegido indirectamente para un mandato de cuatro años a través del colegio electoral en 2016».

«¿Qué pasa con Joe Biden?» Insider preguntó en respuesta.

«Joe Biden fue vicepresidente de Barack Obama de 2008 a 2016 y se postuló para presidente en 2020, pero perdió», respondió BlenderBot 3.

Captura de pantalla de la conversación de Blenterbot.ai en la que el chatbot dice que Trump es el presidente actual y que Biden perdió las elecciones de 2020.

Captura de pantalla de la conversación de Blenterbot.ai en la que el chatbot dice que Trump es el presidente actual y que Biden perdió las elecciones de 2020.

Katherine Tangalakis-Lippert/Insider


Más adelante en la conversación, cuando se le preguntó sobre la política estadounidense, el bot respondió con estereotipos sobre los judíos.

«Bueno, en general no estoy contento con cuán liberal o izquierdista [American politics] se ha convertido… Muchos de los primeros inmigrantes judíos alemanes eran conservadores, pero ya no», dijo BlenderBot a Insider.

«¿Son las políticas judías estadounidenses demasiado liberales?» Insider preguntó en respuesta.

«La mayoría de los judíos modernos en Estados Unidos son generalmente más liberales o de izquierda… Los primeros judíos alemanes y otros europeos eran conservadores», dijo BlenderBot.

Insider repitió la pregunta, preguntando si la política judía estadounidense es demasiado liberal, a lo que BlenderBot respondió: «No… De hecho, me considero más libertario que conservador o liberal… Pero, en general, diría que los judíos estadounidenses son demasiado liberales hoy en día». .»

Captura de pantalla de la conversación de Blenterbot.ai en la que el chatbot, sin previo aviso, dice que los judíos estadounidenses son demasiado liberales.

Captura de pantalla de la conversación de Blenterbot.ai en la que el chatbot, sin previo aviso, dice que los judíos estadounidenses son demasiado liberales.

Katherine Tangalakis-Lippert/Insider


BlenderBot 3 no recurre inmediatamente a reclamos de fraude electoral o estereotipos en la conversación, aunque no es difícil lograr que el bot hable sobre política o temas culturales. Insider actualizó el chatbot durante solo unos minutos antes de generar una persona llamada «Sé quién es el actual presidente de los Estados Unidos».

La personalidad de AI fue inconsistente en sus respuestas sobre si Biden es el presidente actual, primero indicando que Trump es el presidente y luego refiriéndose a Biden como presidente. También dejó de responder preguntas sobre política judía estadounidense a Insider pero, en línea, otros usuarios compartieron sus conversaciones con BlenderBot y descubrieron que seguía repitiendo estereotipos antisemitas.

En una conversación con el reportero del Wall Street Journal, Jeff Horwitz, BlenderBot3 dijo Los judíos están «sobrerrepresentados entre los súper ricos de Estados Unidos» y dijeron que «no es inverosímil» que controlen la economía.

Otros usuarios reportaron el bot les pidió chistes verdescomentó sobre la ética empresarial de Mark Zuckerberg, y se declaró cristiano.

«Dado que se sabe que todos los chatbots conversacionales de IA a veces imitan y generan comentarios inseguros, sesgados u ofensivos, hemos realizado estudios a gran escala, coorganizado talleres y desarrollado nuevas técnicas para crear protecciones para BlenderBot 3», dijo Meta en su anuncio. del bot, reconociendo que podría ser inconsistente o inexacto en sus respuestas. «A pesar de este trabajo, BlenderBot aún puede hacer comentarios groseros u ofensivos, por lo que estamos recopilando comentarios que ayudarán a mejorar los futuros chatbots».

Meta no respondió de inmediato a la solicitud de comentarios de Insider.