Cómo Amazon pone la desinformación al principio de su lista de lectura | Amazon

IEs una verdad que vivimos en una “era digital”. Sería más exacto decir que vivimos en una era curada algorítmicamente, es decir, un período en el que muchas de nuestras elecciones y percepciones están moldeadas por algoritmos de aprendizaje automático que nos empujan en direcciones favorecidas por aquellos que emplean a los programadores que escriben el código necesario.

Una buena forma de describirlos sería como motores recomendados. Ellos monitorean su rastro digital y anotan lo que le interesa – como se evidencia por lo que ha navegado o comprado en línea. Amazon, por ejemplo, me ofrece regularmente sugerencias de artículos que están “basados en su historial de navegación”. También me muestra una lista de lo que la gente que compró el artículo que estoy considerando también compró. El motor de YouTube anota el tipo de vídeos que he visto y registra la cantidad de cada uno de ellos que he visto antes de hacer clic en ellos, y luego presenta en la parte derecha de la pantalla una lista de vídeos que puede interesarme en función de lo que acabo de ver.

En los primeros días de la web, existían pocos, si es que existía alguno, de estos motores. Pero a partir de 2001 se hicieron cada vez más comunes y ahora son casi omnipresentes. Varios factores impulsaron esta expansión. Uno de ellos fue la necesidad de ayudar a los usuarios a hacer frente a la sobrecarga de información que venía con la web: los motores de recomendación podían tamizar el torrente y crear una destilación personalizada sólo para ti. Pero la principal fuerza impulsora fue el modelo de negocio que ahora llamamos capitalismo de vigilancia: registrar nuestro comportamiento en línea para hacer predicciones cada vez más refinadas sobre nuestras preferencias y probables necesidades que podrían venderse a los anunciantes ansiosos de vendernos cosas.

Cuando los medios sociales comenzaron, las noticias de cada usuario consistían en una simple lista cronológica de lo que sus amigos habían publicado. Pero en septiembre de 2011 en Facebook, todo eso cambió: a partir de entonces las noticias de los usuarios fueron “curadas” por un algoritmo de aprendizaje automático. Mark Tonkelowitz, un gerente de ingeniería en Facebook en ese momento, describió el canal de noticias curado de esta manera: “Cuando recoges un periódico después de no leerlo durante una semana, la primera página te da rápidamente pistas sobre las historias más interesantes. En el pasado, la alimentación de noticias no ha funcionado así. Las actualizaciones se deslizan hacia abajo en orden cronológico, así que es difícil concentrarse en lo que más importa. Ahora, News Feed actuará más como tu propio periódico personal. No tendrás que preocuparte por perderte cosas importantes. Todas tus noticias estarán en un solo flujo con las historias más interesantes en la parte superior”.


Recomendado: ¿Qué es el Big data?.


Resultó que algunas de esas “historias interesantes” eran de gran interés comercial para Facebook porque alentaban a los usuarios a comprometerse con el contenido, y por lo tanto lo priorizaban. Desde 2016, nos hemos vuelto cada vez más conscientes de cómo esta curaduría algorítmica puede ser utilizada para inducirnos a comprar no sólo bienes y servicios, sino también ideas, desinformación, teorías de conspiración y engaños.

Durante años, imaginé con cariño que la conservación de ideas era el único negocio de los medios sociales. Pero un artículo del año pasado de Renée DiResta, una destacada experta en desinformación en línea, sugería que el fenómeno va más allá de Facebook y otros. Desplazándose a través de una simple búsqueda por palabra clave de “vacuna” en la sección de libros de alto nivel de Amazon, encontró “literatura anti-vax marcada prominentemente como ‘#1 Best Seller’ en categorías que van desde la Pediatría de Emergencia hasta la Historia de la Medicina y la Química”. El primer libro pro-vacuna aparece en el puesto 12 de la lista. Llamado sin rodeos Las vacunas no causaron el autismo de Racheles el único libro pro-vacunas en la primera página de los resultados de la búsqueda”.

En la categoría de oncología de Amazon, DiResta encontró un libro con una etiqueta de best-seller que promociona el jugo como una alternativa a la quimioterapia. Para el término “cáncer” en general, señaló que La verdad sobre el cáncer“un batiburrillo de afirmaciones sobre, entre otras cosas, conspiraciones gubernamentales”, tuvo 1.684 reseñas (el 96% de ellas de cinco estrellas) y fue colocado en primera plana.

Sólo por interés, esta semana intenté una búsqueda en la sección de libros de Amazon.co.uk de “cura del cáncer”. De los primeros 11 títulos disponibles que aparecieron, sólo uno parecía un tratamiento científico convencional del tema. Los otros se centraban en hierbas, aceites y “curas naturales que no quieren que conozcas”. Esto no se debe a que Amazon guarde rencor contra la medicina científica, sino a que hay algo en los libros no convencionales de esta área que su algoritmo de aprendizaje automático está detectando – quizás a partir de las reseñas publicadas por los evangelistas para los enfoques no científicos. (DiResta pensó que esta podría ser la explicación: Amazon no confirmó esto). Pero es concebible que en áreas realmente controvertidas – y actualmente de actualidad – como la vacunación, las revisiones coordinadas de los usuarios por los anti-vaxxers podrían jugar con éxito el algoritmo. Y en el pasado, Amazon ha sido acusada de ser “un proveedor gigante de curanderismo médico”.

Lo que realmente significa, supongo, es que, en el mundo online, la guerra de información es ahora omnipresente. Y como los libros son en realidad sólo contenedores de información e ideas, era previsible que mercados como el de Amazon se convirtieran en objetivos de manipulación. La verdad es siempre la primera víctima en la guerra.