Saltar al contenido

Los sistemas de aprendizaje automático son problemáticos. Por eso los jefes tecnológicos los llaman ‘IA’ | Juan Naughton

8 de noviembre de 2022

Ono de los textos más útiles para cualquiera que cubra la industria de la tecnología es el célebre ensayo de George Orwell, Politics and the English Language. El enfoque de Orwell en el ensayo estaba en el uso político del lenguaje para, como él lo expresó, «hacer que las mentiras suenen veraces y el asesinato respetable y dar una apariencia de solidez al viento puro». Pero el análisis también se puede aplicar a las formas en que las corporaciones contemporáneas tuercen el lenguaje para distraer la atención de las sórdidas realidades de lo que están haciendo.

La industria de la tecnología ha sido particularmente experta en este tipo de ingeniería lingüística. “Compartir”, por ejemplo, es hacer clic en un enlace para dejar un rastro de datos que se puede usar para refinar el perfil que la empresa mantiene sobre usted. Usted da su «consentimiento» a una propuesta unilateral: acepte estos términos o se perderá. El contenido es «moderado», no censurado. Los anunciantes «se comunican» con usted con mensajes no solicitados. Los empleados que son despedidos son «dejados ir». Los productos defectuosos son «retirados». Y así.

Por el momento, el eufemismo más pernicioso en el diccionario del doble discurso es la IA, que en los últimos dos o tres años se ha vuelto omnipresente. En origen, es una abreviatura de inteligencia artificial, definida por el OED como “la capacidad de las computadoras u otras máquinas para exhibir o simular un comportamiento inteligente; el campo de estudio relacionado con esto”. Una herramienta de Ngram (que muestra patrones de uso de palabras) revela que hasta la década de 1960, la IA y la inteligencia artificial eran más o menos sinónimos, pero que a partir de entonces divergieron y ahora la IA prolifera en la industria tecnológica, los medios de comunicación y el mundo académico.

Ahora, ¿por qué podría ser eso? Sin duda la pereza tiene algo que ver con eso; después de todo, dos letras son tipográficamente más fáciles que 22. Pero eso es una racionalización, no una explicación. Si lo miras a través de una lente orwelliana, tienes que preguntarte: ¿qué tipo de trabajo está haciendo esta compresión lingüística? ¿Y para quién? Y ahí es donde las cosas se ponen interesantes.


Recomendado: ¿Qué es el Big data?.


Como tema y concepto, la inteligencia es infinitamente fascinante para los humanos. Llevamos siglos discutiendo al respecto: qué es, cómo medirlo, quién lo tiene (y quién no), etc. Y desde que Alan Turing sugirió que las máquinas podrían ser capaces de pensar, el interés por artificial La inteligencia ha crecido y ahora está en un punto álgido con la especulación sobre la posibilidad de máquinas superinteligentes, a veces conocidas como AGI (por inteligencia artificial general).

Todo lo cual es interesante, pero tiene poco que ver con lo que la industria tecnológica llama IA, que es el nombre que se le da al aprendizaje automático, una tecnología arcana e intensiva en carbono que a veces es buena para resolver problemas complejos pero muy bien definidos. Por ejemplo, los sistemas de aprendizaje automático pueden jugar Go de clase mundial, predecir la forma en que se plegarán las moléculas de proteína y realizar análisis de alta velocidad de escaneos de retina para identificar casos que requieren un examen más detallado por parte de un especialista humano.

Todo está bien, pero la razón por la que la industria tecnológica está obsesionada con la tecnología es que le permite construir máquinas que aprenden del comportamiento de los usuarios de Internet para predecir lo que podrían hacer a continuación y, en particular, lo que les gusta. valor y podría querer comprar. Esta es la razón por la que los jefes tecnológicos se jactan de tener «IA en todas partes» en sus productos y servicios. Y es por eso que cada vez que Mark Zuckerberg y compañía son atacados por su incapacidad para mantener el contenido tóxico fuera de sus plataformas, invariablemente responden que la IA solucionará el problema muy pronto.

Pero aquí está la cuestión: la industria ahora es adicta a una tecnología que tiene importantes desventajas técnicas y sociales. CO2 las emisiones del entrenamiento de grandes sistemas de aprendizaje automático son enormes, por ejemplo. Son demasiado frágiles y propensos a errores para confiar en ellos en aplicaciones críticas para la seguridad, como los vehículos autónomos. Incorporan sesgos raciales, de género y étnicos (en parte porque han absorbido los sesgos implícitos en los datos en los que fueron capacitados). Y son irremediablemente opacos, en el sentido de que incluso sus creadores a menudo son incapaces de explicar cómo sus máquinas llegan a las clasificaciones o predicciones y, por lo tanto, no cumplen con los requisitos democráticos de responsabilidad. Y eso es sólo para empezar.

Entonces, ¿cómo aborda la industria la sórdida realidad de que ha apostado todo por una tecnología poderosa pero problemática? Respuesta: evitando llamarlo por su nombre real y, en cambio, envolviéndolo en un nombre que implica que, de alguna manera, todo es parte de un proyecto romántico más grande y grandioso: la búsqueda de la inteligencia artificial. Como podría decir Orwell, es la forma que tiene la industria de dar “una apariencia de solidez al viento puro” mientras continúa con el verdadero negocio de hacer fortunas.

lo que he estado leyendo

Tirales un Bono
Un extracto fascinante de la autobiografía del cantante de U2, publicado en el Neoyorquino.

Twitter no?
Bienvenido al infierno, Elon es un buen tutorial enérgico para el último magnate de los medios del mundo en el sitio web de Verge.

Una mente inconformista
El hermoso perfil de Roger Highfield en el sitio Aeon del difunto gran científico del clima James Lovelock.