¿Preocupado por las máquinas superinteligentes? Ya estan aqui | John Naughton

In la primera de sus cuatro (impresionantes) conferencias de Reith sobre cómo vivir con inteligencia artificial, el profesor Stuart Russell, de la Universidad de California en Berkeley, comenzó con un extracto de un artículo escrito por Alan Turing en 1950. Su título era Computing Machinery and Intelligence y en él Turing introdujo muchas de las ideas centrales de lo que se convirtió en la disciplina académica de la inteligencia artificial (IA), incluida la sensación del día de nuestro propio tiempo, el llamado aprendizaje automático.

De este asombroso texto, Russell extrajo una cita dramática: “Una vez que se inició el método de pensamiento de máquina, no tomaría mucho tiempo superar nuestros débiles poderes. Por lo tanto, en algún momento deberíamos esperar que las máquinas tomen el control ”. Este pensamiento fue articulado con más fuerza por IJ Good, uno de los colegas de Turing en Bletchley Park: “La primera máquina ultrainteligente es el último invento que el hombre necesita hacer, siempre que la máquina sea lo suficientemente dócil como para decirnos cómo mantenerla bajo control. control.»

Russell fue una elección inspirada para dar una conferencia sobre IA, porque es simultáneamente un líder mundial en el campo (coautor, con Peter Norvig, de su libro de texto canónico, Inteligencia artificial: un enfoque moderno, por ejemplo) y alguien que crea que el enfoque actual para construir máquinas “inteligentes” es profundamente peligroso. Esto se debe a que considera que el concepto predominante de inteligencia en el campo, el grado en que se puede esperar que las acciones logren determinados objetivos, es fatalmente defectuoso.

Los investigadores de IA construyen máquinas, les dan ciertos objetivos específicos y las juzgan más o menos inteligentes por su éxito en el logro de esos objetivos. Probablemente esto esté bien en el laboratorio. Pero, dice Russell, “cuando empezamos a movernos del laboratorio al mundo real, nos damos cuenta de que no podemos especificar estos objetivos de forma completa y correcta. De hecho, definir los otros objetivos de los vehículos autónomos, como cómo equilibrar la velocidad, la seguridad de los pasajeros, la seguridad de las ovejas, la legalidad, la comodidad, la cortesía, ha resultado ser extraordinariamente difícil ”.

Eso es para decirlo cortésmente, pero no parece molestar a las corporaciones tecnológicas gigantes que están impulsando el desarrollo de máquinas cada vez más capaces, implacables y decididas y su instalación ubicua en puntos críticos de la sociedad humana.

Esta es la pesadilla distópica que Russell teme si su disciplina continúa en su camino actual y logra crear máquinas superinteligentes. Es el escenario implícito en el experimento mental del filósofo Nick Bostrom sobre el “apocalipsis del clip de papel” y entretenido simulado en el Clips universales juego de ordenador. También, por supuesto, tanto la industria de la tecnología como los investigadores de IA lo ridiculizan sinceramente como inverosímil y alarmista. Un experto en el campo bromeó en broma diciendo que le preocupaban las máquinas superinteligentes de la misma manera que le preocupaba la superpoblación en Marte.

Pero para cualquiera que piense que vivir en un mundo dominado por máquinas superinteligentes es una perspectiva «no en mi vida», he aquí un pensamiento saludable: ¡Ya vivimos en un mundo así! Las IA en cuestión se denominan corporaciones. Definitivamente son superinteligentes, en el sentido de que el coeficiente intelectual colectivo de los humanos que emplean eclipsa al de la gente común y, de hecho, a menudo al de los gobiernos. Tienen una riqueza y unos recursos inmensos. Su esperanza de vida supera con creces la de los simples humanos. Y existen para lograr un objetivo primordial: aumentar y, por lo tanto, maximizar el valor para los accionistas. Para lograrlo, harán sin descanso lo que sea necesario, independientemente de consideraciones éticas, daños colaterales a la sociedad, la democracia o el planeta.

Una de esas máquinas superinteligentes se llama Facebook. Y aquí, para ilustrar ese último punto, hay una declaración inequívoca de su objetivo primordial escrita por uno de sus ejecutivos más senior, Andrew Bosworth, el 18 de junio de 2016: “Conectamos a las personas. Período. Por eso todo el trabajo que hacemos en crecimiento está justificado. Todas las prácticas cuestionables de importación de contactos. Todo el lenguaje sutil que ayuda a las personas a que sus amigos puedan buscarlas. Todo el trabajo que tenemos que hacer para lograr una mayor comunicación. El trabajo que probablemente tendremos que hacer en China algún día. Todo ello.»

Como observó William Gibson, el futuro ya está aquí, simplemente no está distribuido de manera uniforme.

Lo que he estado leyendo

Elige un bando
No hay «ellos» es una entretenida perorata en línea de Antonio García Martínez contra la «otredad» de los multimillonarios tecnológicos de la costa oeste por parte de las élites de la costa este de Estados Unidos.

¿Voto de confianza?
¿Pueden las grandes tecnologías servir a la democracia? es un excelente ensayo de revisión en el Revisión de Boston de Henry Farrell y Glen Weyl sobre la tecnología y el destino de la democracia.

Siguiendo las reglas
Lo que nos enseñan las multas de estacionamiento sobre la corrupción es un hermosa publicación de Tim Harford en su blog.