J aron Lanier, el padrino de la realidad virtual y el sabio de todo lo relacionado con la web, recibe el apodo de Dismal Optimist. Y nunca ha habido un momento en que hayamos necesitado más su triste optimismo. Es difícil leer un artículo o escuchar un podcast en estos días sin que los agoreros nos digan que hemos probado nuestra suerte con la inteligencia artificial, que nuestra arrogancia está volviendo para atormentarnos y que los robots se están apoderando del mundo. Hay historias de chatbots que se convirtieron en mejores amigos, declarando su amor, tratando de interrumpir matrimonios estables y amenazando con el caos a escala global.
¿Es la IA realmente capaz de burlarnos y apoderarse del mundo? «¡DE ACUERDO! Bueno, tu pregunta no tiene sentido”, dice Lanier con su dulce voz cantarina. “Acabas de usar el conjunto de términos que para mí son ficciones. Lamento responder de esa manera, pero es ridículo… es irreal”. Este es el material de las películas de ciencia ficción como The Matrix y Terminator, dice.
A Lanier ni siquiera le gusta el término inteligencia artificial, objetando la idea de que en realidad es inteligente y que podríamos competir con ella. “Esta idea de superar la capacidad humana es una tontería porque está hecha de capacidades humanas”. Dice que compararnos con la IA es el equivalente a compararnos con un automóvil. “Es como decir que un automóvil puede ir más rápido que un corredor humano. Por supuesto que puede y, sin embargo, no decimos que el coche se haya convertido en un mejor corredor”.
Me sonrojo y sonrío. Sonrojarse porque me da vergüenza, sonreír porque me siento aliviado. Aceptaré mis tonterías felizmente, digo. Él chilla de risa. “¡Jejejeje! DE ACUERDO. ¡Jejejeje! Pero él no quiere que nos volvamos complacientes. Queda mucho por lo que preocuparse: la extinción humana sigue siendo una posibilidad clara si abusamos de la IA, e incluso si es de nuestra propia creación, el resultado final no es más bonito.
Lanier, de 62 años, ha trabajado junto a muchos de los visionarios y agentes de poder de la web. Es a la vez insider (trabaja en Microsoft como científico interdisciplinario, aunque deja en claro que hoy habla en su propio nombre) y outsider (ha expuesto constante y proféticamente los peligros que presenta la web). También es uno de los hombres más distintivos del planeta: un profeta andrajoso con rastas color jengibre, una historia de fondo sorprendente, una elocuencia a la altura de su cerebro gigantesco y una risita tan alarmante como que mejora la vida.
Aunque es un gurú de la tecnología por derecho propio, su misión es defender lo humano sobre lo digital, para recordarnos que creamos las máquinas y que la inteligencia artificial es justo lo que dice en la lata. En libros como You Are Not a Gadget y Ten Reasons For Deleting Your Social Media Accounts, argumenta que Internet está amortiguando la interacción personal, sofocando la inventiva y pervirtiendo la política.
Nos reunimos en Teams, la plataforma de videoconferencias de Microsoft, para que pueda mostrar un invento suyo reciente que nos permite aparecer juntos en la misma sala aunque estemos a miles de kilómetros de distancia. Pero la tecnología no está funcionando en el sentido más básico. Él no puede verme. Sin duda estará complacido en cierto modo. No hay nada que le guste más a Lanier que mostrar que la tecnología puede salir mal, especialmente cuando la opera un incompetente en el otro extremo. Así que cambiamos al rival Zoom.
El telón de fondo de Lanier está lleno de instrumentos musicales, incluida una fila de ouds que cuelgan del techo. En su otra vida, es un músico clásico contemporáneo profesional, un brillante intérprete de instrumentos raros y antiguos. A menudo ha utilizado la música para explicar la genialidad y las limitaciones de la tecnología. En su forma más simple, la tecnología digital funciona de forma intermitente, como las teclas de un teclado, y carece de la infinita variedad de un saxofón o de la voz humana.
Lanier en su casa en 1983. Fotografía: Janet Fries/Getty Images
“Desde mi perspectiva”, dice, “el peligro no es que una nueva entidad alienígena hable a través de nuestra tecnología y se apodere de nosotros y nos destruya. Para mí, el peligro es que usemos nuestra tecnología para volvernos mutuamente ininteligibles o para volvernos locos si lo prefiere, de una manera que no estemos actuando con suficiente comprensión e interés propio para sobrevivir, y muramos por locura, esencialmente. .”
Ahora me siento menos aliviado. La muerte por locura no suena demasiado atractiva, y puede presentarse de muchas formas, desde líderes mundiales o terroristas que manipulan la IA de seguridad global hasta volverse locos por la desinformación o la bilis en Twitter. Lanier dice que cuanto más sofisticada se vuelve la tecnología, más daño podemos hacer con ella y más “responsabilidad con la cordura” tenemos. En otras palabras, una responsabilidad de actuar moral y humanamente.
Lanier era el único hijo de padres judíos que sabía todo sobre la inhumanidad. Su madre vienesa era rubia y se las arregló para salir de un campo de concentración haciéndose pasar por aria. Luego se mudó a los Estados Unidos, donde trabajó como pianista y corredora de bolsa. Su padre, cuya familia había sido aniquilada en gran medida en los pogromos ucranianos, tenía una variedad de trabajos, desde arquitecto hasta editor científico de revistas de ciencia ficción y, finalmente, maestro de escuela primaria. Lanier nació en Nueva York, pero la familia pronto se mudó al oeste. Cuando tenía nueve años, su madre murió después de que su automóvil volcara en la autopista cuando regresaba de aprobar su examen de manejo.
Tanto el padre como el hijo quedaron traumatizados y empobrecidos; su madre había sido el principal sostén de la familia. Los dos se mudaron a Nuevo México y vivieron en tiendas de campaña antes de que Lanier, de 11 años, comenzara a diseñar su nueva casa, una cúpula geodésica que tardó siete años en completarse. «No fue bueno estructuralmente, pero fue bueno terapéuticamente», dice. En sus memorias de 2017, Dawn of the New Everything, Lanier escribió que la casa se parecía “un poco al cuerpo de una mujer. Podías ver la gran cúpula como un vientre embarazado y los dos icosaedros como senos”.
Era ridículamente brillante. A los 14 años, se matriculó en la Universidad Estatal de Nuevo México, tomando cursos de posgrado en notación matemática, lo que lo llevó a la programación de computadoras. Nunca completó su carrera, pero fue a la escuela de arte y suspendió. A la edad de 17 años, tenía varios trabajos, incluidos cuidador de cabras, quesero y asistente de partera. Luego, cuando tenía poco más de 20 años, se convirtió en investigador de Atari en California. Cuando fue despedido, se centró en proyectos de realidad virtual y cofundó VPL Research para comercializar tecnologías de realidad virtual. Fácilmente podría haber sido un multimillonario tecnológico si hubiera vendido sus negocios con sensatez o al menos hubiera mostrado un poco de interés en el dinero. Tal como están las cosas, me dice que le ha ido muy bien financieramente y que la riqueza obscena no se habría sentado con sus valores. Hoy,
Aunque muchos de los gurús digitales comenzaron como idealistas, para Lanier era inevitable que Internet nos arruinara. Queríamos cosas gratis (información, amistades, música), pero el capitalismo no funciona así. Así que nos convertimos en el producto: nuestros datos se venden a terceros para vendernos más cosas que no necesitamos. “Escribí algo que describía cómo lo que ahora llamamos bots se convertirá en estos agentes de manipulación. Escribí eso a principios de los 90 cuando Internet apenas se había encendido”. Él chilla con horror y se ríe. “¡ Dios mío, eso fue hace 30 años!”
En realidad, cree que los bots como ChatGPT de Microsoft y Bard de Google podrían brindar esperanza para el mundo digital. Lanier siempre estuvo consternado de que Internet pareciera ofrecer infinitas opciones, pero en realidad disminuía las opciones. Hasta ahora, el uso principal de los algoritmos de IA ha sido elegir qué videos nos gustaría ver en YouTube o qué publicaciones veremos en las plataformas de redes sociales. Lanier cree que nos ha vuelto perezosos y sin curiosidad. De antemano, hurgábamos en las pilas de una tienda de discos o curioseábamos en las librerías. “Estábamos conectados directamente a una base de elección que en realidad era más grande en lugar de recibir esta cosa a través de este embudo que controla otra persona”.
Tome las plataformas de transmisión, dice. “Netflix una vez tuvo un concurso de premios de un millón de dólares para mejorar su algoritmo, para ayudar a las personas a clasificar este gigantesco espacio de opciones de transmisión. Pero nunca ha tenido tantas opciones. La verdad es que podría poner todo el contenido de transmisión de Netflix en una página desplazable. Esta es otra área en la que tenemos una responsabilidad con la cordura, dice: no limitar nuestras opciones ni quedar atrapados en cámaras de eco, esclavos del algoritmo. Por eso le encanta tocar música en vivo, porque cada vez que toca con una banda, crea algo nuevo.
después de la promoción del boletín
Para Lanier, el ejemplo clásico de elección restringida es Wikipedia, que se ha convertido efectivamente en la enciclopedia del mundo. “Wikipedia está a cargo de personas súper amables que son mis amigos. Pero la cosa es que es como una enciclopedia. Algunos de nosotros quizás recordemos cuando en el papel había tanto una Enciclopedia Británica como una Enciclopedia Americana y brindaban diferentes perspectivas. La idea de tener la enciclopedia perfecta es simplemente extraña”.
Entonces, ¿podrían los nuevos chatbots desafiar esto? «Bien. Ese es mi punto. Si vas a un chatbot y dices: ‘¿Puedes resumir el estado del metro de Londres?’ obtendrá respuestas diferentes cada vez. Y luego tienes que elegir”. Esta aleatoriedad programada, dice, es progreso. “De repente, esta idea de tratar de hacer que la computadora parezca humana ha ido lo suficientemente lejos en esta iteración que, naturalmente, podríamos haber superado esta ilusión de la verdad monolítica de Internet o la IA. Significa que hay un poco más de elección, discernimiento y humanidad con la persona que interactúa con la cosa”.
Todo eso está muy bien, pero ¿qué pasa con la IA que nos reemplaza en el lugar de trabajo? Ya tenemos la posibilidad de que los chatbots escriban artículos como este. Una vez más, dice que no es la tecnología lo que nos reemplaza, sino cómo la usamos. “Hay dos maneras en que esto podría ir. Una es que pretendemos que el bot es algo real, una entidad real como una persona, luego, para mantener esa fantasía, tenemos cuidado de olvidar los textos de origen que se usaron para tener la función de bot. El periodismo se vería perjudicado por eso. La otra forma es hacer un seguimiento de dónde provienen las fuentes. Y en ese caso, podría desarrollarse un mundo muy diferente en el que si un bot se basa en sus informes, recibe un pago por ello, y existe un sentido compartido de responsabilidad y responsabilidad en el que todo funciona mejor. El término para eso es dignidad de datos”.
Me parece demasiado tarde para la dignidad de los datos; el optimista lúgubre corre el peligro de convertirse aquí en un optimista utópico. Pero Lanier pronto regresa a Planet Bleak. “Puedes usar IA para hacer que las noticias falsas sean más rápidas, más baratas y a mayor escala. Esa combinación es donde podríamos ver nuestra extinción”.
En You Are Not a Gadget, escribió que el objetivo de la tecnología digital era hacer que el mundo fuera más “creativo, expresivo, empático e interesante”. ¿Ha logrado eso? “Lo ha hecho en algunos casos. Hay muchas cosas interesantes en Internet. Creo que TikTok es peligroso y debería prohibirse, pero me encanta la cultura del baile en TikTok y debería apreciarse”. ¿Por qué debería estar prohibido? “Porque está controlado por los chinos, y en caso de circunstancias difíciles, podría tener muchos usos tácticos horribles. No creo que sea un riesgo aceptable. Es desgarrador porque a muchos niños les encanta por muy buenas razones”.
En cuanto a Twitter, dice que ha sacado lo peor de nosotros. “Tiene una forma de tomar a las personas que comienzan como individuos distintos y hacerlas converger en la misma personalidad, optimizada para la participación en Twitter. Esa personalidad es insegura y nerviosa, enfocada en desaires personales y afrentada por reclamos de derechos por parte de otros si son personas diferentes. El ejemplo que uso es Trump, Kanye y Elon [Musk, quien ahora es dueño de Twitter]. Hace diez años tenían personalidades distintas. Pero han convergido para tener una notable similitud de personalidad, y creo que esa es la personalidad que obtienes si pasas demasiado tiempo en Twitter. Te convierte en un niño pequeño en el patio de la escuela que está desesperado por llamar la atención y temeroso de ser el que recibe una paliza. Terminas siendo este falso que se preocupa por sí mismo pero pierde la empatía por los demás. Es un análisis brillante que vuelve a su punto original: nuestra responsabilidad con la cordura. ¿La responsabilidad de Lanier con su propia cordura lo mantiene alejado de las redes sociales? El sonrie. “Siempre pensé que las redes sociales eran una mierda. Obviamente fue solo esta tontería desde el principio”.
Hay muchas cosas en Internet de las que todavía está orgulloso. Él dice que los cascos de realidad virtual que se usan ahora son poco diferentes de los que introdujo en la década de 1980, y su trabajo en simulación quirúrgica ha tenido enormes beneficios prácticos. “Conozco a muchas personas cuyas vidas han sido salvadas por la promoción de estas cosas que estaba demostrando hace 40 años. ¡Dios mío! ¡ Soy tan viejo ahora!” Se detiene para cuestionar si está exagerando su influencia, enfatizando que solo estuvo involucrado al principio. También existe un enorme potencial, dice, para que la IA nos ayude a abordar el cambio climático y salvar el planeta.
Pero también ha visto lo peor de la IA. “Conozco personas cuyos hijos se han suicidado con una contribución de algoritmo en línea muy fuerte. Así que en esos casos se quitaba la vida. Puede que no sea posible desde esta única perspectiva humana decir con seguridad lo que nos diría ahora el libro mayor de contabilidad, pero sea cual sea la respuesta, estoy seguro de que podríamos haberlo hecho mejor, y estoy seguro de que podemos y debemos hacerlo. mejor en el futuro.”
De nuevo, esa palabra, humano. La forma de asegurarnos de que estamos lo suficientemente cuerdos para sobrevivir es recordar que es nuestra humanidad lo que nos hace únicos, dice. “Muchos pensadores de la ilustración moderna y gente técnica sienten que hay algo anticuado en creer que las personas son especiales, por ejemplo, que la conciencia es una cosa. Tienden a pensar que existe una equivalencia entre lo que podría ser una computadora y lo que podría ser un cerebro humano”. Lanier no tiene ningún camión con esto. “Tenemos que decir que la conciencia es algo real y que hay una interioridad mística en las personas que es diferente de otras cosas porque si no decimos que las personas son especiales, ¿cómo podemos crear una sociedad o desarrollar tecnologías que sirvan a las personas?”.
Lanier mira su reloj y se disculpa. «Sabes qué, en realidad tengo que ir a una cita con el dentista». El mundo real interviene y afirma su supremacía sobre lo virtual. La inteligencia artificial no va a arreglar sus dientes, y no lo haría de otra manera.