In The Beginning Was The Internet, que se encendió por primera vez en enero de 1983 y se diseñó desde el principio como una plataforma para lo que se conoció como “innovación sin permiso”. Si tuviera una buena idea que pudiera implementarse usando la red, y fuera lo suficientemente inteligente como para escribir el software para que funcione, Internet lo haría por usted, sin hacer preguntas.
A principios de la década de 1990, el físico Tim Berners-Lee lo utilizó como base sobre la cual construir una nueva plataforma para la innovación sin permiso llamada «world wide web». El mundo no técnico descubrió esta nueva plataforma en 1993 y pasó los siguientes 30 años usándola como la base sobre la cual construir muchas cosas nuevas: compras en línea, redes sociales, Amazon, Google, blogs, etc. La web también permitió Wikipedia, un proyecto improbable para crear una enciclopedia en la que cualquiera, pero cualquiera, podría contribuir y editar, y que ahora es una de las maravillas del mundo en red.
En 2023, ese mismo mundo se despertó para descubrir que la web (particularmente las cantidades inimaginables de datos que había producido) había permitido la creación de otro nuevo tipo de plataforma para la innovación sin permiso. El nombre elegante para esto es «IA generativa», un término acrónimo que incluye modelos de lenguaje grande (LLM) y sus chatbots asociados, además de otros sistemas que pueden generar imágenes plausibles, videos y otros resultados creativos en respuesta a indicaciones textuales.
El mundo no técnico se encuentra ahora en las primeras etapas de entusiasmo histérico, angustia y exuberancia irracional sobre esta nueva plataforma. Se filosofa mucho sobre si la tecnología representa un riesgo existencial para la humanidad. Probablemente no; pero podría ser una seria amenaza para la democracia, por razones que veremos a continuación. La industria de la tecnología, como siempre despreocupada por la democracia, ahora está dividida por diferentes preocupaciones, en particular Fomo agudo. Esto ha desencadenado una «explosión cámbrica» en la que miles de nuevas empresas (impulsadas por sus financiadores de capital de riesgo) compiten para construir cosas nuevas sobre la base proporcionada por los modelos generativos de IA creados por las grandes empresas tecnológicas a un costo significativo para el medio ambiente. .
Dado que los riesgos existenciales están por encima del nivel de pago de los columnistas de periódicos, centrémonos en cambio en los problemas más inmediatos que plantean los LLM. El principal de esto es el hecho de que a veces inventan cosas. Peor aún, siempre suenan autoritarios, incluso cuando están totalmente equivocados. Para los malos actores interesados en engañar a las personas en línea, esta es una verdadera ventaja. Aunque muchas personas hoy en día están acostumbradas a ser bombardeadas con propaganda en las redes sociales, al menos parte de ella atraviesa los filtros que emplean para distinguir la verdad de la ficción. Pero lo que ofrecen los chatbots no es un bombardeo, sino una interacción uno a uno con un bot aparentemente comprometido y bien informado. En otras palabras, las redes sociales con esteroides. Y con elecciones en al menos dos democracias polarizadas el próximo año, esto podría ser significativo.
La otra cosa acerca de los chatbots es que permiten la creación sin esfuerzo de cantidades masivas de «contenido» en una escala extraordinaria. Como James Vincent de la Borde dice: “Dado el dinero y la computación, los sistemas de IA, en particular los modelos generativos actualmente en boga, escalan sin esfuerzo. Producen texto e imágenes en abundancia, y pronto también música y video. Su producción puede sobrepasar o superar a las plataformas en las que confiamos para obtener noticias, información y entretenimiento. Pero la calidad de estos sistemas a menudo es deficiente y están construidos de una manera que es parasitaria en la web hoy en día. Estos modelos están entrenados en estratos de datos establecidos durante la última era web, que recrean de manera imperfecta”.
Pronto, sin embargo, la web podría consistir no solo en lo que había en la era anterior a la IA, sino también en todo lo creado por los chatbots actuales y futuros. ¡Lo que plantea la intrigante posibilidad de un mundo en línea poblado por bots que inhalan el escape textual de sus pares mecánicos, y una espiral consiguiente hacia la recursividad infinita que los programadores llaman «desbordamiento de pila»!
En tales circunstancias, ¿qué deberían hacer las instituciones que buscan la verdad? Respuesta: mira lo que están haciendo en Wikipedia. Una de las cosas más asombrosas de ese proyecto es cuán previsora ha sido su comunidad en la tarea de separar el trigo cognitivo de la paja. En sus inicios, los observadores se preguntaban por qué Wikipedia estaba construyendo un conjunto tan elaborado de procesos y herramientas para evaluar la calidad de los envíos. Ahora lo sabemos: vieron lo que venía por la vía. Podríamos aprender una cosa o dos de ellos ahora.
lo que he estado leyendo
La IA salva el mundo
El himno de Marc Andreessen al «progreso» está en su Substack; considérelo como la versión del Dr. Pangloss de la IA.
Optimismo del cáncer de mama
Hay un papel gratificante en Naturaleza sobre el “Gran salto en la tasa de supervivencia del cáncer de mama”.
traído al libro
The Casual Ignominy of the Book Tours of Yore es una memoria maravillosa de John Banville en don revista.
