El filósofo José Ortega y Gasset inicia una serie de ensayos escritos entre 1939 y 1952 -reunidos en «Meditación de la técnica y otros ensayos»-, diciendo: «Uno de los temas que en los próximos años se va a debatir con mayor brío es el del sentido, ventajas, daños y límites de la técnica. que el debate surja, ideas claras sobre la cuestión, de modo que entren en el fragor de la contienda con el ánimo sereno de quien, en principio, ya la tiene resuelta».
No creo que estemos hoy más cerca de lo que estaba él -ni la sociedad de su momento-, en haber logrado esa claridad sobre el estado de la técnica; sobre los riesgos y los límites de la tecnología; o sobre el entendimiento que se necesita para entrar a las cuestiones «como quien ya la tiene resuelta». Al contrario, creo que estamos cada vez más lejos. El avance de la técnica y su alcance nos enfrenta a dilemas sobre los que no parecemos estar dispuestos a meditar.
Primero que nada, hay que entender que la velocidad que ha adquirido la ciencia y la técnica supera -por mucho- los marcos temporales a los que se enfrentaron Ortega y Gasset. Luego, hay que entender a qué clase de riesgos y dilemas -éticos y morales- nos enfrentamos a una tecnología que se despliega a diario a velocidades pavorosas. La ciencia sin ética ni moral deshumaniza; la tecnologia sin proposito aliena. Correr a toda velocidad sin saber hacia dónde vamos, no parece ser una forma sabia de avanzar.
El tema es complejo en extremo y tiene muchos aristas, por lo que propongo desarrollarlo a lo largo de una serie de columnas. En esta voy a intentar mostrar que la velocidad de la ciencia -y de la tecnología, su primera derivada- crece a ritmos hiper-exponenciales. Luego propongo enfocarnos en el «problema de la caja negra»; la razón por la cual podemos tener avances sin saber ni entender por qué. Luego propongo analizar por qué la tecnología está ayudando al incremento de la inequidad y, en la siguiente, cómo su uso desbocado está destrozando el mayor bien común que tenemos: el planeta. Dados todos estos factores, la anteúltima se enfocará en si hay chances para la democracia de sobrevivir a las fuerzas que estamos desatando. Por último, una coda intentando detenernos sobre los dilemas éticos y morales más acuciantes. Espero que esta larga exposición en entregas haga evidente por qué no podemos seguir procrastinando el entendimiento de los temas ni los debates que tanto necesitamos.
el mundo exponencial
Un ritmo de crecimiento exponencial provoca una extraña sensación. Por un buen tiempo es como si nada pasara y, luego, de repente, todo se desencadenara de la nada a ritmos que dan vértigo, dejándonos pasmados por su carácter «repentino» y por su potencia.
Voy a tomar un ejemplo; la computación cuántica. En 1982, Richard Feynman (Premio Nobel de Física de 1961), presentó ideas teóricas sobre computadoras cuánticas basadas en qubits en lugar de los bits tradicionales.
Un qubit (del inglés quantum bit) es la unidad básica de información cuántica. Un bit clásico solo puede adoptar un único valor, 0 o 1. Un qubit, en cambio, puede representar un 0; un 1; o cualquier proporción entre 0 y 1 en la superposición de ambos estados, con una probabilidad de ser 0 y una probabilidad de ser un 1. Extraño y anti intuitivo como suena, esto permite un procesamiento en paralelo – probabilístico y no determinístico como una computadora tradicional – que aumenta su potencia de manera inconcebible.
En 2017, IBM puso a disposición del público general la primera computadora cuántica en la nube -IBM Q Experience-, una máquina virtual de 5 qubits. En 2019, Google presentó una computadora cuántica de 23 qubits que resolvió en 200 segundos algo que a una supercomputadora convencional le hubiera llevado diez mil años. Hoy, la computadora cuántica más avanzada de Google -Sycamore-, tiene 53 qubits y es 158 millones de veces más potente que la computadora tradicional más potente del mundo. ¡158 millones de veces más potente!
Es que una computadora de 53 qubits puede representar más de 9 trillones de posibles estados en forma simultánea, algo que no podría ser procesado por ningún sistema clásico conocido. Hoy se está desarrollando un chip cuántico de 1.121 qubits. ¿Se comienza a entender el abismo de posibilidades que se abren ante nosotros, a toda velocidad? Al aumentar las tasas de multiplicación de la potencia de la tecnología y, al reducir -al mismo tiempo- los plazos en los que estas tasas aumentan, pasan de un modelo de crecimiento exponencial a uno nuevo: uno hiper-exponencial.
Pero estas velocidades de progreso son extrañas en extremo a nuestra concepción lineal; toda nuestra estructura social se basa en un progreso lineal. De alguna manera, nuestra idea de progreso es la de una larga línea recta que va desde un pasado malo hacia un futuro mejor. Es como si tuviéramos impresa en el cerebro la idea de que «el progreso es una recta magna, precisamente, y sabia; la más sabia de las líneas»; parafraseando a Evgueni Zamiantín, padre de la antiutopía rusa. Nuestra estructura social no tolera ritmos de cambio a grandes velocidades; mucho menos velocidades exponenciales. Tampoco imagina que el progreso no será para mejor.
La IA y la híper exponencialidad
Todos los días leemos con fascinación y con cierta cuota de temor, noticias referidas a los increíbles avances en inteligencia artificial (IA). La IA es otro campo científico que avanza a un ritmo híper exponencial. ChatGPT es, hoy, quizás el ejemplo más visible.
Hace poco se hizo pública una carta firmada por destacados investigadores en el campo de la IA, apoyada por varios empresarios tecnológicos -entre ellos Elon Musk-, que pidió «pausar» por seis meses toda la investigación y entrenamiento del Chat GPT-4.
Son cada vez más frecuentes estos llamados de atención urgentes y dramáticos dirigidos al sentido común de la sociedad. Como antecedente y como ejemplo, varios años atrás, Jennifer Doudna -cocreadora de la técnica de edición genética CRISPR y ganadora del Premio Nobel de Química del año 2020 por este descubrimiento-, había escrito y firmado una petición similar junto con una gran cantidad de otros investigadores del campo de la genética solicitando que se detuvieran los avances en ese campo hasta que se creara un marco legal razonable en el cual poder encauzar las investigaciones. También urgía tener las discusiones éticas y morales urgentes que todos estos avances exponían. Los ecos de las palabras de Ortega y Gasset parecían haberla alcanzado. La carta no tuvo el menor efecto y, hoy, tan solo diez años después de su creación, la técnica de Doudna es «casi obsoleta» en comparación con las nuevas técnicas y tecnologías desarrolladas después. La genetica tambien avanza a ritmos hiper exponenciales.
Volviendo a la IA ya pesar de la carta, hay versiones que indican que OpenAI ya comenzó a trabajar en la versión Chat GPT-5, y que la misma estará disponible hacia fines de 2023. Según estas mismas versiones, con GPT-5 la compañía alcanzaría lo que se denomina una IAG, es decir, una Inteligencia Artificial General. Si esto fuera cierto, significaría que esta IA habría alcanzado un nivel de comprensión e inteligencia equiparable a la del ser humano. La IA habrá dejado de ser «angosta» -esto es, superlativa en un ámbito de incumbencia estrecho, dedicado y exclusivo-, para alcanzar un nivel de comprensión general y «ancho». Es probable que estos rumores sean infundados y una exageración. Quizás no logre ChatGPT-5 pero; ¿y su décima versión? ¿O en su vigésima? ¿Y si se implementará una inevitable versión cuántica de ChatGPT en una computadora cuántica de 1.121 qubits? ¿Por qué no? Es solo una cuestión de tiempo; nada más.
El sueño prometeico
ChatGPT es solo una muestra de lo que la ciencia de la inteligencia artificial busca como si fuera el Santo Grial; el sueño prometeico de crear inteligencia sintética incluso superior a la humana. ¿Tanta es la pasión y el encantamiento por nosotros mismos que estamos preparados para duplicarnos sintéticamente; a editarnos biológicamente y, al final del camino -por qué no-, a hibridarnos en una forma de vida, ¿también sintética? Narciso murió de inanición -y de deseo insatisfecho-, encantado por su propia imagen. Un ensayo del filósofo sueco Nick Bostrom, se pregunta: «Una vez que las máquinas se equiparen con el ser humano en cuanto a su capacidad de razonamiento general, ¿cuánto tiempo pasará antes de que alcance la «superinteligencia radical»? ¿Será esta una transición lenta, gradual y prolongada; o será repentina, ¿explosiva?». La preocupación de Bostrom es, una vez que esta supremacía frente a frente, cuando sea que frente a frente; ¿seremos capaces de controlarla? Aún con todos los esfuerzos por antropomorfizarla no se puede soslayar el hecho de que la IA que surja podría operar y «pensar» de una manera por completo diferente a la nuestra. En la forma de «pensar» de estos algoritmos, reside el «problema de la caja negra» que mencioné al principio.
Geoffrey Hinton, pionero por excelencia en el campo de la inteligencia artificial, renunció esta semana a Google ya proseguir toda investigación sobre IA. Declaró estar sorprendido por el grado de inteligencia que las máquinas alcanzan y que le da miedo pensar cómo pueden evolucionar. “Son por completo diferentes a nosotros”, agregó. «Es como si aterrizaran extraterrestres y no nos diéramos cuenta sólo porque hablan muy buen inglés (castellano)».
Escuchemos a Jennifer Doudna; un Geoffrey Hinton; Pensamos en las advertencias de Stephen Hawkings antes de fallar. Leamos a Ortega y Gasset. De nuevo, correr a tanta velocidad sin saber hacia dónde vamos, no parece ser la forma más sabia de avanzar.
