TEl economista Bryan Caplan estaba seguro de que la inteligencia artificial integrada en ChatGPT no era tan inteligente como se creía. La pregunta: ¿podría la IA aprobar el examen de mitad de período de 2022 de su clase de pregrado?
Caplan, de la Universidad George Mason en Virginia, parecía estar en una buena posición para juzgar. Se ha hecho un nombre al hacer apuestas en una variedad de temas de interés periodístico, desde las posibilidades electorales de Donald Trump en 2016 hasta las futuras tasas de asistencia a las universidades de EE. UU. Y casi siempre gana, a menudo apostando contra predicciones que considera hiperbólicas.
Ese fue el caso de las afirmaciones descabelladas sobre ChatGPT, el chatbot de IA que se ha convertido en un fenómeno mundial. Pero en este caso, parece que Caplan, un profesor libertario cuyos argumentos van desde los llamados a abrir las fronteras hasta las críticas al pensamiento feminista, perderá su apuesta.
Después de que el ChatGPT original obtuviera una D en su prueba, apostó que «ninguna IA podría obtener A en 5 de 6 de mis exámenes para enero de 2029». Pero, «para mi sorpresa y no poca consternación», escribió en su blog, la nueva versión del sistema, GPT-4, obtuvo una A solo unos meses después, con una puntuación de 73/100, que, si hubiera sido un estudiante. , habría sido la cuarta puntuación más alta de la clase. Dada la impresionante velocidad de mejora, Caplan dice que sus probabilidades de ganar parecen escasas.
Entonces, ¿el bombo está justificado esta vez? The Guardian habló con Caplan sobre cómo podría ser el futuro de la IA y cómo se convirtió en un ávido apostador.
La conversación ha sido editada y condensada para mayor claridad.
Apuesto a que ninguna IA podría obtener A en cinco de seis de sus exámenes para enero de 2029, y ahora uno lo ha hecho. ¿Cuánto apostaste?
Lo intenté por 500 dólares. Creo que es un pronóstico razonable que perderé la apuesta en este punto. Solo espero tener suerte.
Entonces, ¿qué crees que significa esto para el futuro de la IA? ¿Deberíamos estar emocionados o preocupados o ambos?
Yo diría emocionado, en general. Todo progreso es malo para alguien. Las vacunas son malas para las funerarias. La regla general es que cualquier cosa que aumente la producción humana es buena para el nivel de vida humano. Algunas personas pierden, pero si vas y dices que solo queremos un progreso que beneficie a todos, entonces no podría haber progreso.
Tengo otra apuesta sobre la IA con Eliezer Yudkowsky: es el pesimista más destacado y probablemente el más extremo de la IA, en el sentido de que cree que va a funcionar y luego nos va a acabar. Así que tengo una apuesta con él de que, debido a la IA, seremos borrados de la superficie de la Tierra el 1 de enero de 2030. Y si te preguntas cómo es posible que hagas una apuesta como esa, cuando eres uno de los gente que va a ser aniquilada, la respuesta es que le pagué por adelantado. Solo le di el dinero por adelantado y luego, si el mundo no se acaba, me lo debe.
¿Cómo podríamos teóricamente ser aniquilados?
Lo que considero un argumento extraño [more broadly] es que una vez que la IA se vuelva lo suficientemente inteligente como para aumentar su propia inteligencia, pasará a una inteligencia infinita en un instante y eso será todo para nosotros. [That view is endorsed by] gente muy inteligente, muy elocuente. No parecen locos, pero creo que lo son.
Se han convertido en una especie de esquina. Empiezas con esta definición de: imagina que hay una IA infinitamente inteligente. ¿Cómo podemos evitar que haga lo que quiera? Bueno, una vez que lo pones de esa manera, no podríamos. Pero, ¿por qué deberías pensar que esta cosa existirá? Nada más ha sido jamás infinito. ¿Por qué habría alguna cosa infinita alguna vez?
Lo que entra en tu pensamiento cuando decides: ¿Vale la pena apostar esto?
El tipo de apuestas que despiertan mi interés son aquellas en las que alguien parece estar haciendo afirmaciones hiperbólicas exageradas, fingiendo tener mucha más confianza en el futuro de lo que creo que podría tener. Hasta ahora, me ha servido perfectamente. He tenido 23 apuestas que se han concretado; He ganado los 23.
Tuve muchos otros casos de personas que me dijeron lo genial que era la IA, y luego lo comprobé por mí mismo y claramente estaban exagerando mucho. Entonces pensé que la exageración continuaba y que a veces te equivocas. A veces alguien dice algo que parece ridículamente exagerado y es así como lo dice.
En otras palabras, tiendes a rechazar los resultados posibles más dramáticos.
Casi siempre apuesto contra el drama. Porque apela a la psique humana decir cosas emocionantes, y mi opinión es que, en realidad, el mundo generalmente no es tan emocionante. El mundo suele seguir básicamente siendo como era. “El mejor predictor del futuro es el pasado” es un adagio que me parece tan sabio, innegable. Si alguien no se lo toma en serio, entonces tengo problemas para tomarlo en serio.
Entonces, si pierde la apuesta de IA, ¿es un indicador de que la hipérbole está justificada?
Creo que muestra para este caso particular que GPT-4 avanzó mucho más rápido de lo que esperaba. Creo que eso significa que los efectos económicos serán mucho mayores antes de lo que esperaba. Como esperaba muy poco efecto, podría ser 10 veces más grande de lo que pensé que sería y aun así no ser enorme. Pero definitivamente sobre este tema, me he replanteado mi punto de vista.
La única historia en la que podría pensar que redimiría mi escepticismo original sería si simplemente agregaran mi publicación de blog a los datos de entrenamiento, y luego simplemente me escupieran mis propias respuestas. Pero esta es la cuestión: de hecho, tengo una nueva publicación en la que le di a GPT-4 una prueba totalmente nueva que nunca discutí en Internet, y obtuvo la puntuación más alta, así que creo que es genuina.
¿Y qué pasa después?
Existe una regla general de que incluso cuando una tecnología parece increíble, por lo general toma mucho más tiempo de lo esperado para tener grandes efectos económicos.
Los primeros teléfonos fueron en 1870; se necesitan alrededor de 80 años antes de que esta tecnología nos brinde llamadas telefónicas confiables a Europa. Parecía que la electricidad tardó varias décadas en adoptarse de forma generalizada, e Internet también pareció tardar más de lo debido.
Recuerdo varios años cuando la tecla de retroceso no funcionaba en el correo electrónico. No sé cuántos años tienes, pero recuerdo cuando no podías retroceder en un correo electrónico. Y siguió así durante años. Se podría pensar que esto se resolvería en tres minutos. Pero cada vez que los seres humanos están involucrados en la adopción de la tecnología, hay un montón de problemas diferentes, inconvenientes diferentes. Entonces, en cuanto a si GPT realmente transformará la economía en unos pocos años, todavía lo consideraría bastante sorprendente. Es casi sin precedentes.
