Yuval Noah Harariel historiador israelí y autor de “Sapiens”, está alarmado por el avance de la inteligencia artificial (IA). Para él, es un peligro contrincante al dominio humano de la narracion. Tan preocupada esta que el mes pasado se sumó a una carta firmada por miles de expertos, entre ellos Elon Musk, en la que se pidió una moratoria de la investigación en programas como Chat GPTun modelo de IA capaz de interactuar con humanos en textos creativos con matices casi inquietantes.
“Se trata de una amenaza especialmente grave para las democraciasmás que para los sistemas autoritarios, porque las democracias dependen de la conversación pública”, afirmó Harari en una entrevista publicada en el medio británico El Telégrafo. “La democracia es básicamente una conversación. Personas que hablan entre sí. Si la IA se apodera de la conversación, se acabó la democracia”, afirmó.
Harari advierte espantado que “es la primera tecnología de la historia que crea historias”. Y en su opinión, la creencia colectiva en “historias” -de fe, finanzas y nación, entre otras- ha alimentado el dominio de la humanidad sobre la Tierra. Ahora la IA también tiene ese poder, lo que demuestra que el potencial de la tecnología, tanto para el bien como para el mal, antes considerado distante y teórico, es ahora inmediato y real.
“Es que la nueva generación de IA no se limita a difundir los contenidos que producen los humanos. Puede producir el contenido por sí mismo. Trate de imaginar lo que significa vivir en un mundo en el que la mayoría de los textos y melodías, y luego las series de televisión y las imágenes, son creadas por una inteligencia no humana. Simplemente no entendemos lo que significa ¿Cuáles podrían ser las consecuencias de que la IA se apodere de la cultura?”, alerta.
Harari sugiere que la IA pronto irá mucho más lejos, evocando un mundo en el que “entras en Internet y discute con alguien sobre algún tema político. Puede que incluso te envíen un video hablando. Pero no hay ninguna persona detrás. Todo es IA”.
En su distopía, describe El Telégrafo, tampoco, la falsificación digital sintética sería de un ser humano cualquiera. Dado que las personas cercanas son las que más influyen, podría parecer un amigo o un pariente convencerte de las ventajas de un producto o de su postura sobre el cambio climático, las vacunas o la inmigración. Se trataría, dice Harari, de un poder para manipular el discurso público nunca antes vistoy que haría que los escándalos de influencia en las redes sociales de los últimos 10 años, que ya han desempeñado un papel en elecciones desde Brasil a Estados Unidos, parecieran triviales.
El historiador advierte sobre el efecto que podría tener la tecnología si se desatara maliciosamente en el campo de batallapor parte de los sistemas totalitarios. “El régimen nazi se basaba en tecnologías como los trenes, la electricidad y las radios. No tienen herramientas como la inteligencia artificial. Un nuevo régimen en el siglo XXI tendrá herramientas mucho más poderosas. Así que las consecuencias podrían ser mucho más desastrosas. Es algo a lo que no sé si la humanidad podrá sobrevivir”.
Frustrado porque siente que el mundo no dimensiona el peligro de la IA como él, agrega: “Tenemos que entender que la IA es la primera tecnología de la historia que puede tomar decisiones por sí mismo. Puede tomar decisiones sobre su propio uso. También puede tomar decisiones sobre ti y sobre mí. Esto no es una predicción futura. Esto ya está ocurriendo”.
Advierte que el poder se está desplazando por primera vez en la historia. “Hemos inventado algo que nos quita poder. Y está sucediendo tan rápido que la mayoría de la gente ni siquiera entiende lo que está pasando. Tenemos que asegurarnos de que la IA tome buenas decisiones sobre nuestras vidas. Esto es algo que estamos muy lejos de resolver”.
El historiador israelí abogada por la regulacion de estas herramientas y compara la necesidad de establecer normas a los estudios médicos. “Una compañía farmacéutica no puede lanzar un nuevo medicamento al mercado sin pasar antes por un largo proceso de regulación. Es realmente extraño y aterrador que las corporaciones puedan lanzar herramientas de IA extremadamente potentes a la esfera pública sin ninguna medida de seguridad similar”, dice indignado.
Finalmente, advirtió que es tarea de los gobiernos procurar esas medidas: “Con todo el debido respeto a Elon Musk y Zuckerberg oa los otros jefes de las grandes empresas tecnológicas, no son elegidos por nadie, no representan a nadie excepto a sus accionistas y no hay razón para confiar en ellos.”
Seguir leyendo:
