La noticia resonó como un poderoso trueno. La última versión del “robot conversacional” ChatGPT, desarrollado por la empresa OpenIA, está dotado de un poder de habla tan sofisticado que se asemeja al de un humano.
En este sentido, vale la pena señalar que lo que inmediatamente nos llamó la atención es cómo estos robots son capaces de escribir textos con una calidad de sintaxis y tal grado de coherencia que los estudiantes de secundaria podrían verse tentados a usarlos para sus tareas o presionar. departamentos para producir artículos, por mencionar solo algunos ejemplos relevantes.
Sin embargo, debido a que nuestros afectos están en juego, estas perspectivas nos han llevado a oscurecer el tema principal. Es decir, que, mucho más allá de escribir textos a pedido, estos programas nos están hablando directamente en lo que parece ser una forma autónoma y natural. Y ello, con vistas a un gran objetivo industrial: guiarnos constantemente por el buen camino.
Este estado de cosas se deriva de los desarrollos abruptos en inteligencia artificial desde principios de la década de 2010 que permitieron el desarrollo de sistemas que pueden evaluar de manera experta todo tipo de situaciones a velocidades muy superiores a nuestras propias capacidades cognitivas. Pero también, a raíz de ello, para hacer recomendaciones. Como la aplicación Waze, por ejemplo, que evalúa el estado del tráfico rodado en tiempo real y sugiere las mejores rutas.
Esta arquitectura ha provocado el surgimiento de un nuevo modelo económico, uno con depósitos interminables de riqueza: la interpretación y guía automatizada de nuestro comportamiento. Durante los últimos 15 años, estas tecnologías se han diseñado para guiar nuestros gestos con su luz cada vez más omnisciente, principalmente con fines comerciales.
Se establece así un lazo umbilical que la voz de la máquina dota de una forma familiar y fluida. Porque es solo cuestión de tiempo antes de que todo empiece a hablar. Después de los altavoces conectados, que llegaron al mercado en 2016, está nuestro smartphone, el interior de nuestro coche, nuestra cocina… Los laboratorios, en su gran mayoría privados, trabajan sin descanso para robotizar el lenguaje como paso previo a poner sus productos al alcance de todos. todos, aparentemente de la noche a la mañana. ¿Y cómo nos enteramos de la existencia de este prodigio tecnológico? A través de artículos periodísticos. En otras palabras, después del hecho.
Este es un tema recurrente que debería hacernos reflexionar: la falta de sintonía entre, por un lado, una sociedad que se encuentra ante un hecho consumado y, en definitiva, no hace más que reaccionar ante él; y por el otro, una poderosa industria que ya se ha vuelto hegemónica y que, desde hace dos décadas, no ha dejado de trabajar para hacer depender nuestra existencia de sus logros.
En este sentido, con demasiada frecuencia pasamos por alto a las personas que apoyan todo este mecanismo: los ingenieros, la mayoría de los cuales están atrapados en una carrera cada vez más loca hacia la llamada «innovación» y quienes, al estar subordinados a la industria digital, no están haciendo nada. más que someterse a declaraciones de alcance definidas con el único objetivo de generar utilidades.
Lo que los caracteriza es el hecho de que participan activamente en el diseño de dispositivos que están generando un número creciente de preguntas en la conciencia pública. Esto los coloca en una posición incómoda que a veces los hace sentir mal consigo mismos.
Y así, para causar una buena impresión, se ha mantenido durante mucho tiempo una hábil campaña de fabricación del consentimiento, que nos permite tanto tener nuestro pastel como comérnoslo. Esto se ha hecho mediante el uso constante de un concepto con aires de poción mágica, o de humo y espejos, que pretende tranquilizar a las multitudes: la “ética”.
¿Cuántas veces en los últimos años hemos visto simposios corporativos, por no hablar de la miríada de obras escritas por algunos de sus miembros y todas repitiendo el mismo estribillo? Que, sin duda, todos nos vamos a beneficiar de estos continuos desarrollos tecnológicos, aunque, en cualquier caso, conviene precaverse de posibles desviaciones. Tantos discursos repetidos en bucle por gente que, además, es juez y jurado.
A decir verdad, la esencia de este punto de vista es que sólo ratifica cosas, en la medida en que lo que suele entenderse por esta noción sólo se refiere a vagos cortafuegos normativos o legislativos, sin tener nunca en cuenta el alcance civilizatorio y antropológico de las mutaciones en curso. A saber, una obliteración progresiva de nuestras facultades provocada por la creciente automatización de los asuntos humanos.
Ahí es donde conviene llevar las cosas a otro nivel y pasar de la ética —que hoy en día se usa de manera bastante vulgar— a una dimensión que podría considerarse superior: la moral. El primero se deriva de la aplicación de unas reglas de supuesta buena conducta a casos concretos. El segundo se entiende como el respeto incondicional a nuestros principios fundamentales. Entre estos, hay uno que ha sido constantemente erosionado por la digitalización de nuestras vidas y, como tal, debe ser defendido más que nunca: la mejor expresión de nuestras capacidades, de la cual depende nuestro desarrollo como individuos.
Porque, después de haber experimentado una reducción de nuestra autonomía de juicio debido a la adopción generalizada de sistemas que guían el curso de nuestra vida cotidiana con diversos fines, es una renuncia a nuestro poder de palabra lo que ahora se avecina.
Por eso, nos corresponde a nosotros bloquear un ethos que, en realidad, proviene del odio a la raza humana, y que simplemente pretende sustituir nuestros cuerpos y mentes, de facto deficientes, por tecnologías concebidas para garantizar una vida supuestamente perfecta, e higiénica, organización del funcionamiento general y particular del mundo.
Ha llegado el momento de alzar nuestra voz, nuestra propia voz, y retomar esa línea de Albert Camus en El rebelde, donde escribe que “esto lleva demasiado tiempo (…), estás yendo demasiado lejos (…) Hay ciertos límites más allá de los cuales no irás”.
Esto sería un verdadero humanismo de nuestro tiempo. No proclamar a cada paso, corazón en mano y siempre de forma muy vaga —como los gurús de Silicon Valley o las hordas de ingenieros— que se trata de poner “en el centro a las personas”, sino de considerar la adecuada manifestación de nuestra sensibilidad y los bienes intelectuales como condición imperativa para sociedades plenamente libres y plurales.
Éric Sadin es filósofo y experto en el mundo digital. Su obra ha sido traducida al inglés, español e italiano. Este artículo se publicó originalmente en francés en Le Figaro el 6 de febrero de 2023.
