IEs profundamente difícil lidiar con riesgos cuyos riesgos pueden incluir el colapso global de la civilización o incluso la extinción de la humanidad. La pandemia ha hecho añicos nuestras ilusiones de seguridad y nos ha recordado que, a pesar de todos los avances científicos y tecnológicos, seguimos siendo vulnerables a catástrofes que pueden cambiar todo nuestro estilo de vida. Son posibilidades vivas, no meras hipótesis, y nuestros gobiernos tendrán que afrontarlas.
A medida que Gran Bretaña emerja del Covid-19, podría encontrarse a la vanguardia de la respuesta a futuros desastres. La reciente revisión integrada del gobierno, la toma de la presidencia del G7 por parte de Gran Bretaña y la conferencia climática Cop26, que se celebrará en Glasgow a finales de este año, son ocasiones para abordar crisis globales. Pero para asegurarnos de que el Reino Unido esté realmente preparado, primero debemos identificar los mayores riesgos a los que nos enfrentamos en las próximas décadas.
El progreso tecnológico desde la Revolución Industrial ha aumentado en última instancia el riesgo de los eventos más extremos, poniendo en juego el futuro de la humanidad a través de una guerra nuclear o un colapso climático. Una tecnología que puede representar la mayor amenaza de este siglo es la inteligencia artificial (IA), no la cosecha actual de redes estrechamente inteligentes, sino sistemas más maduros con una inteligencia general que supera la nuestra. Los pioneros de la IA, desde Alan Turing hasta Stuart Russell, han argumentado que, a menos que desarrollemos los medios para controlar dichos sistemas o para alinearlos con nuestros valores, nos encontraremos a su merced.
En mi opinión, las posibilidades de que tal riesgo provoque una catástrofe existencial en el próximo siglo son aproximadamente una de cada seis: como la ruleta rusa. Si estoy en lo cierto acerca de la escala de estas amenazas, entonces este es un nivel de riesgo insostenible. No podemos sobrevivir muchos siglos sin transformar nuestra capacidad de recuperación.
La reciente revisión integrada del gobierno destacó la importancia de estas «amenazas de impacto catastrófico», prestando atención a cuatro de los riesgos más extremos; las amenazas de la IA, las pandemias mundiales, la crisis climática y la aniquilación nuclear. Señaló correctamente el papel crucial que desempeñarán los sistemas de inteligencia artificial en la guerra moderna, pero guardó silencio sobre la necesidad de garantizar que los sistemas de inteligencia artificial que implementamos se desarrollen de manera segura y estén alineados con los valores humanos. Subrayó la probabilidad de un ataque biológico exitoso en los próximos años, pero podría haber dicho más sobre el papel que la ciencia y la tecnología pueden desempeñar para protegernos. Y aunque mencionó la amenaza de que otros países aumenten y diversifiquen sus capacidades nucleares, la decisión de expandir el arsenal nuclear del Reino Unido es a la vez decepcionante y contraproducente.
Para transformar realmente nuestra resiliencia a los riesgos extremos, debemos ir más allá. Primero, debemos abordar urgentemente la bioseguridad. Además de la posibilidad de que una nueva pandemia se propague a partir de los animales, existe la perspectiva aún peor de una pandemia manipulada, diseñada por estados extranjeros o actores no estatales, con una combinación de letalidad, transmisibilidad y resistencia a las vacunas más allá de cualquier patógeno natural. . Con las rápidas mejoras en la biotecnología, el número de partes que podrían crear tal arma solo está creciendo.
Para afrontar este riesgo, el Reino Unido debería poner en marcha un nuevo centro nacional de bioseguridad, como lo recomendaron el comité conjunto sobre la Estrategia de Seguridad Nacional y mi propio instituto en la Universidad de Oxford. Este centro contrarrestaría la amenaza de las armas biológicas y las fugas de laboratorio, desarrollaría defensas efectivas contra las amenazas biológicas y fomentaría el talento y la colaboración en toda la comunidad de bioseguridad del Reino Unido. Existe un peligro real de que el legado de Covid-19 no vaya más allá de la preparación para la próxima pandemia de origen natural, descuidando las posibilidades de una pandemia provocada por el hombre que mantiene despiertos a los expertos por la noche.
En segundo lugar, el Reino Unido debe transformar su capacidad de resistencia a toda la gama de riesgos extremos a los que nos enfrentamos. No sabemos cuál será la próxima crisis en la escala de Covid-19, por lo que debemos estar preparados para todas esas amenazas. El sistema de gestión de riesgos existente en el Reino Unido, dentro de la secretaría de contingencias civiles de la Oficina del Gabinete, es sólido en muchos sentidos, pero solo aborda los riesgos que representan un peligro claro en los próximos dos años, lo que hace imposible evaluar adecuadamente los peligros que tomarían más de dos años. años para los que prepararse, como los que plantea la IA avanzada. También sufrimos de la falta de un director de riesgos, o un puesto equivalente, que pueda asumir la responsabilidad exclusiva de toda la gama de amenazas extremas en todo el gobierno.
En tercer lugar, debemos incluir riesgos extremos en la agenda internacional. Estos son problemas globales que requieren soluciones globales. El jurista Guglielmo Verdirame sostiene que, si bien la emergencia climática y las armas nucleares están cubiertas por al menos algunas leyes internacionales, no existe un régimen legal global en vigor que capte la gravedad de otros riesgos extremos, o que tenga la amplitud necesaria para hacer frente a la panorama cambiante de tales riesgos. La presidencia del G7 es la oportunidad perfecta para remediar esto. En lugar de conformarse con un tratado sobre preparación para una pandemia, como lo propone el primer ministro, el Reino Unido podría elevar sus ambiciones y liderar el llamado a un nuevo tratado sobre riesgos para el futuro de la humanidad, con una serie de consejos de seguridad de la ONU. resoluciones para colocar este nuevo marco en la base legal más sólida posible.
Existe una tendencia comprensible de que incluso las personas más importantes del gobierno vean los riesgos extremos como demasiado abrumadores para asumirlos. Pero hay pasos concretos que el Reino Unido puede tomar para transformar su resistencia a estas amenazas, y no hay mejor momento para hacerlo que ahora. Covid-19 nos ha brindado la oportunidad de hacer décadas de progreso en cuestión de meses. Debemos aprovechar esta oportunidad.