Esta semana, el presidente de los Estados Unidos, Joe Biden, dijo a las filas de políticos y dignatarios en Leinster House que el mundo se encuentra en un “punto de inflexión”.
“Las decisiones que tomemos hoy literalmente determinarán el futuro o la historia de este mundo durante las próximas cuatro o cinco décadas”, dijo a las Casas conjuntas de Oireachtas. Para enfatizar su punto, se refirió a la inteligencia artificial: “Es una gran promesa y una enorme preocupación”.
Su énfasis en la inteligencia artificial (IA) llega en un momento en que la aparición de ChatGPT ha provocado un debate desordenado, abrumador y, en ocasiones, sobreexcitado.
El senador estadounidense Chris Murphy tuiteó el mes pasado que ChatGPT había aprendido a hacer química avanzada. “Algo viene”, advirtió. “No estamos preparados”.
Es difícil llegar a un consenso sobre lo que, de hecho, se avecina, pero muchos comentaristas están de acuerdo en que el ritmo y la escala del cambio provocado por los rápidos avances en IA, y la promesa de más por venir, son enormes.
El Dr. Seán Ó hÉigeartaigh, un académico irlandés que es director de IA en el programa Futures and Responsibility de la Universidad de Cambridge, dice que el potencial transformador de la IA es «del orden de Internet, y creo que existe la posibilidad en un plazo de 10 años». marco de tiempo, si el progreso continúa, que estamos mirando del orden de la revolución industrial”.
Ó hÉigeartaigh admite estar en el extremo optimista del espectro, pero su punto de vista no es diferente al de algunas figuras importantes del gobierno. Una fuente importante dijo que era similar al advenimiento de la energía nuclear. Otra figura importante dijo que la tecnología estaba «transformando la forma en que todos vivimos sin que siquiera hablemos de ello».
A medida que el debate sobre la IA cobra fuerza, surgen más preguntas sobre el impacto en la vida digital y física de las personas, la seguridad de su trabajo y las consecuencias sociales, políticas y económicas de un cambio rápido a una escala y una velocidad previstas que son difíciles de comprender.
“La verdadera pregunta es qué sucedió en los últimos dos meses”, dice Richard Browne, director del Centro Nacional de Seguridad Cibernética (NCSC), la agencia estatal encargada de escanear el horizonte digital en busca de amenazas. “Todo lo relacionado con el campo de la política aquí se ve desafiado por la velocidad a la que esto está sucediendo”.
‘Tormenta perfecta’
Los avances recientes en IA han sido posibles gracias a lo que el Dr. Edward McDonnell llama una «tormenta perfecta». McDonnell, director de CeADAR, el centro nacional de IA aplicada de Irlanda, dice que la disponibilidad de enormes cantidades de datos sobre los que se pueden «entrenar» nuevos sistemas ha llegado al mismo tiempo que «avances fenomenales en la cantidad de potencia informática disponible». Dice que es “una discontinuidad en el proceso donde hay un gran salto adelante”.
Los beneficios potenciales son enormes: los optimistas esbozan un futuro en el que casi todos los sectores de la sociedad se beneficiarán de enormes ganancias de productividad. “Necesitamos abrazarlo y no condenarlo”, dice una alta fuente del Gobierno.
Sin embargo, las advertencias también se están acumulando. El Financial Times publicó esta semana un artículo de un inversor en IA que imploraba “debemos frenar la carrera hacia una IA parecida a Dios”; un artículo publicado por un investigador de IA de EE. UU. advirtió que «la selección natural favorece a las IA sobre los humanos». Algunos informes han sido francamente escalofriantes: los periódicos belgas publicaron detalles de un hombre que se suicidó después de interactuar con un chatbot sobre el cambio climático durante semanas; Activistas estadounidenses publicaron capturas de pantalla de interacciones con un servicio experimental de Snapchat impulsado por inteligencia artificial que ofrecía consejos a una niña de 13 años que planeaba un encuentro sexual con un niño de 31 años y a un niño que buscaba tapar los moretones antes de la visita de los servicios de protección ( en ambos casos, los adultos hacían el papel de niños que buscaban consejo).
Hay una escuela de pensamiento cada vez mayor que argumenta que la velocidad de los desarrollos recientes significa que el optimismo debe moderarse con una evaluación realista de cómo puede cambiar la vida y cómo debe planificarse.
“Estoy entusiasmado y preocupado”, dice Ó hÉigeartaigh de la Universidad de Cambridge. “Las cosas se están moviendo muy rápido en este momento y no estamos ni cerca de estar preparados para el impacto. Él cree que la IA podría aliviar gran parte del «trabajo pesado de la vida moderna» y ser de gran ayuda para los profesionales. Sin embargo, también podría hacer que amplias franjas de trabajo sean menos, o solo marginalmente, económicamente viables.
Es necesario incluir diferentes sectores “para asegurarse de que la IA no sea solo algo que les sucede a ellos, sino que están dando forma a la gobernanza de la misma en la medida en que afecta a sus sectores”.
“Nosotros como sociedad, incluidos aquellos de nosotros que estamos pensando en el impacto fundamental de estas tecnologías, no hemos tenido suficiente tiempo y estamos luchando para mantener el ritmo al que están sucediendo las cosas”.
Pautas
A principios de esta semana, el ministro de Estado de ciberseguridad, Ossian Smyth, dijo que le había pedido al NCSC que elaborara pautas públicas para un mundo lleno de riesgos nuevos o mayores que surgen de la proliferación de tecnologías de IA. Él dice que puede ocurrir «una ola» de interrupción, incluso en el fraude, donde anteriormente pueden proliferar las estafas uno a uno, respaldadas por una IA sofisticada.
Otro es dentro de la política, donde las llamadas ‘redes de influencia’ pueden sesgar el debate mediante el uso de ejércitos de bots impulsados por IA, o mediante la rápida producción y difusión de falsificaciones profundas y otras formas de información errónea. “Se trata de la escala y el volumen que se puede producir”, dice Joseph Stephens, jefe de compromiso con el NCSC. “Realmente solo está acelerando la imagen de amenaza que ya existe”.
Se teme que la política tenga un historial reciente de vulnerabilidad a nuevas amenazas. Mark Brakel es director de políticas del Future of Life Institute, una organización sin fines de lucro que tiene como objetivo mitigar el riesgo de la tecnología, financiada en parte históricamente por Elon Musk y que también se beneficia del apoyo significativo de Vitalik Buterin, fundador de la criptomoneda Ethereum. Él dice que las redes sociales deben considerarse como el primer contacto de la humanidad a gran escala con «sistemas de IA realmente simples» que se están volviendo mucho más sofisticados. “Deberíamos aprender lecciones de lo mal que lo hemos hecho en la regulación de las redes sociales para adelantarnos a la curva esta vez”, dice, y advierte que las redes sociales fueron recibidas con gran entusiasmo y algunos esfuerzos regulatorios para “hacer pequeños ajustes, y unos años más tarde nos despertamos con un sistema político quebrado”.
Regulación
Inevitablemente ha habido llamados para una mayor regulación de la IA. En Washington, el líder del Senado, Chuck Schumer, está dando los primeros pasos para regular la IA, mientras que Bruselas está un poco por delante del juego y ha estado trabajando en un proyecto de Ley de IA durante dos años; ahora se esfuerza por adaptar estos esfuerzos a los últimos desarrollos.
Irlanda tiene una política de IA que data de 2021, y el Departamento de Empresa tiene la responsabilidad general. Otras partes del aparato estatal también están involucradas: el NCSC ha tenido en cuenta la IA en sus evaluaciones de amenazas durante varios años.
Se entiende que los funcionarios de seguridad han estado interactuando con multinacionales con sede aquí y están en el proceso de elaborar más orientación para las agencias estatales, mientras que se espera que una revisión intermedia de la actual estrategia de seguridad cibernética que se realizará en unas semanas ponga un mayor énfasis en la IA.
Si bien la amenaza es vívida, los funcionarios de seguridad también dicen que aún no se ha presentado como un riesgo principal en las evaluaciones compartidas con Irlanda por actores internacionales o gobiernos amigos. Todavía tiene que llegar a las listas que circulan regularmente de las amenazas más apremiantes que enfrenta el Estado.
El NCSC espera que la amenaza, cuando se materialice, no provenga en primera instancia de la tecnología en sí, sino de un despliegue de la misma por parte de un mal actor, como una organización criminal o un estado rebelde. “El verdadero desafío son aquellos países y entidades que no cumplen con el derecho internacional”, dice el director del NCSC, Richard Browne. El NCSC también argumenta que las herramientas de IA le permiten volverse más efectivo, incluso si pueden empoderar a los malos actores.
“Es básicamente una especie de carrera armamentista entre ambos lados. Y, como todas las nuevas tecnologías, es un arma de doble filo”, dice Stephens.
El verdadero desafío, dice Browne, aunque enfatiza que no hay ninguna sugerencia de que esto esté sucediendo actualmente, es «qué sucede si las herramientas y tecnologías se desarrollan a un ritmo exponencial, y las cosas que se usan para defender las redes, los procesos, las herramientas, se vuelven redundantes». , esencialmente, y estás atrapado en una revolución tecnológica más que en una evolución”.
Llamada de pausa
El Future of Life Institute publicó el mes pasado una carta abierta en la que pedía la pausa inmediata durante al menos seis meses del entrenamiento de los sistemas de inteligencia artificial, firmada por Musk, el cofundador de Apple, Steve Wozniak, y otros. Ó hÉigeartaigh estaba entre ellos, dice que es crucial que surja un espacio para el debate. Si bien él y muchos otros se muestran escépticos sobre la amenaza inminente de una «inteligencia general artificial», equivalente a la inteligencia a nivel humano, dice que la velocidad de los avances recientes significa que «estas son preguntas que ahora deben tomarse en serio».
“La mejor oportunidad que tenemos en este momento es la Ley de IA de la UE, los reguladores cuentan con la financiación y los recursos adecuados”, dice la embajadora de IA de Irlanda, Patricia Scanlon, quien se describe a sí misma como una defensora de la IA ética. “Estoy muy contenta de que esto haya salido a la luz cuando lo hizo porque arroja luz sobre las lagunas en la legislación”, dice. Ante el cambio rápido, Scanlon desconfía de las predicciones firmes: «Cualquiera que salga y diga exactamente que sabe lo que sucederá en los próximos cinco o 10 años, no creo que esté diciendo la verdad», dice. . Pero advierte que hay una ventana, no obstante, para prepararse.
“Me pondré nervioso si siento que la gente no se lo toma en serio, permite que se propague o se doblega para cabildear sobre esto”.
“Creo que tenemos tiempo y realmente espero que todos nos lo tomemos en serio en este punto para hacerlo bien más tarde”.
La ministra de Estado, Dara Calleary, que supervisa la política, dijo que la legislación de la UE “establecerá las barreras para el uso de la IA” y que Irlanda estaba “participando activamente” en Bruselas en el desarrollo de la política.
Smyth, el ministro de seguridad cibernética, advierte de manera más directa: «Es una herramienta enormemente poderosa que necesitamos dedicar tiempo a estudiar y dominar, antes de que nos domine a nosotros».
