PAtrick Breyer no esperaba tener que llevar a la Comisión Europea a los tribunales. El eurodiputado alemán de voz suave se sorprendió cuando en julio de 2019 leyó acerca de una nueva tecnología para detectar a partir de «micro-expresiones» faciales cuando alguien está mintiendo mientras responde a preguntas.
Aún más sorprendente fue que la UE estaba financiando la investigación de este lector de mente virtual a través de un proyecto llamado iBorderCtrl, para su posible uso en la vigilancia de las fronteras de Europa. En el artículo que Breyer leyó, un reportero describió la realización de una prueba en la frontera entre Serbia y Hungría. Dijo la verdad, pero la guardia fronteriza de la IA dijo que había mentido.
Breyer, miembro del comité de libertades civiles del Parlamento Europeo y uno de los cuatro diputados del Partido Pirata, se dio cuenta de que las implicaciones éticas y de privacidad de iBorderCtrl eran inmensas. Temía que si esa tecnología – o como él la llama ahora, «pseudo-seguridad científica hocus pocus» – estaba a disposición de los encargados de vigilar las fronteras, entonces las personas de color, las mujeres, los ancianos, los niños y las personas con discapacidad podrían tener más probabilidades que otros de ser denunciados falsamente como mentirosos.
Utilizando las leyes de transparencia de la UE, solicitó más información a la Comisión Europea sobre la ética y la legalidad del proyecto. Su respuesta fue contundente: acceso denegado, en nombre de la protección de los secretos comerciales.
Así que Breyer demandó. Quiere que la Corte Europea de Justicia dictamine que hay un interés público primordial en la liberación de los documentos. «La Unión Europea está financiando tecnología ilegal que viola los derechos fundamentales y no es ética», alegó Breyer.
El caso de Breyer, que se espera que se presente ante el tribunal en el nuevo año, tiene implicaciones de gran alcance. Miles de millones de euros de financiación pública fluyen anualmente para la investigación de tecnologías de seguridad controvertidas, y al menos 1.300 millones de euros más se liberarán en los próximos siete años.
Rostros, voces, venas
Horizonte 2020 es el programa insignia de la UE en materia de investigación e innovación. De 2014 a 2020, su valor fue de casi 80.000 millones de euros en subvenciones para científicos.
La competencia por el dinero de Horizonte es feroz. Paga la investigación de cosas como el cáncer colorrectal, las enfermedades transmitidas por mosquitos y la mejora de la irrigación para la agricultura. Este año el financiamiento de Horizon apoyó a la compañía alemana BioNTech, una de las primeras compañías en anunciar el éxito de los ensayos de la vacuna Covid-19.
Sin embargo, 1.700 millones de euros del programa en los últimos siete años respaldaron el desarrollo de productos de seguridad para las fuerzas policiales y los organismos de control de fronteras en los sectores público y privado. Gran parte de ellos implica tecnología de vanguardia: inteligencia artificial, aviones teledirigidos no tripulados y realidad aumentada, así como reconocimiento facial, de voz, de venas y de iris y otras formas de biometría que podrían desplegarse para la vigilancia.
El consorcio detrás de la tecnología del detector de mentiras iBorderCtrl recibió 4,5 millones de euros de la cartera de seguridad de Horizonte 2020 y pasó los tres años hasta agosto de 2019 desarrollándola y probándola.
Los funcionarios de la UE dicen que esa innovación es crucial para hacer frente a la delincuencia, el terrorismo y los desastres naturales. El objetivo estratégico es reforzar las empresas de seguridad del bloque para que compitan con los EE.UU., Israel y China.
Pero hay inquietud acerca de los objetivos, la supervisión pública y la percepción de la influencia de los intereses corporativos sobre la línea de seguridad de Horizonte. Siete expertos en ética actuales y anteriores que trabajan en proyectos de seguridad financiados por la UE plantearon sus preocupaciones en entrevistas con el Guardian. Cuestionaron si algunas investigaciones respaldadas por Horizon eran realmente de interés público.
Una de las principales preocupaciones de los especialistas en ética es que el escrutinio y la crítica parecen quedar relegados a un segundo plano en la búsqueda de la comercialización de nuevas tecnologías, incluso cuando éstas plantean claras preocupaciones en materia de privacidad y libertades civiles. Pero poco de esto se hace público. Al igual que Breyer, la comisión denegó al Guardian el acceso a los documentos sobre las actividades, la legalidad y la ética de más de una docena de proyectos de seguridad de Horizonte 2020, alegando que su divulgación podría socavar la seguridad pública y para «la protección de los intereses comerciales».
Tecnología no ética
Las solicitudes de dinero para Horizonte 2020 pasan primero por un examen científico y, si se financian, por un examen realizado por un equipo de éticos independientes contratados como consultores por la Comisión Europea. Estos especialistas en ética pueden autorizar un proyecto o exigir una mayor evaluación, pero su alcance para modificar realmente un proyecto es limitado.
«A menudo el problema es que el tema en sí mismo no es ético», dijo Gemma Galdon Clavell, una eticista tecnológica independiente que ha evaluado muchos proyectos de investigación de seguridad de Horizonte 2020 y ha trabajado como socia en más de una docena. «Algunos temas animan a los socios a desarrollar tecnología biométrica que pueda funcionar a distancia, y por lo tanto el consentimiento no es posible – esto es lo que me preocupa». Un proyecto que tiene como objetivo desarrollar dicha tecnología se refiere a ella como «identificación discreta de personas» que puede ser utilizada en personas cuando cruzan fronteras. ¨If estamos hablando de desarrollar tecnología que la gente no sabe que está siendo utilizada», dijo Galdon Clavell, «¿cómo puedes hacer que eso sea ético?»
Kristoffer Lidén, investigador del Instituto de Investigación de la Paz de Oslo que ha trabajado en el componente ético de múltiples proyectos de seguridad de Horizonte 2020, dijo que la propia participación de los expertos en ética en los proyectos de seguridad parecía tomarse como un sello de goma, aunque expresaran graves preocupaciones. Sugirió que los revisores de ética podrían sentirse presionados para aprobar los proyectos sin mucho alboroto.
“[Projects] puede ser fácilmente cooptado por la lógica comercial o por el optimismo tecnológico general, donde la gente pone entre paréntesis las preocupaciones éticas porque ven la nueva tecnología como un desarrollo positivo». Un estudio de 2018 sobre la ética en los proyectos de investigación financiados por la UE llegó a la misma conclusión.
Para algunas personas que han tratado de plantear sus preocupaciones públicamente, parece que ha habido consecuencias. En 2015 Peter Burgess, filósofo y politólogo que en ese momento formaba parte de tres juntas asesoras de investigación sobre seguridad de Horizonte 2020, concedió una sincera entrevista al canal público de televisión alemán ARD y a un reportero de Der Spiegel en la que planteó su preocupación por la influencia de la industria en la investigación, en particular en lo que respecta a la migración. «Los refugiados son vistos como objetivos y metas a registrar», dijo Burgess a los reporteros alemanes.
Fue liberado inmediatamente de las tres juntas asesoras y no ha participado en el programa desde entonces. Otros dos expertos en ética, que hablaron con la condición de mantener el anonimato, dijeron al Guardian que sentían que se les había dejado de lado en el trabajo de los proyectos de seguridad financiados por la UE por haber sido demasiado críticos en sus evaluaciones. La Comisión Europea niega que se produzcan tales traslados. «La DG de Investigación e Innovación no ha recibido ninguna solicitud de remoción de los expertos en ética que participan en las evaluaciones/controles», respondió un portavoz por correo electrónico.
Los especialistas en ética entrevistados por el Guardian sostuvieron que la supervisión ética debería utilizarse para asegurarse de que la UE trabaja en el interés público, en lugar de legitimar el desarrollo de una tecnología potencialmente controvertida.
Intereses corporativos
La inversión a gran escala en seguridad por parte de la UE comenzó a principios de la década de 2000, después del 11 de septiembre, la invasión del Iraq y el aumento de los ataques terroristas internos. Los líderes de la UE, preocupados por nuevos ataques, así como por las bandas del crimen organizado y la seguridad de las fronteras, ampliaron enormemente la cooperación con la industria de defensa europea. En 2004, las instituciones de la UE pusieron en marcha un programa de investigación sobre seguridad reuniendo a altos funcionarios de los ministerios nacionales del interior y de los organismos encargados de hacer cumplir la ley, junto con empresas multinacionales de armamento y tecnología de la información como BAE Systems, Finmeccanica (ahora Leonardo), Siemens y la empresa francesa de defensa y aeroespacial Thales. Este programa sentaría las bases para la financiación de la seguridad de Horizonte 2020, que se centraría cada vez más en el desarrollo de la biometría y otras tecnologías de vigilancia.
Burgess subrayó el papel que juegan los intereses corporativos. «Ya en la fase preparatoria hubo mucha participación de la industria», dijo. Pero hubo una suposición compartida entre los participantes de los sectores público y privado de que «los aparatos te hacen más seguro – armas más grandes, paredes más altas, biometría». Añadió: «Desde el 11 de septiembre y los ataques terroristas en Madrid en 2004 y en Londres en 2005, es un gran negocio».
Las cifras recopiladas por The Guardian a partir de registros disponibles públicamente sugieren que Horizonte 2020 ha sido especialmente beneficioso para el sector privado: desde 2007, las empresas privadas han recibido el 42% de los 2.700 millones de euros distribuidos por el programa de investigación sobre seguridad, casi 1.150 millones de euros. También han sido el socio principal en casi la mitad de los 714 proyectos financiados. Otros participantes, como los institutos de investigación y los organismos públicos, van muy a la zaga.
«Este fue el enfoque de la comisión, para bien o para mal: hacer lo mejor para Europa», dijo Burgess. «No era un sistema secreto y corrupto, era una política pública.»
Mientras que las decisiones finales sobre la financiación son tomadas por funcionarios nacionales y de la UE, un órgano llamado Grupo Asesor sobre Protección y Seguridad (PASAG) asesora sobre los programas de trabajo anuales de investigación sobre seguridad, que establecen los tipos de investigación que serán financiados.
Los críticos se preguntan dónde recae la responsabilidad de guiar la dirección de la investigación en seguridad financiada por la UE. El PASAG tiene 15 miembros procedentes principalmente del sector privado y de instituciones de investigación de toda Europa. Documentos públicos de la Comisión Europea sugieren la aportación del PASAG en el establecimiento de prioridades de investigación y en la promoción de vínculos entre el programa de investigación en seguridad existente y la nueva financiación de la tecnología militar.
Diez miembros del PASAG han declarado intereses relacionados con su trabajo en Horizonte 2020, los documentos públicos registrados en la comisión muestran. El grupo está presidido por Alberto de Benedictis, ex director general de la división británica de Leonardo, una empresa italiana de defensa que ha participado en 26 proyectos y ha recibido 11,3 millones de euros del presupuesto de investigación de seguridad de la UE desde 2007. De Benedictis se unió al PASAG en 2016, habiéndose retirado de Leonardo el año anterior. Otro miembro dirige una empresa de consultoría, MSB Consulting, que trabaja con los sectores de defensa y seguridad y cuyos clientes figuran como empresas de seguridad, así como la Comisión Europea y la Agencia Europea de Defensa. Otro miembro de la PASAG trabaja para la Universidad de Lovaina en Bélgica, que ha recibido millones de Horizonte 2020 y otros programas de seguridad a lo largo de los años.
En la actualidad, sólo uno de los 15 miembros trabaja para una organización de la sociedad civil, y ninguno ha declarado su afiliación a organizaciones de derechos humanos o de ética. Un portavoz de la Comisión Europea dijo: «La composición de la PASAG refleja la más amplia representación posible». Dijeron que ninguno de los intereses declarados de los miembros del grupo podía «comprometer (o ser razonablemente percibido como comprometedor) la capacidad del experto para actuar de forma independiente y en el interés público».
De Benedictis dijo que el PASAG sólo proporcionaba una dirección de alto nivel, y que la participación de la industria en el grupo no representaba un conflicto de intereses. «El PASAG, al igual que otros grupos consultivos de expertos, fue formado por la comisión para asegurar que pudiera acceder a los conocimientos especializados de todo el espectro de partes interesadas que contribuyen al éxito del programa de investigación», dijo De Benedictis. «La industria es una de esas partes interesadas, al igual que las universidades, los institutos de investigación y los departamentos y organismos gubernamentales que representan a las comunidades de profesionales».
Subrayó que la responsabilidad de las prioridades de financiación de la investigación recae en los gobiernos. «Los estados miembros son, en última instancia, los que toman las decisiones».
Jean-Luc Gala, ex oficial del ejército belga y académico de la Universidad de Lovaina especializado en armas biológicas, también rechazó cualquier conflicto de intereses. Gala sugirió que el hecho de que expertos en seguridad de la industria y del mundo académico asesoraran a la comisión en proyectos de tecnología de seguridad era un positivo neto. El PASAG tenía un papel colectivo donde «no había lugar para opiniones individuales ni oportunidad de impulsar un interés individual», añadió.
Un portavoz de la Universidad de Lovaina dijo: «El profesor Gala no está sentado en este grupo consultivo como representante de la universidad, sino que ha sido invitado por su experiencia científica. La universidad considera que contribuir a los grupos consultivos científicos a nivel nacional e internacional es una parte importante de las misiones de nuestro personal académico».
Iskra Mihaylova, diputado de Bulgaria que está trabajando en la legislación para Horizonte Europa, la sucesora de Horizonte 2020, sostuvo que la participación de la industria era inevitable. «Si se busca a alguien competente, tiene experiencia en este campo», dijo.
Covid creep
Durante los próximos siete años (2021-27), Horizonte 2020 será renombrado como Horizonte Europa, con un presupuesto global previsto de 86.000 millones de euros y una financiación de la seguridad de aproximadamente 1.300 millones de euros.
Sin embargo, un presupuesto complementario de al menos 8.000 millones de euros se destinará a la investigación y el desarrollo de tecnologías militares. El objetivo explícito es financiar tecnologías de doble uso con aplicaciones civiles y militares, y varios proyectos preliminares han explorado «enjambres» de drones no tripulados y otros dispositivos de vigilancia.
La lucha contra el Covid-19 ha acelerado aún más el impulso de los gobiernos europeos para desarrollar tecnologías de vigilancia, incluido el uso sin precedentes de la vigilancia de aviones teledirigidos, el seguimiento de datos, el reconocimiento facial y otras formas de biometría para la aplicación de la cuarentena y el rastreo de contactos. Polonia, por ejemplo, ha lanzado una aplicación que pide a los ciudadanos en cuarentena que carguen selectos a lo largo del día para demostrar que se quedan en casa. La aplicación se basa en la tecnología de geolocalización y reconocimiento facial y notifica a la policía cuando los usuarios no responden.
El reconocimiento facial o los algoritmos policiales basados en la IA son notorios por reforzar los prejuicios raciales y de otro tipo. Las aplicaciones nacionales de rastreo de covidrios no fueron financiadas por Horizon, sin embargo, algunos investigadores que trabajan o han trabajado en proyectos respaldados por la UE temen una carrera financiada por la UE para desarrollar y probar nuevas tecnologías biométricas y otras tecnologías de seguridad, especialmente en un momento en el que los temores en materia de salud pública han llevado a muchos europeos a ser más aceptados.
Se plantea la pregunta: ¿quién decide con qué tipo de vigilancia gubernamental deben vivir los europeos?
Por ahora no está claro cuán eficaz es la financiación de la UE para introducir nuevos productos de seguridad en el mercado, y en algunos casos parece que se incumplen las propias leyes de la UE.
En el sitio web del proyecto iBorderCtrl se afirmaba que algunas de sus tecnologías «no estaban cubiertas por las actuales [EU] marco jurídico». European Dynamics Luxembourg, la empresa líder del consorcio iBorderCtrl, no respondió a las solicitudes de comentarios.
Sin embargo, no hay una forma significativa de que el público europeo se mantenga informado, y mucho menos de que se debata si quiere que el dinero de sus impuestos contribuya a las tecnologías biométricas orwellianas y otras tecnologías de vigilancia. Al igual que Breyer, solicitamos (en virtud de las leyes de transparencia de la UE) acceso a docenas de documentos producidos por 15 proyectos financiados por Horizonte 2020 que buscan desarrollar nuevas formas de tecnología biométrica. Estos documentos incluían revisiones éticas y legales de cada proyecto. Pero después de meses de espera, y de presentar apelaciones, se nos dijo que muchos de los informes de actividad y algunos de los informes éticos tenían que permanecer confidenciales por razones de seguridad y de protección de los intereses comerciales.
Breyer dijo que le parecía extraño que un diputado tuviera que demandar a la UE para obtener información sobre un proyecto financiado públicamente. «No publicarán críticas a este proyecto porque no les ayudará a vender la tecnología», sugirió Breyer. «¿Es esa una razón legítima para que la UE, para una autoridad pública, retenga información?»
Mihaylova, la eurodiputada búlgara, estuvo de acuerdo en que debía haber más transparencia en el programa de investigación. Pero argumentó: «No podemos detener la tecnología. Tenemos que trabajar en el equilibrio entre ambas partes de este proceso» para tratar de contrarrestar los peligros que plantean los nuevos dispositivos de vigilancia.
Para Breyer, hay una cuestión más importante en juego, relativa a quién decide qué tipo de desarrollo tecnológico es realmente de interés público. «¿Queremos financiar estas dudosas tecnologías?», preguntó. «Esa es una decisión que debe ser tomada democráticamente.»
-• Este artículo fue enmendado el 11 de diciembre de 2020. En 2015, Peter Burgess estaba en los consejos consultivos de investigación de seguridad de Horizonte 2020, no en los consejos consultivos del proyecto de investigación de seguridad de Horizonte 2020 como decía una versión anterior.