Casi la mitad de los consejos de Inglaterra, Gales y Escocia han utilizado o están utilizando algoritmos informáticos para ayudar a tomar decisiones sobre las solicitudes de prestaciones, quién obtiene la vivienda social y otras cuestiones, a pesar de las preocupaciones sobre su fiabilidad.
Una investigación sobre la libertad de información del Guardian ha establecido que 100 de los 229 consejos han utilizado o están utilizando programas automatizados de adopción de decisiones, muchos de ellos sin consultar en absoluto al público sobre su uso.
Esto a pesar de que un consejo admitió que los resultados de un algoritmo mostraron que era sólo un 26% exacto en algunos casos. La compañía detrás de esto dijo que era porque la gente a menudo introducía información errónea.
Otro consejo dejó caer una herramienta de inteligencia artificial para procesar nuevas solicitudes de beneficios, diciendo que no estaban satisfechos con su fiabilidad.
Una serie de empresas privadas están vendiendo paquetes de aprendizaje automático a las autoridades locales que están bajo presión para ahorrar dinero. Los sistemas se están desplegando para proporcionar orientación automatizada sobre las solicitudes de prestaciones, ayudar a decidir quién obtiene una vivienda social y asignar las plazas escolares entre una serie de otros usos.
Se han planteado preocupaciones sobre la naturaleza arbitraria de estos programas, que informan de decisiones importantes sobre la vida de las personas, y su margen para cometer errores.
Martha Dark, la directora del grupo de derechos digitales Foxglove, dijo: «Es muy preocupante ver tantos consejos poniendo en marcha sistemas algorítmicos sin ninguna consulta pública. Estos sistemas están siendo claramente utilizados para tomar enormes decisiones sobre la vida de las personas.»
El uso de la inteligencia artificial, o la toma de decisiones automatizada, se ha puesto de manifiesto después de que un algoritmo utilizado por el regulador de exámenes, Ofqual, redujera casi el 40% de las notas de nivel A evaluadas por los profesores. Esto culminó en un giro de 180 grados del gobierno y el sistema fue desechado.
Uno de los algoritmos más utilizados entre los consejos es el de la verificación basada en el riesgo, un proceso en el que las reclamaciones de impuestos de vivienda y del consejo se procesan automáticamente para determinar la probabilidad de fraude. Los que se consideran de mayor riesgo se retrasan y se pide a las personas que proporcionen más pruebas.
El programa sigue siendo utilizado por el consejo de South Ayrshire. Cuando se le preguntó sobre la exactitud de este programa, el consejo dijo que había utilizado la compañía Northgate Public Services, y se encontró que el programa tenía una exactitud del 26% en la búsqueda de reclamaciones de bajo riesgo, 36% de exactitud para las reclamaciones de riesgo medio y tenía una tasa de exactitud del 40% para las de alto riesgo. El servicio costó 41.500 libras.
Un portavoz del consejo de South Ayrshire dijo: «Todas las solicitudes son procesadas manualmente por el personal – no utilizamos la robótica para verificar cualquier solicitud o evidencia presentada. El tipo de riesgo asociado determina el tipo o nivel de evidencia requerido para verificar la solicitud y así mejora la eficiencia en el procesamiento de las solicitudes».
Northgate Public Services dijo que las tasas de exactitud citadas no estaban relacionadas con la eficacia, sino que los reclamantes a menudo introducían datos incorrectos.
El consejo de Wigan usa un algoritmo para asignar viviendas sociales. Dice que las respuestas son presentadas y un sistema de puntos decide en qué categoría colocar a las personas. El consejo usa el software de vivienda Northgate para clasificar a los candidatos en grupos. La compañía enfatizó que no estaba involucrada en los criterios de clasificación y evaluación, los cuales son puestos en práctica por los consejos.
Wigan dijo que los solicitantes y los inquilinos del consejo son colocados en el grupo A, B o C cuando pueden demostrar que cumplen los criterios apropiados en su hogar permanente o temporal. El grupo A incluye a los jóvenes que dejan el cuidado de la autoridad local, los que están en graves dificultades y los que dejan las fuerzas armadas del Reino Unido. El grupo B incluye a los que viven en malas condiciones de vivienda. El grupo C incluye a los que viven fuera del municipio sin conexión local, entre otros criterios.
Nicolas Kayser-Bril, de Algorithm Watch, un grupo sin ánimo de lucro que estudia los procesos de toma de decisiones algorítmicas, dijo que si bien el consejo debe ser elogiado por su transparencia, «parece haber un amplio margen para la arbitrariedad».
«Nunca habrá una forma de definir objetivamente quién debe ser el primero en la fila para la vivienda asequible. Algoritmos transparentes pueden ayudar, pero también lo pueden hacer los asistentes sociales profesionales que se toman el tiempo de discutir con los solicitantes. Es revelador que ninguno de los criterios de la lista se refiere a los deseos de los solicitantes. En cambio, intentan definir al «buen mendigo», como en siglos anteriores».
Joanne Willmott, subdirectora del consejo de Wigan para la gestión de proveedores y el desarrollo del mercado, dijo: «Las solicitudes son evaluadas y priorizadas en base a las respuestas enviadas por los clientes en torno a sus propias circunstancias individuales en nuestro portal de solicitudes de vivienda en línea y luego evaluadas en línea con la política de asignación. Se realiza una comprobación final de la solicitud de forma manual».
El ayuntamiento de Flintshire, que dice que utilizó la compañía Civica a un costo de 961,40 libras esterlinas al año para procesar nuevas reclamaciones para el período 2014 a 2018, dijo que el servicio fue terminado, ya que el ayuntamiento no estaba satisfecho con su fiabilidad.
Un portavoz de Civica dijo: «Aunque la autoridad no continuó con este enfoque basado en un algoritmo de terceros, la empresa sigue proporcionando los ingresos básicos y el software de beneficios para el consejo del condado de Flintshire, que es un cliente de larga data».
Un portavoz de la Asociación de Gobiernos Locales dijo: «Los ayuntamientos han intentado mejorar la forma en que utilizan los datos en los últimos años, y el análisis predictivo es sólo un ejemplo de ello. El buen uso de los datos puede ser enormemente beneficioso para ayudar a los ayuntamientos a hacer que los servicios sean más específicos y eficaces… Pero es importante señalar que los datos sólo se utilizan para informar las decisiones y no para tomar decisiones para los ayuntamientos».