Saltar al contenido

Las empresas de reconocimiento facial deberían mirarse al espejo | Juan Naughton

28 de mayo de 2022

La semana, la Oficina del Comisionado de Información del Reino Unido (ICO, por sus siglas en inglés) impuso una multa de 7,5 millones de libras esterlinas a una pequeña empresa de tecnología llamada Clearview AI por «usar imágenes de personas en el Reino Unido y en otros lugares, recopiladas de la web y las redes sociales para crear un base de datos mundial en línea que podría utilizarse para el reconocimiento facial”. El ICO también emitió un aviso de aplicación, ordenando a la empresa que deje de obtener y usar los datos personales de los residentes del Reino Unido que están disponibles públicamente en Internet y que elimine los datos de los residentes del Reino Unido de sus sistemas.

Dado que Clearview AI no es exactamente un nombre familiar, algunos antecedentes podrían ser útiles. Es un equipo estadounidense que ha «raspado» (es decir, recopilado digitalmente) más de 20.000 millones de imágenes de rostros de personas de información disponible públicamente en Internet y plataformas de redes sociales de todo el mundo para crear una base de datos en línea. La empresa utiliza esta base de datos para brindar un servicio que permite a los clientes cargar una imagen de una persona en su aplicación, que luego se verifica para ver si coincide con todas las imágenes de la base de datos. La aplicación produce una lista de imágenes que tienen características similares a las de la foto proporcionada por el cliente, junto con un enlace a los sitios web de donde provienen esas imágenes. Clearview describe su negocio como «construir un mundo seguro, una cara a la vez».

La mosca en este ungüento calmante es que las personas cuyas imágenes componen la base de datos no fueron informadas de que sus fotografías estaban siendo recopiladas o utilizadas de esta manera y ciertamente nunca dieron su consentimiento para su uso de esta manera. De ahí la acción del ICO.

La mayoría de nosotros nunca habíamos oído hablar de Clearview hasta enero de 2021 cuando Kashmir Hill, un periodista de alta tecnología, reveló su existencia en el New York Times. Fue fundado por un emprendedor tecnológico llamado Hoan Ton-That y Richard Schwartz, quien había sido ayudante de Rudy Giuliani cuando era alcalde de Nueva York y aún respetable. La idea era que Ton-That supervisaría la creación de una poderosa aplicación de reconocimiento facial mientras que Schwartz usaría su abultado Rolodex para despertar el interés comercial.


Recomendado: ¿Qué es el Big data?.


Schwartz no tardó mucho en darse cuenta de que los organismos encargados de hacer cumplir la ley de EE. UU. lo harían como lobos rapaces. Según el informe de Hill, el departamento de policía de Indiana fue el primer cliente de la empresa. En febrero de 2019 resolvió un caso en 20 minutos. Dos hombres se habían peleado en un parque, que terminó con uno disparándole al otro en el estómago. Un transeúnte grabó el crimen en un teléfono inteligente, por lo que la policía tenía una imagen fija del rostro del pistolero para pasar por la aplicación de Clearview. Inmediatamente consiguieron una coincidencia. El hombre apareció en un video que alguien había publicado en las redes sociales y su nombre se incluyó en una leyenda del videoclip. ¡Bingo!

El argumento de marketing de Clearview jugó en la galería de aplicación de la ley: una extensión de dos páginas, con la página de la izquierda dominada por el eslogan “Deje de buscar. Comience a resolver” en lo que parece ser Helvetica Bold de 95 puntos. Debajo habría una lista de opciones de suscripción anual, desde $ 10,000 para cinco usuarios hasta $ 250,000 para 500. Pero el golpe asesino fue que siempre había en algún lugar una opción de suscripción de prueba que un oficial individual podía usar para ver si funcionaba.

La estrategia subyacente fue astuta. Vender a corporaciones como corporaciones desde el exterior es difícil. Pero si puede obtener información privilegiada, aunque sea relativamente joven, para probar sus cosas y encontrarlas útiles, entonces está a medio camino de una venta. Es la forma en que Peter Thiel consiguió que el Pentágono comprara el software de análisis de datos de su empresa Palantir. Primero persuadió a los oficiales militares de rango medio para que lo probaran, sabiendo que eventualmente harían el lanzamiento a sus superiores. desde el interior. ¿Y adivina qué? Thiel fue uno de los primeros inversores en Clearview.

No está claro cuántos clientes tiene la empresa. Los documentos internos de la empresa que se filtraron a BuzzFeed en 2020 sugirieron que, hasta ese momento, las personas asociadas con 2228 agencias, empresas e instituciones encargadas de hacer cumplir la ley habían creado cuentas y realizado colectivamente casi 500 000 búsquedas, todas rastreadas y registradas por la empresa. En los EE. UU., la mayor parte de las compras institucionales provino de los departamentos de policía locales y estatales. En el extranjero, los documentos filtrados sugirieron que Clearview se había expandido a al menos 26 países fuera de los EE. UU., incluido el Reino Unido, donde las búsquedas (quizás no autorizadas) realizadas por personas en el Met, la Agencia Nacional contra el Crimen y las fuerzas policiales en Northamptonshire, North Yorkshire, Suffolk, Los servidores de Clearview registraron Surrey y Hampshire.

En reacción a la multa de la ICO, el bufete de abogados que representa a Clearview dijo que la multa era «incorrecta como cuestión de derecho», porque la empresa ya no hace negocios en el Reino Unido y «no está sujeta a la jurisdicción de la ICO». Ya lo veremos. Pero lo que no está en disputa es que muchas de las imágenes en la base de datos de la compañía son de usuarios de redes sociales que definitivamente están en el Reino Unido y que no dieron su consentimiento. Así que dos hurras por la ICO.

lo que he estado leyendo

Un gran desvío
Acerca de esos tractores ucranianos con interruptor automático es una publicación de blog mordaz en Medium de Cory Doctorow sobre el poder que tiene John Deere para desactivar de forma remota no solo los tractores robados por los rusos de Ucrania, sino también los comprados por agricultores estadounidenses.

Fuera de control
Pandemia Permanente es un ensayo aleccionador en de harper por Justin EH Smith preguntando si los controles legitimados por la lucha contra Covid alguna vez se relajarán.

¿Derecho a portar armas?
En el boletín Substack de Heather Cox Richardson sobre el “derecho a portar armas”, la historiadora reflexiona sobre cómo la segunda enmienda se ha deformado para satisfacer las necesidades del lobby de las armas.