Las medidas para prohibir que la tecnología de reconocimiento facial en tiempo real del «Gran Hermano» se despliegue en las calles de la UE o por parte de los funcionarios fronterizos se pondrán a prueba en una votación clave en el Parlamento Europeo el jueves.
La enmienda es parte de un paquete de propuestas para las primeras leyes de inteligencia artificial del mundo, lo que podría dar lugar a que las empresas sean multadas con hasta 10 millones de euros (8,7 millones de libras esterlinas) o retiradas del comercio dentro de la UE por incumplimiento de las normas.
Está contenida en uno de los 12 grupos de enmiendas de compromiso acordadas por un comité de eurodiputados, reducidas de las más de 3.000 presentadas hace un año.
Pero se espera que la prohibición, contenida en un texto final que se votará en el parlamento el jueves, sea impugnada por un grupo de eurodiputados de centroderecha con el argumento de que el escaneo biométrico debe implementarse para combatir delitos graves como el terrorismo.
Si se aprueba, la ley también prohibirá la IA de «reconocimiento emocional» que podría ser utilizada por los empleadores o la policía para identificar a los trabajadores o conductores cansados.
Las organizaciones benéficas han expresado su preocupación de que el reconocimiento facial en vivo en tiempo real esté abierto al abuso por parte de las agencias estatales y la policía fronteriza.
Pero Dragos Tudorache, co-ponente de la Ley de IA en el Parlamento Europeo, dijo que esperaba que hubiera un fuerte apoyo para prohibirla.
“No hay salvaguarda más fuerte [than this ban]. Un paso fronterizo es un espacio público. De acuerdo con el texto que tenemos en este momento, no podrá implementar la tecnología de reconocimiento biométrico de IA en un espacio público”, dijo.
La ley también obligará a quienes generan inteligencia artificial a ser transparentes sobre qué literatura original, investigación científica, música y otros materiales protegidos por derechos de autor utiliza para capacitar a los aprendices automáticos.
Esto permitirá a las bandas, académicos y otros demandar si creen que se ha infringido la ley de derechos de autor.
El correlator Brando Benifei dijo que esperaba que la ley disipara las preocupaciones sobre la inteligencia artificial que perturba los mercados laborales y una posible avalancha de noticias falsas, desinformación e interferencia con los derechos humanos.
“Con nuestro texto, también mostramos qué tipo de sociedad queremos, una sociedad en la que el almacenamiento social, la vigilancia policial predictiva, la categorización biométrica, el reconocimiento emocional y el raspado discriminado de imágenes faciales de Internet se consideren prácticas inaceptables”, dijo a los periodistas.
El texto enmendado de la Ley de AI se presentará ante el parlamento en general a mediados de junio y, si se aprueba, representará un mandato «fuerte» en futuras discusiones con la Comisión Europea y el Consejo de la Unión Europea.
Se espera que la ley sea aprobada a finales de año.
data-spacefinder-role=»inline» data-spacefinder-type=»model.dotcomrendering.pageElements.NewsletterSignupBlockElement» class=» dcr-173mewl» wp_automatic_readability=»2.5787476280835″>saltar promoción del boletín anterior
después de la promoción del boletín
Muchos creen que la Ley de IA se convertirá en el estándar de oro de la regulación en todo el mundo, adoptada por gigantes como Google, Microsoft y las empresas de redes sociales.
“¿Es conocido como el efecto Bruselas? Si la UE actúa primero y tiene estándares sensatos, otros países comenzarán con las reglas de la UE al diseñar su propia regulación”, dijo Zach Meyers, investigador del Centro para la Reforma Europea.
Meyers agregó: «Incluso si no lo hacen, las empresas pueden adoptar voluntariamente las reglas de la UE a nivel mundial porque hace que el costo de hacer negocios sea más barato».
Kim van Sparrentak, eurodiputado del Partido Verde holandés, dijo que el uso del escaneo en vivo, que fue posible gracias a la IA, estaba “completamente en contra de nuestros derechos fundamentales” y era “un riesgo inaceptable”.
La Ley de IA, que es la primera de su tipo, se ha estado elaborando durante casi dos años, con nuevas enmiendas agregadas recientemente para abordar los riesgos que plantean los sistemas de IA de «propósito general», incluido ChatGPT.
Cuando se le preguntó si la UE no estaba actuando demasiado tarde para abordar ChatGPT solo un mes antes de que se pidiera a todo el parlamento europeo que votara sobre la Ley de IA, Tudorache dijo: “Si llegamos tarde, ¿dónde están todas las demás jurisdicciones que ni siquiera han comenzado? considerar la regulación?