Kate Darling, especialista en ética de la IA: “Los robots pueden ser nuestros socios” | Robots

La Dra. Kate Darling es especialista en investigación en interacción humano-robot, ética de robots y teoría y política de propiedad intelectual en el Laboratorio de Medios del Instituto Tecnológico de Massachusetts (MIT).. En su nuevo libro, La nueva cría, sostiene que estaríamos mejor preparados para el futuro si empezáramos a pensar en robots e inteligencia artificial (AI) como animales.

¿Qué hay de malo en nuestra forma de pensar sobre los robots?
Muy a menudo comparamos inconscientemente los robots con los humanos y la IA con la inteligencia humana. La comparación limita nuestra imaginación. Enfocados en tratar de recrearnos a nosotros mismos, no estamos pensando de manera creativa en cómo usar robots para ayudar a los humanos a prosperar.

¿Por qué es mejor una analogía animal?
Tenemos animales domesticados porque nos son útiles: bueyes para arar nuestros campos, sistemas de entrega de palomas. Los animales y los robots no son lo mismo, pero la analogía nos aleja del persistente robot-humano. Abre nuestra mente a otras posibilidades, que los robots pueden ser nuestros socios, y nos permite ver algunas de las opciones que tenemos para dar forma a la forma en que usamos la tecnología.

Pero empresas están tratando de desarrollar robots para sacar a los humanos de la ecuación: autos robot sin conductor, entrega de paquetes por dron. ¿No oculta una analogía animal lo que, de hecho, es una amenaza significativa?
Existe una amenaza para el trabajo de las personas. Pero esa amenaza no son los robots, son las decisiones de la empresa impulsadas por un sistema económico y político más amplio de capitalismo corporativo. La analogía animal ayuda a ilustrar que tenemos algunas opciones. Las diferentes formas en que hemos aprovechado las habilidades de los animales en el pasado muestran que podríamos elegir diseñar y usar esta tecnología como un complemento del trabajo humano, en lugar de simplemente intentar automatizar a las personas.


Recomendado: ¿Qué es el Big data?.


¿Quién debe ser responsable cuando un robot causa daño? En el medio edades, los animales fueron juzgados y castigados …
Lo hicimos durante cientos de años de historia occidental: cerdos, caballos, perros y plagas de langostas, y también ratas. Y, extrañamente, los juicios siguieron las mismas reglas que los juicios en humanos. Parece tan extraño hoy porque no responsabilizamos moralmente a los animales por sus acciones. Pero mi preocupación cuando se trata de robots es que, debido a la comparación robot-humano, vamos a caer en este mismo tipo de falacia de ensayos con animales de la Edad Media, donde tratamos de hacerlos responsables de los estándares humanos. Y estamos empezando a ver destellos de eso, donde las empresas y los gobiernos dicen: “Oh, no fue culpa nuestra, fue este algoritmo”. .

¿No deberíamos responsabilizar a los fabricantes de robots por cualquier daño?
Mi preocupación es que las empresas se están librando del apuro. En el caso del ciclista asesinado por un automóvil Uber autónomo en 2018, se responsabilizó al conductor de respaldo en lugar del fabricante. El argumento de las empresas es que no deberían ser responsables del aprendizaje de la tecnología, porque no son capaces de prever o planificar todas las posibilidades. Me inspiro en modelos históricos de cómo hemos asignado responsabilidad legal cuando los animales causan daños imprevistos: por ejemplo, en algunos casos, distinguimos entre animales peligrosos y más seguros y las soluciones van desde responsabilizar estrictamente a los propietarios hasta permitir cierta flexibilidad, según el contexto. . Si tu pequeño caniche muerde a alguien en la calle, de forma totalmente inesperada por primera vez, no serás castigado como si fuera un guepardo. Pero el punto principal es que el comportamiento imprevisible no es un problema nuevo y no debemos permitir que las empresas argumenten que lo es.

No tienes mascotas pero tienes muchos robots. Cuéntanos sobre ellos
Tengo siete dinosaurios robot bebés Pleo, un perro robótico Aibo, un robot bebé foca Paro y un asistente de robot Jibo. Mi primer Pleo lo llamé Yochai. Terminé aprendiendo de primera mano sobre nuestra capacidad de empatizar con los robots. Resultó imitar muy bien el dolor y la angustia. Y, mostrándoselo a mis amigos y haciendo que lo sostuvieran por la cola, me di cuenta de que realmente me molestaba que lo sostuvieran demasiado tiempo. Sabía exactamente cómo funcionaba el robot, que todo era una simulación, pero todavía me sentía obligado a detener el dolor. Existe una gran cantidad de investigaciones que demuestran que empatizamos con los robots.

Algunas personas, como la psicóloga social Sherry Turkle, se preocupan de que los robots de compañía reemplacen las relaciones humanas. ¿Compartes este miedo?
No parece tener ningún fundamento en la realidad. Somos criaturas sociales capaces de desarrollar relaciones con todo tipo de personas, animales y cosas. Una relación con un robot no necesariamente le quitaría nada de lo que ya tenemos.

¿Cuáles son, si los hay, los problemas reales con los compañeros robot?
Me preocupa que las empresas intenten aprovecharse de las personas que utilizan esta tecnología emocionalmente persuasiva, por ejemplo, un robot sexual que te explota en el fragor del momento con una compra atractiva desde la aplicación. De manera similar a como hemos prohibido la publicidad subliminal en algunos lugares, es posible que queramos considerar la manipulación emocional que será posible con los robots sociales.

¿Y la privacidad? Los animales pueden guardar tus secretos, pero un robot may no …
Estos dispositivos se están moviendo hacia espacios íntimos de nuestras vidas y gran parte de su funcionalidad proviene de su capacidad para recopilar y almacenar datos para aprender. No hay suficiente protección para estos gigantes conjuntos de datos que estas empresas están acumulando. También me preocupa que, debido a que gran parte de la robótica social se ocupa de personajes modelados en humanos, plantea problemas en torno a los prejuicios raciales y de género que ponemos en el diseño. Los estereotipos dañinos se refuerzan e integran en la tecnología. Y me preocupa que estemos mirando a estos compañeros robóticos como una solución a nuestros problemas sociales, como la soledad o la falta de cuidadores. Así como los robots no han causado estos problemas, tampoco pueden solucionarlos. Deben tratarse como herramientas complementarias al cuidado humano que brindan algo nuevo.

¿Deberíamos dar derechos a los robots?
Esto a menudo surge en la ciencia ficción y gira en torno a la cuestión de si los robots son lo suficientemente como nosotros. No estoy en desacuerdo con que los robots, en teoría, merecerían derechos si llegaran a ser conscientes o sensibles. Pero ese es un escenario de futuro lejano. Los derechos de los animales son un predictor mucho mejor de cómo se desarrollará en la práctica esta conversación sobre los derechos de los robots, al menos en la sociedad occidental. Y en los derechos de los animales somos hipócritas. Nos gusta creer que nos preocupamos por el sufrimiento de los animales, pero si nos fijamos en nuestro comportamiento real, gravitamos hacia la protección de los animales con los que nos relacionamos emocional o culturalmente. En los EE. UU. Se puede comprar una hamburguesa en el servicio de autoservicio, pero no comemos carne de perro. Creo que es probable que hagamos lo mismo con los robots: otorgar derechos a unos y no a otros.

¿Deberíamos tener robots con apariencia humana?
No creo que vayamos a dejar de hacerlo, pero, para la mayoría de los propósitos prácticos, la forma humana está sobrevalorada y sobreutilizada. Podemos poner emociones en todo, desde manchas hasta sillas. La gente puede incluso responder mejor a los robots no humanos, porque lo que a menudo es decepcionante es cuando las cosas que parecen suyas no se comportan de la manera esperada.

La nueva raza: cómo pensar en los robots por Kate Darling es publicado por Penguin (£ 20). Para solicitar una copia, vaya a guardianbookshop.com. Pueden aplicarse cargos de envío