El impacto de la IA en las organizaciones | Entrevistas

¿Cómo cambia la utilización de la inteligencia artificial (IA) las organizaciones en la práctica? ¿Cómo pueden las organizaciones mejorar su aplicación de los sistemas de IA?

Para encontrar respuestas a estas preguntas, Marleen Huysman, afiliada a la Vrije Universiteit Amsterdam (VU) en los Países Bajos, dirige un grupo de investigación multidisciplinario de 35 personas llamado el Centro KIN para la Innovación Digital. El grupo incluye científicos informáticos, ingenieros, sociólogos, antropólogos, expertos en negocios y diseñadores industriales.

Su método de trabajo es único: obtienen el permiso para integrarse en una organización, y luego estudian como antropólogos digitales durante muchos meses y a veces años el impacto de un sistema de IA recientemente introducido. Hasta la fecha, han realizado estudios de cómo la IA impacta en las prácticas de radiología, policía predictiva, cirugía robótica y reclutamiento.

Comunicaciones entrevistó a Huysman sobre el impacto que la IA puede tener en las organizaciones.


Recomendado: ¿Qué es el Big data?.


Bennie Mols: ¿Cuál es la clave del enfoque antropológico que utiliza para estudiar la IA en las organizaciones?

Marleen Huysman: Nos convertimos en parte de la rutina diaria caminando con los empleados y observando cuidadosamente cómo la IA modifica la organización. Hacemos preguntas como: ¿Por qué la gerencia introdujo la IA? ¿Qué puede hacer y qué no puede hacer la IA? ¿Funciona la IA como un reemplazo o como un aumento de personas? ¿Cómo cambia la IA el trabajo de los usuarios y de las personas que los rodean? ¿Cuáles son los efectos de la introducción de la IA?

¿Qué conclusiones generales puede extraer del impacto de la IA en las organizaciones?

La conclusión más importante es que existe una gran brecha entre los desarrolladores de la IA y los sistemas de IA por un lado, y los usuarios finales de la organización por el otro. Esperábamos encontrar una brecha, pero es mucho más grande de lo que pensábamos. Esto lleva a que los sistemas de IA se implementen con demasiada rapidez, y a que los sistemas no se adapten bien a las rutinas de trabajo diarias. Como consecuencia, a menudo observamos que es necesario crear una nueva función de trabajo, la de un corredor, traductor u oficial de inteligencia que trate de salvar la brecha.

¿Puede ilustrar estas conclusiones con algunos ejemplos?

Estudiamos la introducción de la policía predictiva por la policía holandesa. Descubrimos que la interpretación y el filtrado de las salidas de la IA era demasiado difícil de dejar a los propios policías. Para resolver este problema, la policía creó una unidad de inteligencia que traduce los resultados de la IA a lo que los oficiales de policía deben hacer.

También estudiamos la introducción de un algoritmo de contratación en una gran organización multinacional. Vimos que mientras el algoritmo se introdujo para apoyar a RRHH en la toma de mejores decisiones de contratación, los profesionales de RRHH se convirtieron en asistentes del algoritmo en su lugar. Los profesionales de RRHH ya no seleccionan o rechazan candidatos, sino que suministran al algoritmo datos frescos para que pueda tomar la decisión en su nombre. Además, necesitan reparar los errores cometidos por el algoritmo y actuar como su intermediario, como en el caso de que el algoritmo haya rechazado por error a varios candidatos. Todos estos son cambios en las actividades de trabajo del equipo de recursos humanos que no se pensaron cuando se introdujo el algoritmo de contratación.

Esto ilustra otra de nuestras conclusiones generales: La IA a menudo tiene un efecto dominó inesperado en las personas que tienen que lidiar con ella en la práctica. A menudo se necesitan nuevos trabajos, y los viejos tienen que cambiar.

¿Cuál es el peligro de implementar la IA demasiado rápido en una organización?

Una de las organizaciones que estudiamos fue el departamento de ventas de empresa a empresa de una gran compañía en los Países Bajos. Utilizaban una IA basada en reglas relativamente simples para predecir si un cliente necesitaría un nuevo producto o si se debería contactar con él porque un producto que utilizaban estaba caducado. Normalmente un gerente de ventas llamaría al cliente, y como el gerente de ventas ha llegado a conocer a sus clientes personalmente, también haría preguntas personales: ¿Cómo está usted? ¿Cómo está tu familia? En teoría, el sistema de IA era mucho mejor para predecir el mejor momento para contactar con un cliente, por lo que la organización despidió a la mayoría de sus vendedores y se introdujo el sistema de IA. Sin embargo, pronto la organización descubrió que el contacto personal entre los vendedores y los clientes era mucho más importante para vender sus productos de lo que nadie se había dado cuenta. El sistema de IA no podía hacer este contacto personal, y por lo tanto se desempeñaba mucho peor que los gerentes de ventas.

¿Qué ha aprendido sobre el papel de los expertos en dominios? ¿Siguen siendo necesarios cuando la IA es autodidacta?

La promesa de la IA es que los sistemas de auto-aprendizaje ya no necesitan expertos en la materia porque toda la experiencia reside en los datos. Sin embargo, hemos observado lo contrario. Los desarrolladores de IA necesitan cooperar más con los expertos en el dominio, en comparación con los sistemas de conocimiento tradicionales. Esto se debe a que el conocimiento no sólo reside en los datos, sino también en las personas. El conocimiento es una propiedad compartida: se distribuye en forma de conocimientos y rutinas por muchas personas en una organización. Vemos que los desarrolladores de la IA necesitan continuamente colaborar con los expertos de los dominios para mantener el conjunto de datos útiles y de buena calidad.

¿Cuál es la pregunta más importante que va a investigar en un futuro próximo?

No sólo queremos construir teorías científicas, sino también contribuir en la práctica. Por el momento, lo hacemos organizando talleres en las organizaciones que hemos estudiado y discutiendo nuestras conclusiones con ellas. Sin embargo, podemos contribuir aún más desarrollando una metodología que las organizaciones puedan utilizar para salvar la brecha entre los desarrolladores y los usuarios de la IA. ¿Cómo podemos desarrollar esa metodología? Esa es, para mí, la pregunta más importante. Acabamos de iniciar un nuevo proyecto para encontrar la respuesta.

Bennie Mols es un escritor de ciencia y tecnología con sede en Amsterdam, Holanda.