La IA se ha convertido en un problema de diseño

La IA se enfrenta a nuevos pedidos de regulación ahora que ha surgido del laboratorio y se está implementando más ampliamente en nuestra vida diaria. El público no confía en la tecnología. Tampoco deberían hacerlo ellos. Los problemas son numerosos, desde comprender cómo funcionan realmente los modelos, controlar los datos que alimentan la IA y abordar la creciente desconfianza en aquellos que manejan esta tecnología. Incluso las propias empresas no están seguras de cómo utilizar la IA de forma segura y eficaz como parte de su negocio.

La mayor parte de la discusión se centra actualmente en la ingeniería. Es comprensible: la inteligencia artificial es una misteriosa caja negra para muchas personas, y se supone que se puede arreglar solo a través de líneas de código y mejores datos. Pero quiero argumentar que para comprender realmente y comenzar a dominar esta tecnología, debemos mejorar al ver la IA como un componente de sistemas más grandes y diseñar en consecuencia. Básicamente, la IA no es solo un problema tecnológico, se ha convertido en un problema de diseño.

El diseño centrado en el ser humano tiene un papel vital en tres áreas clave: el pensamiento de diseño puede ayudar a las empresas a mapear sus sistemas para comprender cómo y dónde encaja la IA. El diseño es necesario para idear mejores herramientas para crear, monitorear y administrar la IA. Y el diseño debe crear nuevas interfaces centradas en el tipo de información que la IA ofrece a los usuarios.

El diseño tiene una práctica familiar desde hace mucho tiempo en torno a la investigación y el descubrimiento (también conocido como pensamiento de diseño) para ayudar a enmarcar los problemas de manera efectiva. Y puede ayudar a las empresas a comprender qué se necesita para garantizar que su IA funcione como se desea. Los equipos de diseño ahora crean rutinariamente mapas de viaje para mostrar cómo un cliente fluye a través de todos los puntos de contacto de una empresa, así como los puntos de contacto externos, y cómo estos impulsan colectivamente su experiencia. Se pueden usar métodos similares para mapear el flujo de datos, software y toma de decisiones dentro de una empresa, cubriendo no solo la IA en sí, sino de manera más integral los sistemas más grandes que influirán en la IA. Este ejercicio puede ayudar a las empresas a comenzar a comprender mejor qué impulsa a una IA a funcionar, o no. Es complejo, sin duda, pero en resumen, la IA no es una isla. Cualquier primer paso para garantizar una IA ética requiere comprender todos los sistemas que la afectan.

En este momento, la creación de un sistema de inteligencia artificial que contribuya de manera útil a cualquier negocio sigue siendo la lucha principal. Los datos pueden ser demasiado crudos, sospechosos o superficiales. Es posible que los modelos no estén probados. Y la integración de la IA en el resto del motor empresarial es difícil. Debido a esto, a menudo no se presta suficiente atención a los objetivos de orden superior: eficiencia, precisión y valor comercial. Es una actitud muy del salvaje oeste: muévete rápido y rompe cosas. Lo averiguaremos sobre la marcha.

Gran parte de esta actitud se puede atribuir a las primeras etapas de cómo se crean los sistemas de IA. El proceso todavía está muy impulsado por la ingeniería e, incluso entonces, requiere un enfoque altamente personalizado para cada problema. En tales situaciones, los equipos de ingeniería tienden a medir el éxito en función de si pueden hacer que el sistema funcione; no por lo bien que se ajusta a su propósito.

Debido a esto, es imperativo mover el acto de hacer cosas «arriba de la pila». Eso significa crear herramientas que hagan que el desarrollo de sistemas de IA sea menos una tarea de ingeniería en bruto y más una tarea creativa y operativa para la propia empresa. Aquí es donde el diseño es fundamental. Las herramientas deben diseñarse para desmitificar los datos, los objetos y los procesos que componen la IA, de modo que los expertos en la materia centrados en los resultados comerciales puedan participar en la creación de estos sistemas.

Hay muchas analogías de las que basarse. La autoedición movió el diseño gráfico de una especialidad de dibujante y sala de cámaras a una simple herramienta de escritorio que cualquiera podría usar. El resultado fue una explosión de contribuyentes y una mejora espectacular en la calidad del diseño en general. En la ingeniería de software, las herramientas simplificadas como HTML y JavaScript han llevado el desarrollo de aplicaciones y sitios web a manos de personas con intenciones e ideas en lugar de únicamente habilidades de ingeniería. Estas personas tienen más tiempo y atención para enfocarse en la calidad del trabajo.

Todas las mejores prácticas de datos, modelos y desarrollo en el mundo no pueden garantizar completamente una IA que se comporte perfectamente. Al final, un buen diseño de la interfaz de usuario debe presentar la IA de manera adecuada a los usuarios finales. Una interfaz de usuario eficaz puede, por ejemplo, decirle al usuario la procedencia de sus conocimientos, recomendaciones y decisiones. Esto le da a la agencia del usuario un sentido de lo que la IA tiene para ofrecer.

El diseño de la interfaz de usuario también necesita evolucionar su forma de arte de presentar información. Históricamente, las IU presentaban datos como hechos. Las listas comunes de datos no eran sospechosas; simplemente estaban regurgitando lo que estaba almacenado. Pero cada vez más, las presentaciones de datos son obtenidas, seleccionadas y moldeadas por IA y, por lo tanto, llevan consigo la naturaleza sospechosa de la curación de la IA. El diseño de la interfaz de usuario debe introducir nuevos mecanismos que permitan a los usuarios inspeccionar la procedencia y el razonamiento de los datos e introducir señales visuales para compartir mejor la confianza y el sesgo de los datos con el usuario.

A medida que navegamos por las complejidades de una tecnología que ya está integrada en muchos de nuestros sistemas, debemos diseñar estos sistemas de manera responsable, teniendo en cuenta la transparencia, la privacidad y la equidad. El diseño puede enmarcar las experiencias del usuario impulsadas por la inteligencia artificial para los usuarios finales de una manera que genere confianza y ayude al usuario final a comprender el alcance, las fortalezas y las debilidades de un sistema determinado. A su vez, el miedo y la desconfianza se alivian en torno a las misteriosas cajas negras.

La confianza es donde termina o comienza la historia. Mejores sistemas, herramientas e interfaces conducirán a una IA que funcione según lo diseñado y en la que se pueda confiar. Porque la confianza será la medida final de los sistemas de IA eficaces y responsables.

Mark Rolston es fundador y director creativo de argodesign, una consultora global de diseño de productos. Anteriormente fue director creativo de frogdesign y ha trabajado con empresas como Disney, Magic Leap, Dreamworks, Salesforce, GE, Microsoft y AT&T. Actualmente se desempeña como asesor del Responsible AI Institute (RAI), trabajando para definir la IA responsable con herramientas prácticas y orientación experta.