El sesgo de la IA es frecuente pero prevenible: aquí se explica cómo erradicarlo

El éxito de cualquier aplicación de IA está intrínsecamente ligado a sus datos de entrenamiento. No solo necesita la calidad de datos adecuada y el volumen de datos adecuado; También debe asegurarse de manera proactiva de que sus ingenieros de inteligencia artificial no transmitan sus propios prejuicios latentes a sus creaciones. Si los ingenieros permiten que sus propias visiones del mundo y suposiciones influyan en los conjuntos de datos, tal vez proporcionando datos que se limitan solo a ciertos datos demográficos o puntos focales, las aplicaciones que dependen de la resolución de problemas de IA serán igualmente sesgadas, inexactas y, bueno, no tan útiles.

En pocas palabras, debemos detectar y eliminar continuamente los sesgos humanos de las aplicaciones de inteligencia artificial para que la tecnología alcance su potencial. Espero que el escrutinio de sesgos solo aumente a medida que la IA continúe su rápida transición de una tecnología relativamente incipiente a una completamente ubicua. Pero el prejuicio humano debe ser anulado para lograr realmente esa realidad. Un informe de Gartner de 2018 predijo que hasta 2030, el 85% de los proyectos de inteligencia artificial proporcionarán resultados falsos causados ​​por el sesgo que se ha incorporado a los datos o los algoritmos, o que está presente (latente o no) en los equipos que administran esas implementaciones. Las apuestas son altas; La IA defectuosa provoca graves daños a la reputación y costosos fallos para las empresas que toman decisiones basadas en conclusiones erróneas proporcionadas por la IA.

Identificar el sesgo de la IA

El sesgo de la IA adopta varias formas. Los sesgos cognitivos que se originan en los desarrolladores humanos influyen en los modelos de aprendizaje automático y los conjuntos de datos de entrenamiento. Esencialmente, los sesgos se codifican en algoritmos. Los datos incompletos en sí mismos también producen sesgos, y esto se vuelve especialmente cierto si se omite la información debido a un sesgo cognitivo. Una IA entrenada y desarrollada sin prejuicios puede todavía tiene sus resultados se contaminan por sesgos de implementación cuando se ponen en acción. El sesgo de agregación es otro riesgo, que ocurre cuando las pequeñas decisiones tomadas en un proyecto de IA tienen un gran impacto colectivo en la integridad de los resultados. En resumen, hay muchos pasos inherentes a cualquier receta de IA en los que el sesgo puede incorporarse.

Detectar y eliminar el sesgo de la IA

Para lograr aplicaciones confiables que dependan de la inteligencia artificial y que generen resultados precisos de manera constante en una miríada de casos de uso (y usuarios), las organizaciones necesitan marcos, conjuntos de herramientas, procesos y políticas efectivos para reconocer y mitigar activamente el sesgo de la inteligencia artificial. Las herramientas de código abierto disponibles pueden ayudar a probar las aplicaciones de inteligencia artificial para detectar sesgos, problemas y puntos ciegos específicos en los datos.

Marcos de IA. Los marcos diseñados para proteger a las organizaciones de los riesgos del sesgo de la IA pueden introducir controles y equilibrios que minimicen las influencias indebidas durante el desarrollo y la implementación de aplicaciones. Los puntos de referencia para prácticas confiables y libres de sesgos pueden automatizarse e integrarse en los productos utilizando estos marcos.

Aquí hay unos ejemplos:

• Aletheia Framework de Rolls Royce proporciona un proceso de 32 pasos para diseñar aplicaciones de IA precisas y cuidadosamente administradas.
• El marco de la IA de Deloitte destaca seis dimensiones esenciales para implementar las salvaguardas y las prácticas éticas de la IA.
• Un marco de Naveen Joshi detalla las prácticas fundamentales para desarrollar una IA confiable. Se centra en la necesidad de explicabilidad, integridad del aprendizaje automático, desarrollo consciente, reproducibilidad y regulaciones inteligentes.

Juegos de herramientas. Las organizaciones también deben aprovechar los kits de herramientas disponibles para reconocer y eliminar el sesgo presente en los modelos de aprendizaje automático e identificar patrones de sesgo en los procesos de aprendizaje automático. A continuación, se muestran algunos kits de herramientas particularmente útiles:

• AI Fairness 360 de IBM es un conjunto de herramientas extensible (y de código abierto) que permite examinar, informar y mitigar la discriminación y el sesgo en los modelos de aprendizaje automático.
• IBM Watson OpenScale proporciona detección y mitigación de sesgos en tiempo real y permite una explicación detallada para hacer que las predicciones de IA sean confiables y transparentes.
• La herramienta Y si … de Google ofrece visualización del comportamiento del modelo de aprendizaje automático, lo que simplifica la prueba de modelos entrenados frente a las métricas de equidad del aprendizaje automático para erradicar el sesgo.

Procesos y políticas. Es probable que las organizaciones necesiten introducir nuevos procesos diseñados expresamente para eliminar el sesgo de la IA y aumentar la confianza en los sistemas de IA. Estos procesos definen métricas de sesgo y verifican los datos de manera regular y exhaustiva con esos criterios. Las políticas deberían desempeñar un papel similar, estableciendo una gobernanza que requiera prácticas estrictas y una acción vigilante para minimizar los prejuicios y abordar los puntos ciegos.

Recuerde: la confianza en IA es una oportunidad comercial

Aquellos que toman medidas para reducir el sesgo en sus sistemas de inteligencia artificial pueden volver a caracterizar este potencial de crisis en una oportunidad para la diferenciación competitiva. La promoción de medidas anti-sesgo puede diferenciar a una empresa al establecer una mayor confianza del cliente y la confianza en las aplicaciones de inteligencia artificial. Esto es cierto hoy en día, pero lo será aún más a medida que prolifere la IA. La transparencia en la búsqueda de una IA imparcial es buena para los negocios.

Los nuevos algoritmos avanzados de IA están llevando la IA a nuevos campos, desde la generación de datos sintéticos hasta el aprendizaje de transferencia, el aprendizaje por refuerzo, las redes generativas y las redes neuronales. Cada una de estas nuevas y emocionantes aplicaciones tendrá su propia susceptibilidad a influencias de sesgo, que deben abordarse para que estas tecnologías prosperen.

Con el sesgo de la IA, la culpa no está en la IA sino en nosotros mismos. Tomar todos los pasos disponibles para eliminar el sesgo humano de la IA permite a las organizaciones producir aplicaciones que son más precisas, más efectivas y más atractivas para los clientes.

Shomron Jacob es Gerente de Ingeniería de Aprendizaje Automático Aplicado e IA en Iterate.ai.