La inteligencia artificial tiene una gran ventaja, pero es necesario gestionar los daños potenciales

La inteligencia artificial y el aprendizaje automático tienen el potencial de contribuir a la resolución de algunos de los problemas más intratables de nuestro tiempo. Los ejemplos incluyen el cambio climático y las pandemias. Pero también tienen la capacidad de causar daño. Y pueden, si no se utilizan adecuadamente, perpetuar las injusticias históricas y las desigualdades estructurales.

Para mitigar sus daños potenciales, el mundo necesita marcos para la gobernanza de los datos que sean económicamente habilitantes y que preserven los derechos.

La inteligencia artificial y el aprendizaje automático operan sobre la base de conjuntos de datos masivos a partir de los cuales se programan algoritmos para discernir patrones. Estos patrones se pueden utilizar para inferir nuevos conocimientos y también predecir el comportamiento y los resultados. Cada vez más, la inteligencia artificial y el aprendizaje automático se utilizan para sustituir las decisiones humanas por la toma de decisiones automatizada en nombre de los seres humanos. Esto ocurre a menudo en áreas que pueden tener un impacto significativo en la vida de las personas. Accede a préstamos o incluso accede a un país.

Sin embargo, todo sucede en una caja negra a la que incluso el diseñador al que el algoritmo puede no tener acceso, por lo que es importante decidir qué se incluye en la caja.

Los mayores conjuntos de datos y actividad algorítmica son generados por las redes sociales globales que vigilan cada una de nuestras acciones en línea. Estos conjuntos de datos se pueden utilizar para anticipar y moldear nuestras necesidades y deseos.

Las grandes empresas de tecnología, las agencias multilaterales y los bancos de desarrollo han aprovechado gran parte del potencial de la inteligencia artificial para impulsar el crecimiento económico y el desarrollo nacional. Y se utilizan cada vez más en aplicaciones sociales y económicas, así como en la toma de decisiones públicas, la planificación y la asignación de recursos. Estos incluyen la orientación de los fallos judiciales, la selección de solicitantes de empleo y la asignación de estudiantes a los sistemas educativos.

La pandemia de COVID-19 también ha destacado el enorme valor de los datos públicos y el valor potencial de combinar datos públicos y privados para hacer frente a la salud pública y las crisis de desastres.

Sin embargo, existe una creciente preocupación por la distribución desigual tanto de las oportunidades como de los daños asociados con la inteligencia artificial.

Las amenazas

El uso cada vez mayor de inteligencia artificial y aprendizaje automático en la toma de decisiones públicas está planteando problemas críticos en torno a la equidad y los derechos humanos.

En particular, se señala con señales de alerta cómo se producen los datos digitales. Los conjuntos de datos tienen grandes lagunas. Como resultado, ciertas personas se vuelven visibles, están infrarrepresentadas y se las discrimina en la forma en que se recopilan los datos. El hecho de que la mayoría de la población mundial no esté conectada a Internet y a las redes sociales globales que impulsan la nueva economía basada en datos significa que simplemente no existen.

A nivel mundial, la inteligencia artificial también representa un riesgo para el progreso realizado hacia la igualdad de género. Abundan las historias de sistemas de inteligencia artificial sesgados en contra de las mujeres y las minorías de género.

Es más, los sistemas de inteligencia artificial pueden depender de suposiciones y datos que excluyen o tergiversan a grupos que ya enfrentan formas múltiples e interrelacionadas de discriminación. Esto a menudo da como resultado resultados que reflejan y refuerzan las desigualdades y los prejuicios de género, raciales y capacitados.

Estos sistemas no están adecuadamente sujetos al tipo de riguroso control y regulación necesarios para mitigar los riesgos que plantean a la sociedad.

Tan significativa es esta amenaza que han surgido varios foros internacionales que apuestan por el desarrollo de una inteligencia artificial «buena», «ética» y «responsable».

Pero la mayoría de las iniciativas presentan soluciones técnicas a problemas sociales y políticos. Esto significa que se están desarrollando fuera del marco de los derechos humanos. También son en gran parte iniciativas del Norte global, con una participación limitada de múltiples partes interesadas del Sur global.

Un enfoque basado en los derechos

Existen marcos de datos basados ​​en derechos que informan el desarrollo de la inteligencia artificial. Estos incluyen el Reglamento general de protección de datos de la Unión Europea. Pero tienden a centrarse principalmente en los derechos fundamentales o de primera generación, como la privacidad. La privacidad se concibe en términos generales como un derecho individualizado. Puede que no siempre sea el valor principal en sociedades más centradas en la comunidad.

La pandemia de COVID-19 ha puesto de relieve la necesidad de que los datos se regulen en el interés colectivo o el bien común. Esto no significa que deba renunciarse al derecho a la privacidad.

El interés colectivo también se refiere a la gobernanza de los datos en el contexto de grupos o comunidades identificables donde la consecuencia potencial de la identificación individual da como resultado la exposición de la identidad colectiva.

La literatura y la práctica de la gobernanza de datos se han visto y emprendido principalmente desde esta perspectiva regulatoria negativa. En otras palabras, con un enfoque en el cumplimiento de la protección de datos y la ciberseguridad y las sanciones por infracciones.

Esta es una condición necesaria solo para la inteligencia artificial. Pero no es suficiente. Hay muchas áreas de la gobernanza de datos que requieren una intervención positiva. Los ejemplos incluyen permitir el acceso a los datos, su usabilidad e integridad si se trata de abordar cuestiones de inclusión, igualdad, reparación y justicia social.

Se trata de cuestiones que pueden entenderse como derechos sociales y económicos de segunda y tercera generación.

AI que respeta los derechos humanos

Para abordar estos problemas, se está lanzando un nuevo proyecto global al margen de la Cumbre por la Democracia.

La cumbre representa un foro internacional para promover compromisos en apoyo de la democracia y los derechos humanos. Su objetivo es evaluar el progreso de los países en el avance de la inteligencia artificial que respeta los derechos humanos y los valores democráticos.

El proyecto se conoce como el Índice Global de IA Responsable. Está dirigido por el centro de estudios digital africano Research ICT Africa y una red independiente de desarrollo de datos 4.

Los gobiernos y la comunidad internacional han comenzado a responder al llamado global por una inteligencia artificial responsable. En 2019, 42 países se adhirieron a los principios de la OCDE sobre IA confiable. Esto los compromete a garantizar que los sistemas de inteligencia artificial sean seguros, justos y confiables.

Más recientemente, la UNESCO desarrolló una Recomendación sobre la ética en la IA que fue adoptada por su 41ª Asamblea General. La recomendación se centra en la protección de los derechos y libertades fundamentales, la sostenibilidad ambiental y la diversidad.

El Índice Global aborda la necesidad de un estándar inclusivo y medible que complemente la comprensión en rápida evolución de lo que significa la inteligencia artificial responsable en la práctica. También fomenta y rastrea la implementación de los principios de gobernanza por parte de los actores relevantes.

El Índice Global hará un seguimiento de la implementación de los principios de la IA responsable en más de 120 países. Se establecerá una red internacional de investigadores independientes para evaluar en qué medida se están aplicando los principios. También recopilará datos primarios y secundarios sobre indicadores clave de inteligencia artificial responsable.

Esto equipará a los gobiernos, la sociedad civil, los investigadores y otras partes interesadas con la evidencia clave que necesitan para defender los principios de uso responsable en el desarrollo e implementación de sistemas de inteligencia artificial. La evidencia también se utilizará para:

• cumplir con las obligaciones de desarrollo y derechos humanos,
• desarrollar la capacidad para una IA responsable en todo el mundo, y
• profundizar la cooperación internacional.

El público y otras partes interesadas tendrán la oportunidad de ayudar a dar forma al diseño y alcance del Índice, que se desarrollará conscientemente a través de la lente del Sur global.

Su desarrollo representa una importante oportunidad para que los expertos del continente africano y del Sur Global estén a la vanguardia de la configuración de la nueva agenda global sobre el uso responsable y el desarrollo de la inteligencia artificial.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.