El Technology Policy Council (TPC) global de la Association for Computing Machinery ha publicado una nueva Declaración sobre principios para sistemas algorítmicos responsables redactada conjuntamente por los Comités de política tecnológica de EE. UU. (USTPC) y Europa (Europe TPC). Reconociendo que los gobiernos y las empresas utilizan cada vez más los sistemas algorítmicos para tomar o recomendar decisiones que tienen efectos de gran alcance en las personas, las organizaciones y la sociedad, la Declaración ACM establece nueve principios instrumentales destinados a fomentar la toma de decisiones algorítmica justa, precisa y beneficiosa. .
La declaración incluye una definición para cada principio, así como una breve explicación de cómo el principio contribuye al objetivo más amplio de construir sistemas algorítmicos responsables. Los nueve principios instrumentales incluyen: Legitimidad y Competencia; Minimizar el Daño; Seguridad y privacidad; Transparencia; Interpretabilidad y Explicabilidad; mantenibilidad; impugnabilidad y auditabilidad; rendición de cuentas y responsabilidad; y Limitación de Impactos Ambientales. La nueva declaración complementa el Código de ética de ACM y pretende ser una guía para que los desarrolladores y diseñadores de algoritmos permanezcan atentos al potencial de sesgo e injusticia en cada etapa del proceso de desarrollo de software.
“Nos basamos en nuestra Declaración de transparencia algorítmica y responsabilidad de 2017 con principios que instan a los diseñadores y desarrolladores a producir pruebas suficientes de la legitimidad y confiabilidad de los sistemas automatizados, para que los usuarios no tengan que depositar una confianza ciega en ellos”, explicó Jeanna Matthews. , profesor de la Universidad de Clarkson y coautor principal de la nueva Declaración. “Los procesos para recopilar y compartir esta información crítica de manera transparente a lo largo del ciclo de vida de un sistema son clave para la implementación responsable de sistemas algorítmicos en colaboración con todas las partes interesadas afectadas por un sistema”.
“Esta declaración mejora la primera en varios aspectos”, agregó Ricardo Baeza-Yates, profesor de la Universitat Pompeu Fabra y coautor principal de la nueva Declaración. “Incluimos dos nuevos principios instrumentales clave: legitimidad y competencia. Estos definen la validez de un sistema algorítmico así como la sostenibilidad que preocupa por nuestro futuro en la Tierra. También discutimos los aspectos de gobernanza, incluido cómo poner estos principios en práctica al dar una serie de ejemplos de compensaciones a considerar”.
Además de los nueve principios instrumentales, el Consejo de Políticas Tecnológicas de ACM reconoce que, a pesar de establecer un marco para desalentar el sesgo en los algoritmos, varios factores podrían producir sistemas injustos. Por estas razones, la Declaración de principios para sistemas algorítmicos responsables incluye cuatro recomendaciones que tienen en cuenta la forma en que se procesan los datos y cómo se implementa un sistema.
- Los constructores y operadores de sistemas deben adherirse a los mismos estándares en la selección de entradas o sistemas de arquitectura a los que se somete a los humanos al tomar decisiones equivalentes.
- Los desarrolladores de sistemas de IA deben realizar evaluaciones de impacto exhaustivas antes de la implementación de sistemas de IA
- Los formuladores de políticas deben exigir que se utilicen pistas de auditoría para lograr estándares más altos de precisión, transparencia y equidad.
- Los operadores de sistemas de IA deben ser considerados responsables de sus decisiones, independientemente de si se utilizan herramientas algorítmicas.
Los miembros del Consejo de política tecnológica de ACM también reconocen que un enfoque de «talla única» para lograr sistemas algorítmicos responsables sería ineficaz y que el contexto juega un papel importante en las decisiones de cada desarrollador. Los miembros de ACM TPC esperan que la Declaración sobre principios para sistemas algorítmicos responsables provoque debates entre todas las partes interesadas, inicie más investigaciones y ayude a los líderes a desarrollar métodos de gobernanza para brindar beneficios a una amplia gama de usuarios mientras promueve la confiabilidad, seguridad y responsabilidad de los algoritmos. sistemas
Acerca del Comité de Política Tecnológica de EE. UU. de ACM
El Comité de Políticas Tecnológicas de EE. UU. (USTPC) de ACM sirve como punto focal para la interacción de ACM con todas las ramas del gobierno de EE. UU., la comunidad informática y el público en asuntos de política relacionados con la tecnología de la información. El Comité educa e informa regularmente al Congreso, la Administración y los tribunales sobre los avances significativos en el campo de la computación y cómo esos desarrollos afectan la política pública en los Estados Unidos.
Regístrese para recibir el boletín gratuito insideBIGDATA.
Únase a nosotros en Twitter: https://twitter.com/InsideBigData1
Únase a nosotros en LinkedIn: https://www.linkedin.com/company/insidebigdata/
Únase a nosotros en Facebook: https://www.facebook.com/insideBIGDATANOW
