Auditoría de IA y sistemas autónomos; Construyendo una infraestructura de confianza

BLOG @ CACM

Por Ryan Carrier

1 de febrero de 2021
Comentarios

Pocos estarían en desacuerdo con la afirmación «Necesitamos poder confiar en nuestra inteligencia artificial y sistemas autónomos». Pero lograr esa confianza, en lugar de simplemente desearla, exige una comprensión de lo que es la confianza: cómo se logra, qué factores deben estar en su lugar para asegurarla. ¿Qué procesos, estándares, comportamientos (y responsabilidad) deben garantizarse para poder decir con seguridad: «Confío en esto»?

Este documento explora esas preguntas al delinear elementos clave para generar y preservar la confianza, luego explora cómo estos elementos se han aplicado y se aplican a una variedad de industrias y eventos históricos. También sugiere algunas soluciones para generar confianza en la inteligencia artificial y los sistemas autónomos. Soluciones en las que tenemos suficiente confianza y estamos comenzando a ponerlas en funcionamiento ahora.

A primera vista, Enron, el desastre de auditoría / contabilidad más famoso del mundo, podría resaltar el fracaso de la auditoría y señalar las dificultades que enfrenta cualquier intento de auditar la inteligencia artificial y los sistemas autónomos. Pero eso sería mirar y no ver realmente.

La gran mayoría de las auditorías no descubre desastres, fraudes a gran escala o actos ilícitos. De hecho, miles de entidades públicas son auditadas sin fanfarrias cada año. El caso Enron es un caso atípico del tipo más extremo, que, si se estudia correctamente y se concilia con el 99,99% de las auditorías regulares, puede informar qué estructuras correctas y robustas se necesitan para una #infraestructuradeconfianza. Al diseñar y crear una Auditoría Independiente de Sistemas de IA (IAAIS), ForHumanity ayudará a construir un sistema de confianza en nuestras IA y sistemas autónomos.

La confianza ha sido estudiada por muchos durante siglos y no existe un proceso universal y perfecto que la garantice. Entonces, en cambio, buscamos instancias de confianza asegurada y vemos qué elementos tienen en común. A continuación presentamos algunos de los elementos que consciente e inconscientemente se combinan para permitirnos confiar:

Previsibilidad (una creencia o percepción sobre la probabilidad de resultados futuros de una interacción)

Transparencia (acceso a información que permite la toma de decisiones, especialmente cambios de trayectorias actuales)
Comprensión (conciencia de un nivel suficiente de información y conocimiento para sentirse cómodo con una decisión o elección)
Controlar (poder que equivale a una sensación de estar a cargo y la creencia de que una decisión tiene múltiples opciones viables y beneficiosas)

Seguridad (protección contra daños: físicos, mentales, espirituales, económicos o emocionales)
Justicia (la creencia de que la interacción tiene un conjunto equilibrado de pros y contras para ambas / todas las partes)
Capital (la creencia de que la interacción de un individuo es comparable a la de otros con circunstancias similares)

Moralidad (la creencia de que la entidad o parte de confianza se preocupa por su impacto en nosotros o al menos no tiene la intención de dañar a las personas)

Cada uno de nosotros ‘confía’ de diferentes maneras. Dependiendo de la interacción en cuestión, atribuimos más o menos valor a estos atributos enumerados. Las interacciones monetarias pueden tener una puntuación más baja en la variable Moral y más alta en Equidad, mientras que la confianza en la conducción manual tiene una puntuación alta en Previsibilidad (si no, sería casi imposible compartir una carretera). Si queremos generar confianza en una #infraestructuradeconfianza que sirva a todas las personas, entonces todos estos elementos deben tenerse en cuenta de manera sólida.

Desde esta base, abordamos la IA y los sistemas autónomos. No tuvimos que empezar de cero: en nuestro ámbito había una #infraestructuradeconfianza existente con una trayectoria de casi 50 años: el sistema de Auditoría Independiente ya bien establecido en el mundo de la Información Financiera y la Contabilidad Financiera.

Tomamos las ‘Variables de confianza’ anteriores y las consideramos en relación con las tres partes clave (auditor, entidad que cumple, sociedad) involucradas en una auditoría financiera existente.

Previsibilidad
1. Un auditor externo examinará los números y las cuentas financieras, cada año, de manera casi idéntica. Sin perjuicio de los cambios en las reglas necesarias para mantener adecuadamente el sistema.
2. La entidad que cumple puede planificar el cumplimiento e incluso construir el cumplimiento por diseño. El Comité de Organizaciones Patrocinadoras del sistema de Controles y Riesgos Internos de la Comisión Treadway (COSO) se construyó sobre esta misma premisa.
3. La sociedad sabe lo que significa el cumplimiento. Puede anticipar cómo se tratarán los eventos habituales e inusuales, lo que hace que los resultados se puedan relacionar durante períodos de tiempo prolongados para evaluaciones valiosas.
Transparencia
1. Estas reglas están disponibles públicamente para el auditor y también se revisa el trabajo del auditor. El auditor puede participar, pero no controlar, cambios a esas reglas que puedan facilitar su capacidad para asegurar el cumplimiento.
2. La entidad que cumple conoce las reglas y tiene la capacidad de participar, pero no controlar, los cambios a esas reglas que pueden facilitar su capacidad para cumplir y representar con precisión su trabajo.
3. La sociedad conoce las reglas (incluso si una profesión especializada despliega en gran medida los resultados en su nombre) y tiene la capacidad de revisar el resultado. La sociedad tiene la capacidad de participar, pero no controlar, los cambios de esas reglas que pueden facilitar su capacidad para comprender la entidad y los resultados.

Comprensión
1. Comprender las diferentes profesiones requiere conocimientos sobre estos números y lo que significan. Esas explicaciones están ampliamente disponibles y se entregan de manera constante a todos los que buscan conocimientos sobre cómo auditar.
2. La entidad que cumple tiene el mismo conocimiento sobre cómo cumplir con la auditoría.
3. La sociedad comprende cómo se realizan las auditorías financieras, qué significa el cumplimiento y comprende el resultado.
Controlar
1. Un auditor externo tiene la responsabilidad completa y sin conflictos de asegurar el cumplimiento de las reglas y estándares; asegurar el cumplimiento queda a su entera discreción basándose en pruebas predefinidas y bien entendidas proporcionadas por la entidad que cumple.
2. La entidad que cumple reduce su propio riesgo y dicta la forma en que proporciona satisfacción de cumplimiento. La satisfacción del cumplimiento es bien conocida y entendida para evitar un cumplimiento fallido. El cumplimiento satisfactorio equivaldrá a garantía por parte del auditor.
3. La sociedad tiene un control más limitado aquí, excepto que se crea un circuito de retroalimentación vital cuando las reglas son establecidas por especialistas confiables de la industria. Si la sociedad no usa estos resultados (elección final), todo el sistema falla y se dobla sobre sí mismo. Mientras el sistema funcione de manera positiva, la sociedad continuará utilizando los productos y el sistema se repite.
Seguridad
1. El Auditor tiene la estructura contractual y el ‘poder’ para exigir la información requerida para asegurar el cumplimiento. Tienen el imprimatur para hacerlo porque no son los autores de las reglas. Tienen total transparencia a través de su contrato con la entidad conforme.
2. La entidad que cumple protege su propiedad intelectual del mundo entero, incluidos sus competidores. Es responsable de todos los aspectos del cumplimiento y toda la información, excepto las divulgaciones, maximizando la protección de esa información vis a vis omnibus transparencia. La entidad compatible maximiza la seguridad cumpliendo.
3. La sociedad se protege a sí misma estableciendo reglas que aumentan la transparencia, aumentan la gobernanza, la supervisión y los mecanismos de protección / seguridad para los seres humanos. Cuando las leyes se codifican en reglas de auditoría, logramos un cumplimiento proactivo en lugar del tradicional cumplimiento reactivo por cortesía de las leyes y el castigo.***

Justicia
1. Los auditores son independientes (término legal) y solo reciben una compensación proporcional por realizar auditorías. El Auditor tiene la responsabilidad de certificar el cumplimiento cuando la entidad cumplidora no lo haya obtenido y probado. Esto crea una «tensión» natural entre el auditor y la entidad que cumple, donde el auditor puede implicar efectivamente «probarlo» con respecto a los criterios de auditoría.
2. La entidad que cumple sabe si cumple y puede probar razonablemente el cumplimiento, entonces se producirá la seguridad. Los honorarios asociados con la auditoría no superan el beneficio económico del cumplimiento.
3. La sociedad se beneficia de un proceso sin conflictos y del apalancamiento proporcionado por una firma de auditoría que actúa como un representante imparcial para la verificación y aseguramiento de los informes financieros de una entidad. Actúa como «taquigrafía» para todos los miembros de la sociedad que realizan su propio trabajo.
Capital
1. Los auditores brindan la misma garantía para el mismo cumplimiento basado en un conjunto de reglas aceptadas de terceros (evitando el conflicto de intereses inherente de auditar sus propias reglas) y simplemente las están aplicando a cambio de un salario justo.
2. Todas las entidades que cumplen reciben la misma garantía por el mismo cumplimiento basado en un conjunto de reglas que no crearon y reciben notoriedad pública por cumplir con las reglas exigidas por la sociedad en igualdad de condiciones.
3. La sociedad establece un conjunto de reglas para todos. Un campo de juego equitativo de cumplimiento y garantía sobre un conjunto de reglas que tratan al individuo de manera justa frente a la entidad que cumple con la normativa durante el intercambio de bienes y servicios.
Moralidad
1. El Auditor entiende que actúa como representante de la sociedad y tiene el deber de velar por asegurar el cumplimiento cuando existe y retener la garantía cuando no se logra el cumplimiento.
2. La entidad que cumple cumple voluntariamente con las reglas sociales a cambio del derecho a obtener ganancias o el derecho a continuar entregando sus bienes y servicios.
3. La sociedad crea reglas y procesos que satisfacen sus necesidades de confianza, equilibrados con las necesidades económicas de la capacidad de la entidad que cumple para entregar sus bienes y servicios de manera rentable o exitosa.

Utilizando el marco de confianza derivado de la contabilidad financiera, es instructivo examinar una falla monstruosa del sistema para comprender las formas en que fue manipulado. Este gigantesco fraude fue facilitado por fallas fundamentales de la infraestructura (ahora rectificada).

La historia de Enron

Antes de 2001, Enron empleaba aproximadamente a 29.000 personas y era una importante empresa de electricidad, gas natural, comunicaciones, pulpa y papel, con ingresos declarados de casi $ 101 mil millones durante 2000.¹Fortuna nombró a Enron «la empresa más innovadora de Estados Unidos» durante seis años consecutivos. Su capitalización bursátil alcanzó un máximo de alrededor de $ 11 mil millones. El auditor de Enron fue Arthur Anderson. Después de que se descubrió el escándalo, toda esa equidad fue destruida.

En la siguiente sección volvemos a los elementos del marco de confianza y mapeamos el escándalo de Enron contra cada uno. Aquí, omitiremos el papel de una de las tres partes clave. – Sociedad – porque no es descabellado concluir que la sociedad fue universal y completamente descuidada y posteriormente perjudicada por este fraude y malversación. Más adelante, abordamos el papel del fraude y la mala conducta en este sistema.

Previsibilidad
1. Un auditor externo examinará los números y las cuentas financieras, cada año, de manera casi idéntica. Sin perjuicio de los cambios en las reglas necesarias para mantener adecuadamente el sistema.
2. La entidad que cumple puede planificar el cumplimiento e incluso construir el cumplimiento por diseño. El Comité de Organizaciones Patrocinadoras del sistema de Controles y Riesgos Internos de la Comisión Treadway (COSO) se construyó sobre esta misma premisa.

Enron y Arthur Anderson conspiraron para usar esta previsibilidad contra la sociedad. Manipularon las reglas, maximizaron las lagunas y adaptaron los contratos y las funciones comerciales para que encajaran en esas lagunas. Se requirió la colusión y la comunicación para maximizar estas manipulaciones de la previsibilidad.

Transparencia
1. Las reglas están disponibles públicamente para el auditor y también se revisa el trabajo del auditor. El auditor puede participar, pero no controlar, cambios a esas reglas que puedan facilitar su capacidad para asegurar el cumplimiento.
2. La entidad que cumple conoce las reglas y tiene la capacidad de participar, pero no controlar, los cambios a esas reglas que pueden facilitar su capacidad para cumplir y representar con precisión su trabajo.

Como resultado de la colusión entre las dos entidades, se manipuló la aplicación de las reglas. La claridad de las reglas se utilizó contra el sistema para aprovechar las lagunas. Esto solo fue posible porque se vio comprometida la independencia del auditor.

Comprensión
1. Comprender las diferentes profesiones requiere conocimientos sobre estos números y lo que significan. Esas explicaciones están ampliamente disponibles y se entregan de manera constante a todos los que buscan conocimientos sobre cómo auditar.
2. La entidad que cumple tiene el mismo conocimiento sobre cómo cumplir con la auditoría.

En la historia de Enron se utilizó la experiencia «especializada» y de la industria contra la sociedad. Un escrutinio insuficiente condujo a estas manipulaciones. Sin embargo, esta experiencia especializada y de la industria, en forma de inversores y analistas sofisticados que estudian los requisitos de divulgación y transparencia, finalmente denunció el fraude y se iniciaron las investigaciones. La comprensión sigue siendo clave y cuanto más general se haga, mayor será la defensa contra el fraude y la mala conducta.

Controlar
1. Un auditor externo tiene la responsabilidad completa y sin conflictos de asegurar el cumplimiento de las reglas y estándares; Asegurar el cumplimiento queda a su entera discreción en base a pruebas predefinidas y bien entendidas proporcionadas por la entidad que cumple
2. La entidad que cumple reduce su propio riesgo y dicta la forma en que proporciona satisfacción de cumplimiento. La satisfacción del cumplimiento es bien conocida y entendida para evitar un cumplimiento fallido. El cumplimiento satisfactorio equivaldrá a garantía por parte del auditor.

Arthur Anderson estaba completamente comprometido en su papel: pagado como consultor, asesor y auditor significaba que su independencia para actuar en el mejor interés del proceso de auditoría era imposible. Esta falla fue rectificada por la Ley Sarbanes-Oxley (2002), aprobada en respuesta directa a este incidente. Más adelante, destacamos cómo esta ley corrigió deficiencias clave en la infraestructura que resultaron en este fraude. Enron ejerció el control manipulando su contabilidad para magnificar las ganancias y otros activos relacionados, haciendo que la empresa pareciera más valiosa de lo que hubiera parecido bajo las prácticas contables estándar.

Seguridad
1. El Auditor tiene toda la información que necesita para asegurar el cumplimiento y necesita asegurar el cumplimiento hasta que esté satisfecho. Tienen la autoridad para solicitar toda la información relevante y el imprimatur para hacerlo porque no son los autores de las reglas. Se benefician de la total transparencia a través de su contrato con la entidad conforme.
2. La entidad que cumple protege su propiedad intelectual de la transparencia total para todo el mundo, incluidos sus competidores. Es responsable de todos los aspectos del cumplimiento y toda la información, excepto las divulgaciones, maximizando la protección de esa información vis a vis omnibus transparencia. La entidad compatible maximiza la seguridad cumpliendo.

Al violar el principio de independencia, el auditor coludido y la entidad cumplidora conspiraron para manipular las prácticas contables. Trabajaron activamente juntos para convertir números y cuentas en expresiones beneficiosas en los informes públicos. La seguridad nunca estuvo en riesgo para ninguna de las empresas porque trabajaron juntas para gestionar el riesgo. Sin embargo, el daño a la sociedad fue monumental ya que muchos empleados e inversores perdieron todas sus inversiones.

Justicia
1. Los auditores son independientes (término legal) y solo reciben una compensación proporcional por realizar auditorías. El auditor tiene la responsabilidad de certificar el cumplimiento cuando la entidad cumplidora no lo gane y lo pruebe. Esto crea una «tensión» natural entre el auditor y la entidad cumplidora en la que el auditor puede implicar efectivamente «probarlo» con respecto a los criterios de auditoría.
2. La entidad que cumple sabe si cumple y puede probar razonablemente el cumplimiento, entonces se producirá la seguridad. Los honorarios asociados con la auditoría no superan el beneficio económico del cumplimiento

Durante 2000, Andersen ganó $ 25 millones en honorarios de auditoría y $ 27 millones en honorarios de consultoría solo de Enron. Bajo tal arreglo, es difícil ver cómo se puede esperar que un auditor niegue el cumplimiento. Además, ese cumplimiento lo dicta él mismo y sus propias acciones. Hacer coincidir su auditoría con el asesoramiento brindado para el cumplimiento de la auditoría. Para Enron, no existía una tensión natural entre él y su auditor. – no había nada que «probar» – la prueba a menudo fue construida por el auditor.

Capital
1. Los auditores brindan la misma garantía para el mismo cumplimiento basado en un conjunto de reglas aceptadas de terceros (evitando el conflicto de intereses inherente de auditar sus propias reglas) y simplemente las están aplicando a cambio de un salario justo.
2. Todas las entidades que cumplen reciben la misma garantía por el mismo cumplimiento basado en un conjunto de reglas que no crearon y reciben notoriedad pública por cumplir con las reglas exigidas por la sociedad en igualdad de condiciones.

Arthur Anderson conspiró con altos ejecutivos de Enron, proporcionando vehículos de propósito especial (SPV) y tratamientos contables inusuales en comparación con el resto del mercado. El auditor brindó un trato especial. Enron desarrolló soluciones no estándar e intrínsecamente conflictivas (como la creación de SPV) y la ejecución de coberturas consigo mismo. Lo contrario de la equidad.

Moralidad
1. El Auditor entiende que actúa como representante de la sociedad y tiene el deber de velar por asegurar el cumplimiento cuando existe y retener la garantía cuando no se logra el cumplimiento.
2. La entidad que cumple cumple voluntariamente con las reglas sociales a cambio del derecho a obtener ganancias o el derecho a continuar entregando sus bienes y servicios.

Arthur Anderson no se comportó como un representante de la sociedad. No consideró las consecuencias y el riesgo para las personas, en particular los empleados. – muchos de los cuales perdieron todo, desde pensiones hasta 401k y empleos. Enron subvirtió intencionalmente las reglas, las regulaciones y la transparencia para aumentar las ganancias. Lo opuesto al comportamiento moral.

Es importante señalar aquí que el fraude y la mala conducta – perpetrado por malos actores – SIEMPRE derrotará a un sistema transparente. Es imposible construir un conjunto transparente de reglas sin – por inadvertencia – Explicando a los malos actores cómo vencerlos. Más bien, cree el sistema para el cumplimiento voluntario, para entidades que quieran perpetuar el cumplimiento. Los malos actores eventualmente serán capturados y despedidos, cuando la ley, el castigo y los mercados terminen con ellos. La divulgación, la transparencia, los controles y equilibrios, la prohibición de los conflictos de intereses y los esquemas de incentivos sólidos disuadirán a la mayoría de los malos actores, pero ningún sistema es infalible y este tampoco lo es.

Parafraseando a Sarbanes-Oxley, aprobada para definir legalmente la «independencia»:

Si audita, no podrá recibir ningún otro beneficio positivo de una relación con el auditado. Si proporciona un servicio, consulta o ayuda a un cliente a preparar o cumplir con una auditoría, entonces no puede ser el auditor. Finalmente, si audita o atiende a un cliente, debe usar un tercero para establecer reglas de auditoría

Esta ley, combinada con el sistema que proponemos, tiene buenas posibilidades de establecer una #infraestructuradeconfianza para nuestras IA y sistemas autónomos.

Para finalizar, damos un último paseo a través de nuestro dispositivo de confianza, esta vez mapeando la Auditoría Independiente de Sistemas de IA en su contra. – con un párrafo de resumen después de cada sección y tachado que indique un cambio de auditoría financiera:

Previsibilidad
1. Un auditor externo examinará Criterios de auditoría de IA, cada año, de una manera casi idéntica. Sin perjuicio de los cambios en las reglas necesarias para mantener adecuadamente el sistema.
2. La entidad que cumple puede planificar el cumplimiento e incluso construir el cumplimiento por diseño. El Comité de Organizaciones Patrocinadoras del sistema de Controles y Riesgos Internos de la Comisión Treadway (COSO) deberá adaptarse a estas auditorías.
3. La sociedad sabe lo que significa el cumplimiento. Puede anticipar cómo se tratarán los eventos habituales e inusuales, lo que hace que los resultados se puedan relacionar durante períodos de tiempo prolongados para evaluaciones valiosas.

ForHumanity ha desarrollado un proceso y está ampliando los criterios de auditoría para todas las IA y los sistemas autónomos que afectan a los humanos (ya hay más de 3.400 líneas de auditoría). Estas reglas estarán disponibles públicamente a medida que las aprueben los reguladores de todo el mundo. Las empresas y los auditores sabrán exactamente cuáles serán los criterios de cumplimiento que se animarán a participar en el proceso de desarrollo. Este mercado es más dinámico que el de la legislación fiscal y la contabilidad financiera, por lo que los procesos deben repetirse periódicamente. Se permitirá un período de tiempo razonable para cumplir con las reglas recientemente adoptadas.

Transparencia
1. Estas reglas están disponibles públicamente para el auditor y también se revisa el trabajo del auditor. El auditor puede participar, pero no controlar, cambios a esas reglas que puedan facilitar su capacidad para asegurar el cumplimiento.
2. La entidad que cumple conoce las reglas y tiene la capacidad de participar, pero no controlar, los cambios a esas reglas que pueden facilitar su capacidad para cumplir y representar con precisión su trabajo.
3. La sociedad conoce las reglas (incluso si una profesión especializada despliega en gran medida los resultados en su nombre) y tiene la capacidad de revisar el resultado. La sociedad tiene la capacidad de participar, pero no controlar, los cambios de esas reglas que pueden facilitar su capacidad para comprender la entidad y los resultados.

ForHumanity opera un proceso totalmente inclusivo para desarrollar las reglas. Es de colaboración abierta, iterado y transparente. Todos pueden participar en la redacción de criterios de auditoría en las áreas de Ética, Sesgo, Privacidad, Confianza y Ciberseguridad. Todas las firmas calificadas tendrán licencia para auditar o brindar servicios de cumplimiento. Los únicos requisitos para participar en el proceso de redacción de la auditoría de ForHumanity son un mecanismo de contacto (como el correo electrónico) y la voluntad de firmar nuestro código de conducta pidiendo a los humanos que actúen respetuosamente con otros humanos durante el proceso.

Comprensión
1. Comprender las diferentes profesiones requiere experiencia en estas criterios y lo que significan. Esas explicaciones están ampliamente disponibles y se entregan de manera constante a todos los que buscan conocimientos sobre cómo auditar.
2. La entidad que cumple tiene el mismo conocimiento sobre cómo cumplir con la auditoría.
3. La sociedad entiende como ~~Financiero~~ Se llevan a cabo auditorías de IA, qué significa el cumplimiento y se entiende el resultado.

Si bien la auditoría de IA y sistemas autónomos sigue en su infancia, ForHumanity ha lanzado objetivos de formación y aprendizaje – disponible para todos los que quieran aprender a auditar utilizando nuestros esquemas de certificación aprobados. Las personas pueden aprender a ejecutar estas auditorías y aprobar un examen para auditar o crear sistemas diseñados para facilitar el cumplimiento de las auditorías.

Controlar
1. Un auditor externo tiene la responsabilidad completa y sin conflictos de asegurar el cumplimiento de las reglas y estándares; asegurar el cumplimiento queda a su entera discreción basándose en pruebas predefinidas y bien entendidas proporcionadas por la entidad que cumple.
2. La entidad que cumple reduce su propio riesgo y dicta la forma en que proporciona satisfacción de cumplimiento. La satisfacción del cumplimiento es bien conocida y entendida para evitar un cumplimiento fallido. El cumplimiento satisfactorio equivaldrá a garantía por parte del auditor.
3. La sociedad tiene más control aquí, individuos no afiliados, cuya misión se dedica exclusivamente a mitigar el riesgo para la sociedad, están redactando las reglas. Si la sociedad no usa estos resultados (elección final), todo el sistema falla y se dobla sobre sí mismo. Mientras el sistema funcione de manera positiva, la sociedad continuará utilizando los productos y el sistema se repite.

El aseguramiento del cumplimiento permanece únicamente en el dominio del auditor – idéntica a la auditoría financiera. Gracias a nuestra experiencia colaborativa, las personas pueden participar en el proceso de redacción tanto o tan poco como deseen. Todos son bienvenidos dentro de ForHumanity; agradecemos su perspectiva, sabiduría, cultura y su pasión por construir sistemas autónomos y IA confiables. Marcarás la diferencia. Una palabra, una definición, una línea de auditoría mejorada marcarán la diferencia. La ubicuidad de los sistemas de IA requiere todas las perspectivas para que funcione para todos, en todas partes.

Seguridad
1. El Auditor tiene la estructura contractual y el ‘poder’ para exigir la información requerida para asegurar el cumplimiento. Tienen el imprimatur para hacerlo porque no son los autores de las reglas. Tienen total transparencia a través de su contrato con la entidad conforme.
2. La entidad que cumple protege su propiedad intelectual del mundo entero, incluidos sus competidores. Es responsable de todos los aspectos del cumplimiento y toda la información, excepto las divulgaciones, maximizando la protección de esa información vis a vis omnibus transparencia. La entidad compatible maximiza la seguridad cumpliendo.
3. La sociedad se protege a sí misma estableciendo reglas que aumentan la transparencia, aumentan la gobernanza, la supervisión y los mecanismos de protección / seguridad para los seres humanos. Cuando las leyes se codifican en reglas de auditoría, logramos un cumplimiento proactivo en lugar del tradicional cumplimiento reactivo por cortesía de las leyes y el castigo.***

La auditoría independiente de los sistemas de IA no proporcionará la máxima seguridad: todos los sistemas transparentes están a merced de los malos actores. Sin embargo, combinado con las leyes de independencia, los controles y contrapesos, la supervisión, la gobernanza, las divulgaciones, la transparencia y el sólido proceso de auditoría, introduce un nivel de seguridad sustancialmente mayor para nuestras IA y sistemas autónomos, ciertamente por encima de nuestro actual, libre para todos.

Justicia
1. Los auditores son independientes (término legal) y solo reciben una compensación proporcional por realizar auditorías. El Auditor tiene la responsabilidad de certificar el cumplimiento cuando la entidad cumplidora no lo haya obtenido y probado.
2. La entidad que cumple sabe que si cumple y puede probar razonablemente el cumplimiento, se producirá la seguridad. Los honorarios asociados con la auditoría no superan el beneficio económico del cumplimiento.
3. La sociedad se beneficia de un proceso sin conflictos y del apalancamiento proporcionado por una firma de auditoría que actúa como un representante imparcial para la verificación y aseguramiento de los informes financieros de una entidad. Actúa como «taquigrafía» para todos los miembros de la sociedad que realizan su propio trabajo.

Esta sección no ha cambiado y expresa exactamente cómo la Auditoría Independiente de Sistemas de IA mantiene la equidad. ForHumanity tiene una ventaja sobre la contabilidad financiera: hemos incluido la estructura legal de independencia Sarbanes-Oxley en nuestro contrato de licencia para garantizar la equidad e independencia en el sistema de auditoría.

Capital
1. Los auditores brindan la misma garantía para el mismo cumplimiento basado en un conjunto de reglas aceptadas de terceros (evitando el conflicto de intereses inherente de auditar sus propias reglas) y simplemente las están aplicando a cambio de un salario justo.
2. Todas las entidades que cumplen reciben la misma garantía por el mismo cumplimiento basado en un conjunto de reglas que no crearon y reciben notoriedad pública por cumplir con las reglas exigidas por la sociedad en igualdad de condiciones.
3. La sociedad establece un conjunto de reglas para todos. Un campo de juego equitativo de cumplimiento y garantía sobre un conjunto de reglas que tratan al individuo de manera justa frente a la entidad que cumple con la normativa durante el intercambio de bienes y servicios.

ForHumanity es una organización sin fines de lucro cuya misión se dedica a mitigar el riesgo para los humanos de las IA y los sistemas autónomos, por lo que nuestro enfoque es la equidad para las personas y no para los auditores y las entidades que cumplen. Sin embargo, un sistema que no considere el impacto económico del cumplimiento de la auditoría para las entidades en cumplimiento y su capacidad para entregar bienes y servicios o el impacto práctico sobre los auditores y su capacidad para lograr una seguridad satisfactoria de que una entidad cumple, haría que el sistema fuera inútil. La equidad existe en ese equilibrio, pero en este equilibrio y esta estructura existe un sistema para llevar una #infraestructuradeconfianza a las personas.

Moralidad
1. El Auditor entiende que actúa como representante de la sociedad y tiene el deber de velar por asegurar el cumplimiento cuando existe y retener la garantía cuando no se logra el cumplimiento.
2. La entidad que cumple cumple voluntariamente con las reglas sociales a cambio del derecho a obtener ganancias o el derecho a continuar entregando sus bienes y servicios.
3. La sociedad crea reglas y procesos que satisfacen sus necesidades de confianza, equilibrados con las necesidades económicas de la capacidad de la entidad que cumple para entregar sus bienes y servicios de manera rentable o exitosa.

Las IA y los sistemas autónomos facilitan un mayor nivel de inclusión humana y personal en el procesamiento real. En las transacciones financieras, solo fluyen los números. Aquí, los datos, que a menudo son representativos de OMS somos, fluye a través del proceso. Nuestra privacidad está en juego, muchos de nuestros prejuicios están codificados en los sistemas; algunas de nuestras decisiones éticas se abdican a estos sistemas. El trabajo de Auditoría Independiente de Sistemas de Inteligencia Artificial se esfuerza por mitigar el riesgo de sesgo y descubrir la ética incorporada en los sistemas. Estas mitigaciones se logran mediante los criterios de certificación. Los criterios requieren divulgación, transparencia y explicabilidad para que podamos continuar aumentando nuestra conciencia de sesgos implícitos, decisiones éticas implícitas, riesgos para la privacidad, posibles problemas de confianza y áreas de seguridad insuficiente para estos sistemas. De esta manera aumentamos nuestra capacidad para rectificar estas deficiencias y continuamos mitigando el riesgo para los humanos.

Ningún sistema es perfecto, no hay ilusiones aquí entre los Colaboradores y Becarios de ForHumanity. Nosotros, colectivamente, creemos que la Auditoría Independiente de Sistemas de Inteligencia Artificial brinda nuestra mejor oportunidad para construir un proceso dinámico, con barreras de seguridad sólidas, reglas transparentes y centradas en el ser humano diseñadas para crecer, cambiar y adaptarse a un mercado extremadamente dinámico. Creemos que este es el mejor plan para establecer una #infraestructuradeconfianza para todas nuestras IA y sistemas autónomos. Si está de acuerdo, únase a nosotros y ayude. Si no estás de acuerdo, únete a nosotros y haznos mejores porque al final, somos ForHumanity y estamos seguros de que tú también lo eres.

Acerca de ForHumanity

Por la humanidad es una organización benéfica pública 501 (c) (3) exenta de impuestos formada para examinar y analizar los riesgos negativos asociados con el avance omnipresente de la inteligencia artificial y la automatización. Con este fin, nos involucramos en el control y la mitigación de riesgos y desplegamos la lente y el filtro de Ética, Prejuicio, Privacidad, Confianza y Ciberseguridad para asegurar el resultado óptimo… Para la Humanidad.

ForHumanity es un grupo interdisciplinario de voluntarios expertos dedicados, con más de 200 colaboradores y 30 becarios. Su experiencia colectiva abarca el campo de la IA, desde la ética hasta el riesgo algorítmico y la seguridad. Nuestro equipo proviene de los sectores académico, legal, político, corporativo y público de más de 35 países de todo el mundo. Nuestra misión es ayudar a crear una ‘infraestructura de confianza’ para todos los sistemas autónomos que impactan directamente a los humanos.

ForHumanity redacta reglas y estándares de auditoría completos, pragmáticos e implementables para sistemas autónomos en todos los rincones de la economía. Nuestros expertos colaboran con los profesionales de la industria para garantizar que estas auditorías logren nuestra misión de mitigar el riesgo de IA para los humanos. Este sistema de reglas y estándares de auditoría, adaptado a las leyes y regulaciones jurisdiccionales locales, se denomina Auditoría independiente de sistemas de inteligencia artificial. (IAAIS).

*** Las leyes son reactivas. Están diseñados para disuadir a los posibles malhechores y castigar a los delincuentes; sin embargo, no evitan que las personas resulten heridas. When ForHumanity talks about the word «audit,» we do not think of simply a detailed/deep examination of financial records, accounts, or mechanisms. While this form of the word is the common understanding of audit, there is a bigger «audit» and that is the one we refer to here. Audit, when it codifies the law (such as GAAP and IFRS codifying tax law or ForHumanity codifying GDPR on behalf of the Internet Commissioner’s Office), audit becomes a proactive application of the law. When audits are mandated by law (such is the case for most publicly traded companies), then compliance with the law happens before people are hurt, before laws are broken. Knowing an independent third party will be examining your compliance has a way of increasing adherence to the law. When audit rules are drafted to codify existing law, it is a more proactive application of the law and more protective of people.

Referencias

1) https://archive.fortune.com/magazines/fortune/fortune500_archive/snapshots/2001/478.html

Ryan Carrier is executive director of ForHumanity, a non-profit organization created to examine and mitigate the downside risks associated with Artificial Intelligence and Automation. Independent Audit of AI Systems is one such risk mitigation tool.

No entries found