Una nueva iniciativa de DARPA tiene como objetivo, en última instancia, dar a los sistemas de IA las mismas capacidades de toma de decisiones rápidas y complejas que el personal médico militar y los cirujanos de trauma que están en el campo de batalla.
El programa In the Moment (ITM), que en este momento está solicitando propuestas de investigación, tiene como objetivo desarrollar las bases de modelos expertos de aprendizaje automático que puedan tomar decisiones de juicio difíciles, donde no hay una respuesta correcta, en las que los humanos puedan confiar. Este estudio podría conducir al despliegue de algoritmos que pueden ayudar a los médicos y otro personal a tomar decisiones difíciles en momentos de vida o muerte.
«Las misiones del Departamento de Defensa implican tomar muchas decisiones rápidamente en circunstancias desafiantes y los sistemas algorítmicos de toma de decisiones podrían abordar y aligerar esta carga en los operadores… ITM busca desarrollar técnicas que permitan construir, evaluar y enviar tomadores de decisiones algorítmicos confiables para operaciones del Departamento de Defensa de misión crítica. donde no hay una respuesta correcta y, en consecuencia, la verdad fundamental no existe», dijo DARPA.
El meollo de este problema es que este tipo de sistemas de IA necesitan ser entrenados incluso cuando no hay una verdad sobre el terreno o un consenso entre los expertos. Los generales pueden estar en desacuerdo sobre cómo debe desarrollarse exactamente una confrontación entre dos unidades opuestas. Los médicos pueden tener diferentes opiniones sobre cómo tratar a alguien. Enseñar al software de aprendizaje automático cómo descubrir el mejor curso de acción desde estas posturas no es obvio, y lo que ITM parece estar configurado para abordar.
Como dijo DARPA:
En un nivel práctico, el programa se centra en el tratamiento médico en el campo y tiene dos fases: la primera parte involucra el triaje de unidades pequeñas y la segunda parte es el triaje que involucra víctimas masivas.
Matt Turek, gerente de programa de ITM, dijo que el plan es que un tomador de decisiones algorítmico y expertos humanos elijan cómo actuar en una situación. Esas decisiones se entregan a ciegas a un grupo de profesionales de triaje, quienes luego tienen que decir en cuál de los tomadores de decisiones delegarían.
Esa es solo la fase de prueba. En última instancia, ITM tiene como objetivo sacar a los humanos del circuito de toma de decisiones mediante la creación de IA en las que las personas confíen para tomar el mismo tipo de decisiones que tomaría un experto.
Confiar en la IA en una zona de guerra
El primer caso de uso, la clasificación en una situación de campo de una unidad pequeña, podría permitir a los soldados no capacitados realizar la clasificación y aplicar medicina traumatológica siguiendo a una IA entrenada para tomar el mismo tipo de decisiones que un grupo de médicos de campo. Esa es una gran ventaja potencial para el soldado promedio, que a menudo está en la posición de ser el único disponible para clasificar y tratar lesiones graves durante las operaciones.
El segundo caso puede ser más difícil de vender para los cirujanos expertos, los médicos o cualquier otra persona cuya capacidad de toma de decisiones pueda aumentar gracias a la IA. Bajo ITM, DARPA dijo que los tomadores de decisiones de triaje autónomos podrían «ajustarse a un comandante de unidad en particular», como un cirujano de trauma que «probablemente sería responsable de las decisiones tomadas dentro de [their hospital unit]incluidos los de cualquier sistema autonómico.”
DARPA dijo que quiere que sus socios de investigación comiencen su trabajo en octubre de 2022 y planea trabajar en cuatro áreas técnicas en el transcurso de los próximos tres años y medio:
- Desarrollar técnicas que una IA pueda usar para identificar y cuantificar atributos clave para la toma de decisiones en situaciones difíciles
- Cree un sistema de puntuación de alineación que pueda predecir la confianza del usuario final
- Diseño y ejecución de un programa de evaluación para las dos primeras etapas
- Integración de políticas y prácticas, incluida la investigación legal, moral y ética de la tecnología.
DARPA ha sido la fuente de muchas piezas de tecnología de consumo y no tiene planes de que el software quede bloqueado detrás de las puertas del gobierno. En cambio, promete hacer que la tecnología de ITM esté «tan ampliamente disponible y reutilizada como sea posible».
Alienta a cualquiera que solicite participar en ITM a adoptar un modelo IP de código abierto de derechos ilimitados, y dijo que cualquiera que no ofrezca derechos ilimitados tendrá que presentar un caso convincente de por qué. ®
