ChatGPT es Michael Jordan, pero en medicina el «elenco de apoyo» será clave

Hay un puñado de atletas cuyas habilidades extraordinarias trascienden los deportes, deslumbrando a otros profesionales y al espectador casual por igual con hazañas que superan lo que nadie creía posible.

ChatGPT es Michael Jordan. Excepto que cuando ChatGPT fabrica lo que parece ser información auténtica, es más como si «Air» Jordan fallara una volcada y, al mismo tiempo, pudiera cambiar el marcador oficial para mostrar que realmente sumó puntos.

ChatGPT presenta «enormes oportunidades y también riesgos increíbles», reconoció Peter Lee, vicepresidente corporativo de investigación e incubaciones de Microsoft, hablando en la feria de tecnología de la salud HIMSS en Chicago la semana pasada.

“Es misterioso, inspirador y frustrante”, agregó Lee, un científico informático consumado que trabajó con ChatGPT y el socio de Microsoft, OpenAI, durante seis meses antes de que el chatbot fuera lanzado al público. «Todavía hay misterios científicos profundos que estamos tratando de resolver».

Particularmente en medicina, donde la información precisa puede ser una cuestión de vida o muerte, los usos de ChatGPT requerirán una supervisión cuidadosa. Como escribí recientemente, un estudio de Stanford mostró que hacer que los médicos recurran al chatbot para una «consulta en la acera» sigue siendo imprudente, y GPT-4 está de acuerdo con lo que los investigadores dijeron que eran las respuestas correctas solo el 41 por ciento de las veces.

Sin embargo, a pesar de tanto que aún se desconoce, cada vez es más claro que la brillantez individual del chatbot necesitará el «elenco de apoyo» adecuado, como Jordan se refirió a los compañeros de equipo, para lograr su potencial de transformación en la medicina. “Hay decisiones que la comunidad de atención de la salud debe asumir”, advirtió Lee.

Algunas de esas decisiones ya están comenzando a surgir. Aunque GPT-4 aprobó el examen de licencia médica de EE. UU. con gran éxito (un médico me confió que obtuvo una mejor puntuación que él), «no quiere que tome decisiones, haga diagnósticos», dijo Erik Barnett, líder de práctica de asesoramiento digital. para Avanade, que es propiedad conjunta de Microsoft y Accenture.

“Necesitas gente”, agregó Barnett en una sesión de HIMSS. “Lo necesitas como compañero, como copiloto”.

Microsoft es muy consciente de la necesidad de tener manos humanas en el volante de la atención médica.

“Comencemos con casos de uso de alto impacto y bajo riesgo”, dijo el Dr. David Rhew, director médico global de Microsoft, a los asistentes a HIMSS.

Entonces, por ejemplo, eClinicalWorks anunció que está integrando ChatGPT con otra IA en su registro de salud electrónico (EHR) y soluciones de gestión de prácticas dirigidas al mercado médico para reducir la carga administrativa. De manera similar, el gigante de EHR Epic, cuyos clientes incluyen casi un tercio de los hospitales de cuidados intensivos de los EE. tiempo de atención clínica.

El Dr. Jackie Gerhart, vicepresidente de informática clínica de Epic, enfatizó en una entrevista que el médico debe revisar el borrador de la respuesta de la IA antes de que pueda enviarse al paciente. El médico tiene la opción de aprobar un borrador tal como está, hacer cambios o abrir un cuadro de texto en blanco y escribir una respuesta propia.

Además de que diferentes tipos de IA aprendan a trabajar juntos, otros roles de «elenco de apoyo» serán cruciales para garantizar la confiabilidad de la información, la ausencia de sesgos, la privacidad, la seguridad, la escalabilidad y otros factores importantes.

ChatGPT «puede salvar millones de vidas, pero ¿tiene una forma sistemática de evaluar los riesgos éticos para un caso de uso particular?» Andrew Moore, exvicepresidente de IA en Google Cloud y fundador de Lovelace AI, desafió a los asistentes de HIMSS. “No te detengas y esperes a ver qué pasa”.

Agregó Kay Firth-Butterfield, directora ejecutiva del Centro de Tecnología Confiable, parte del Foro Económico Mundial, «La cantidad de datos, la calidad de los datos y de dónde provienen son desafíos perniciosos que vamos a tener en el futuro.»

Ese futuro está llegando rápidamente, con gigantes tecnológicos como Amazon y Google que ya están probando sus propias ofertas de IA generativa. Como señaló un informe reciente de Accenture, la «capacidad de ChatGPT para imitar el diálogo humano nos ha dado el primer punto de inflexión verdadero de AI en la adopción pública». De hecho, la encuesta de la firma a ejecutivos que trabajan globalmente en 20 campos diferentes encontró que un asombroso 97 por ciento estuvo de acuerdo en que los «modelos básicos» como ChatGPT revolucionarán dónde y cómo se usa la IA.

Ese impacto mundial instantáneo tomó por sorpresa a quienes trabajaban más de cerca con ChatGPT. “Fue un completo shock para todos nosotros”, confesó Lee. “No teníamos idea de que a alguien le importaba”.

Microsoft estimó que habría 1 millón de usuarios. Unas pocas semanas después de la presentación de ChatGPT, había 100 millones de usuarios habituales y más de mil millones de visitas al sitio web.

Un artículo de 2021 en Revista IA abordó la idea de un juramento hipocrático para los científicos de IA. Pero david metcalfdirector de un laboratorio de integración de tecnología en la Institución de Simulación y Entrenamiento de la Universidad de Florida Central, sugirió un enfoque más simple, quizás más adecuado para el deporte de equipo acelerado del desarrollo y despliegue de IA.

Al notar el uso cada vez mayor de análisis de voz impulsados ​​por IA a través de chatbots como Siri y Alexa o a través de aplicaciones de teléfonos inteligentes, Metcalfe dijo que les dice a sus estudiantes: «Piensen en cada indicación y cómo se podría usar para crear perfiles». tú en el futuro.»

Esa perspectiva podría resultar crucial. ChatGPT «es algo único en la vida» que incluso los expertos todavía tienen dificultades para entender, dijo Barnett en una entrevista. Pero incluso mientras lo hacen, “esto va a cambiar el mundo”.