Este hospital infantil está integrando la IA con la atención médica

Si bien los hospitales están acostumbrados a lidiar con la mayoría de las cosas virales, ya están comenzando a estudiar un tipo de fenómeno viral completamente nuevo: la IA generativa en el lugar de trabajo.

Las instalaciones de atención médica de alto nivel como el Boston Children's Hospital, conectadas como están con las principales instituciones de investigación, son algunas de las operaciones de atención al cliente más destacadas en la industria de la atención médica.

Y dado que la atención médica representa alrededor del 18 por ciento del PIB de EE. UU., por supuesto que estas organizaciones querrán aprovechar la última tecnología que promete una revolución en la productividad.

El Boston Children's Hospital, constantemente clasificado entre los mejores hospitales para niños en los EE. UU., emplea a un "director de innovación", John Brownstein, un epidemiólogo que dirige una división llamada Innovation & Digital Health Accelerator. El trabajo anterior de Brownstein que combina tecnología y salud incluye la creación de un sitio llamado "Flu Near You", que se reutilizó durante los primeros días de la pandemia como "Covid Near You" por razones obvias, según New York Times Magazine. Todavía existe en una forma más general como "Brotes cerca de mí". Es un sitio web inquietantemente útil para rastrear patógenos.

Y ahora Brownstein está dirigiendo su atención a la IA.

Lo primero es lo primero, según Brownstein: desde su punto de vista, no hay necesidad de despedir a nadie solo porque la IA está invadiendo la atención médica. "Esto no pretende ser un reemplazo del ser humano", dijo Brownstein a Mashable en una entrevista en abril. "Esto es un aumento. Así que siempre hay un humano en el circuito".

VEA TAMBIÉN: Qué no compartir con ChatGPT si lo usa para el trabajo

En abril, cuando la ingeniería rápida se convirtió en un nuevo trabajo tecnológico que despertó mucha expectación, Boston Children's hizo una señal al público sobre el hecho de que el cambio estaba en marcha cuando publicó un anuncio de trabajo en busca de un ingeniero rápido propio. En otras palabras, el hospital estaba contratando a un especialista para entrenar modelos de lenguaje de IA que pueden mejorar las operaciones del hospital y, en teoría, se supone que esta persona mejorará las condiciones del personal del hospital.

Según Brownstein, eso se debe a que su departamento tiene una directiva para reducir el "agotamiento de los proveedores". Boston Children's tiene lo que él llamó "un equipo interno que desarrolla tecnología". Su trabajo, explicó, es ubicar lugares en "el mundo del trabajo" donde la tecnología puede desempeñar un papel, pero aún no lo es. Literalmente se sientan en "puntos de dolor" dentro del Boston Children's Hospital e idean formas de aliviar el dolor.

Lo que esto significa en la práctica es un poco alucinante.

Un "punto doloroso" en cualquier hospital es dirigir a los pacientes del punto A al punto B, un ejercicio difícil de comunicación que puede incluir obstáculos como confusión debido a una enfermedad o estrés, o barreras del idioma. "Ya fuera de la puerta, podemos consultar ChatGPT con preguntas sobre cómo navegar por nuestro hospital", dijo Brownstein. "Es realmente impactante, lo que están produciendo sin ninguna cantidad de entrenamiento de nuestra parte". ChatGPT, y no una versión futura sino a la que ya tiene acceso, puede decirle cómo moverse "no solo en nuestro hospital, sino en cualquier hospital", según Brownstein.

Entonces, es más que realista imaginar un quiosco de máquinas donde los pacientes puedan recibir respuestas útiles a preguntas como, ofreció Brownstein, "¿Dónde puedo orar?" Y probablemente también sea la esperanza de muchos trabajadores de la salud que no tengan que ser detenidos en seco con preguntas como esa. No todo el mundo es una persona de personas.

Pero Brownstein también tiene ideas sobre nuevas formas en que los proveedores pueden usar los datos de los pacientes gracias a la IA.

La idea de que la IA participará en el procesamiento de datos reales de pacientes encendió las alarmas de Mildred Cho, profesora de pediatría en el Centro de Ética Biomédica de Stanford. Después de revisar el anuncio de trabajo de ingeniero rápido, le dijo a Mashable: "Lo que me llama la atención es que las calificaciones se centran en la informática y la experiencia en codificación y solo en el 'conocimiento de las metodologías de investigación de atención médica', mientras que las tareas incluyen evaluar el rendimiento de los avisos de IA. "

"Para comprender realmente si los resultados de los modelos de lenguaje grande son válidos para los altos estándares necesarios para la atención médica, un evaluador necesitaría tener una base de conocimientos de medicina mucho más matizada y sofisticada y también un conocimiento práctico de los sistemas de prestación de atención médica y las limitaciones. de sus datos", dijo Cho.

VEA TAMBIÉN: Los currículos creados por ChatGPT son un factor decisivo para los reclutadores

Cho describió además un escenario de pesadilla: ¿Qué pasa si el ingeniero rápido ayuda a volver a entrenar un modelo de lenguaje o modifica un proceso automatizado, pero debido a suposiciones erróneas? Por ejemplo, ¿qué pasa si entrenan prejuicios raciales u otros errores persistentes? Dado que todos los datos recopilados por las personas son inherentemente defectuosos, se podría construir un nuevo proceso brillante sobre una base de errores.

“Nuestro ingeniero puntual no va a trabajar en una burbuja”, dijo Brownstein. Su equipo dedica tiempo, dijo, a preocuparse por "lo que significa tener datos imperfectos". Confiaba en que el proceso no sería: "poner un montón de datos y esperar lo mejor".

Pero para que no lo olvidemos, "poner un montón de datos y esperar lo mejor" es una descripción adecuada de cómo funcionan los modelos de lenguaje grandes, y los resultados son a menudo, bueno, terribles.

Para ver un ejemplo en el que los datos deben estar justo en el dinero, no busque más allá de la visión absolutamente fascinante de Brownstein para las instrucciones de descarga del futuro. Probablemente haya recibido, y desechado rápidamente, muchas instrucciones de alta.

Tal vez te golpeaste la cabeza en un accidente automovilístico. Después de que te revisaran en el hospital y te autorizaran a ir a casa, es probable que hayas recibido algunas páginas grapadas de información sobre los signos de una conmoción cerebral, cómo usar una compresa fría y cuánto ibuprofeno tomar.

Con un LLM capacitado en la información de su paciente individual, dijo Browstein, el sistema sabe, entre otras cosas, dónde vive, por lo que puede decirle a dónde ir para comprar su ibuprofeno, o no comprar ibuprofeno en absoluto, porque es alérgico. . Pero eso es solo la punta del iceberg.

"Estás haciendo rehabilitación y necesitas dar un paseo. Te está diciendo que hagas este paseo por esta área particular alrededor de tu casa. O podría ser contextualmente valioso, y puede modificarse según tu edad y varios atributos sobre ti". Y puede dar ese resultado en la voz que es más convincente para asegurarse de que cumpla con esas instrucciones".

David Himmelstein, profesor de la Escuela de Salud Pública de CUNY y destacado crítico del sistema de salud con fines de lucro de EE. UU., dijo que si bien había escuchado sobre los usos potenciales de la IA en los hospitales que le preocupaban, este no le pareció tan "ofensivo." Señaló que las instrucciones de descarga son "casi repetitivas" de todos modos, y no parecía preocupado por el cambio potencial.

Sin embargo, le preocupa lo que tales sistemas podrían significar para la privacidad. "¿Quién obtiene esta información?" el se preguntó. "Parece que pone la información en manos de Microsoft, o Google si usan su motor de inteligencia artificial".

En uso generalizado, estas son las principales preocupaciones para los hospitales que avanzan, pero Brownstein dijo que el Boston Children's Hospital, por su parte, "en realidad está construyendo LLM internos", lo que significa que no dependerá de compañías como Google, Microsoft o la empresa matriz ChatGPT. IA abierta. "De hecho, tenemos un entorno que estamos construyendo, de modo que no tenemos que empujar los datos de los pacientes a ninguna parte fuera de las paredes del hospital".

Sin embargo, Himmelstein señaló que los sistemas para automatizar hospitales están lejos de ser nuevos y no han creado paraísos libres de burocracia, donde el trabajo funcione sin problemas y de manera eficiente, aunque señaló que las empresas han estado haciendo tales promesas desde la década de 1960. Proporcionó un documento histórico fascinante para ilustrar este punto: un video de IBM de 1961 que promete sistemas electrónicos que reducirán la burocracia y "eliminarán errores".

Pero en el mes transcurrido desde que Mashable habló por primera vez con Brownstein, la situación de la IA ha progresado en el Boston Children's Hospital. En un correo electrónico, Browstein informó "un montón de progreso" en modelos de lenguaje grande y un ingeniero rápido "increíble" en el proceso de incorporación.