Con el título de «Los grandes modelos lingüísticos y la degradación del historial clínico», tres académicos han argumentado en un estudio que introducir herramientas de inteligencia artificial como ChatGPT para el estudio de historiales médicos puede ser bastante peligroso, debido a la inmadurez y los numerosos fallos e imprecisiones que esta tecnología presenta.
«Internet se ha ido diluyendo progresivamente con basura generada por inteligencia artificial. ¿Corren los registros médicos el mismo destino?», pregunta abiertamente en X Liam McCoy, uno de sus autores. «Acabo de publicar una perspectiva en el New England Journal of Medicine con @AdamRodmanMD y Arjun Manrai sobre por qué apresurar la incorporación de la IA a la documentación médica podría ser un error», explica.
En un hilo en esta red social, McCoy resume que, aunque son optimistas sobre las IAs, en estos momentos sus algoritmos no son lo suficientemente avanzados como para empezar a usarlos en los hospitales. El académico resalta que, incluso si el problema de las alucinaciones de las inteligencias artificiales se resolviese, la forma de resumir de estas IAs podría provocar una sobresimplificación de los cuadros clínicos de los pacientes. Asimismo, indica que el estudio del historial médico de los pacientes es muy complejo y requiere el estudio de muchas variables, y no hay garantía de que una IA sea capaz de hacer todo esto mejor que un humano.
«Incluso si los problemas de alucinaciones se resuelven por completo, existen otros riesgos para el texto LLM, como el aumento del desorden de las historias clínicas y la disminución de la densidad general de información de la historia clínica. A largo plazo, el sesgo sutil de LLM hacia la media corre el riesgo de promover el colapso del modelo», defiende McCoy.
Entendemos con esto que, en el afán de la IA por simplificar los datos y hacerlos más sencillos y rápidos de leer por parte de los profesionales médicos, podrían obviar detalles importantes. Asimismo, los modelos de IA, en su uso de la probabilidad, pueden imponer un sesgo en el estudio de casos que impida asesorar correctamente casos especiales.
«Además, la revisión de historias clínicas y la redacción de notas son tareas complejas y cognitivamente significativas con una profunda influencia en el comportamiento de los médicos. No podemos suponer sin una buena evidencia que delegar esta parte de nuestra cognición a los LLM conducirá a una atención de alta calidad», añade el investigador. En otras palabras, los riesgos son demasiado grandes como para colocar a IAs como asistentes de los médicos y especialistas, al menos, de momento.
Hay otros problemas
«Por último, tememos que este enfoque corra el riesgo de cimentar los errores del curso anterior de desarrollo de la historia clínica electrónica. En lugar de repensar la organización de la información desde cero (como se necesita desesperadamente), el enfoque actual de los LLM corre el riesgo de encubrir y solidificar el status quo«, señala el científico. De esta forma, defiende la necesidad de una mejora a la hora de tratar los historiales médicos, que debe resolverse antes de simplemente aplicar la IA sobre la rutina ya existente.
El investigador termina su hilo asegurando: «Somos optimistas sobre el futuro de los LLM, pero estos desafíos de implementación no se pueden ignorar. Necesitamos más y mejor ciencia que explore el impacto de los LLM en los registros médicos, y lo necesitamos ANTES de correr el riesgo de causar un daño irreparable a nuestro recurso de datos más importante».
En X, el hilo ha recibido muchas felicitaciones por parte de otros compañeros médicos o del sector de la salud, e incluso, el actual jefe de Salud en OpenAI, Karan Singhal, ha respondido McCoy diciendo: «¡Increíble trabajo!».
El hematólogo @DavidSteensma ha comentado también el hilo, señalando que la IA podría ser útil a la hora de realizar la burocracia necesaria, pero no para asesorar directamente a los médicos: «Casi necesitamos dos registros médicos paralelos: uno lleno de palabras de moda y basura de IA para la facturación y para satisfacer métricas administrativas arbitrarias, el otro conciso y con información seleccionada por el proveedor para comunicarnos con colegas clínicos sobre los pacientes». En otras palabras, un registro con toda la palabrería de cara a la galería, y otro que sea realmente útil para los profesionales a la hora de tratar con el paciente.
The post Los científicos ya avisan del peligro de aplicar inteligencia artificial en los historiales médicos de los pacientes appeared first on ADSLZone.
0 Commentaires