La advertencia de la OMS
Reference News Network informó el 20 de enero que según AFP el 18 de enero.
La Organización Mundial de la Salud advirtió que la inteligencia artificial (IA) generativa puede traer cambios disruptivos a la atención médica a través del diagnóstico rápido de enfermedades, pero su implementación apresurada y no garantizada también trae peligros.
Según los informes, en un documento publicado el día 18, la OMS analizó los peligros y ventajas del uso de grandes modelos multimodales (LMM) para tratamientos médicos. Este tipo de IA generativa puede utilizar una variedad de datos (texto, imágenes y videos) para generar resultados de diagnóstico.
basado en algoritmos que no se limitan a tipos de datos.
"Algunas personas creen que LMM imitará los pensamientos y comportamientos humanos y resolverá algunos problemas humanos de forma interactiva". dijo Alan Labrick, jefe del departamento de salud digital e innovadora de la OMS.
La OMS cree que el LMM se utilizará ampliamente en tratamientos médicos, investigaciones científicas y medicamentos en el futuro. La organización identificó cinco áreas donde se podría utilizar la tecnología: diagnóstico, investigación científica y desarrollo de fármacos, enseñanza médica y de enfermería, administración y verificación de síntomas.
Aunque LMM tiene un gran potencial de aplicación, la OMS dijo que la tecnología puede producir resultados "falsos, incorrectos, distorsionados o incompletos". "A medida que los LMM se utilizan cada vez más en la salud y la medicina, los errores, el uso incorrecto y los daños personales son inevitables", señaló la organización.
El documento de la OMS presenta las nuevas tendencias éticas y cuestiones de gestión de LMM y proporciona 40 recomendaciones a gobiernos, empresas y pacientes sobre cómo utilizar esta tecnología de forma segura.
La OMS cree que la tecnología debería aplicarse primero en el sector médico para poder descubrir y corregir los fallos. Jeremy Farrar, científico jefe de la Organización Mundial de la Salud, enfatizó: "La IA generativa puede mejorar la atención médica, pero debe hacerse con desarrolladores, legisladores y usuarios plenamente conscientes de los riesgos que conlleva".
"Necesitamos información y políticas transparentes sobre el concepto, desarrollo y uso de LMM para lograr los mejores resultados posibles en la atención médica y superar las desigualdades persistentes en la atención médica", dijo Farrar.
La OMS pide la introducción de algunas garantías para que los usuarios perjudicados por LMM puedan recibir una compensación razonable y disponer de medios de rescate.
Según el informe, la IA se está utilizando en la salud pública y la medicina clínica, pero la OMS cree que existen algunos riesgos en el LMM y que "la sociedad, los sistemas médicos y los usuarios finales pueden no estar completamente preparados para afrontarlo".
La OMS también cree que LMM suele ser desarrollado y aplicado por gigantes tecnológicos, lo que puede generar preocupaciones y riesgos sobre el monopolio de estas empresas sobre la tecnología. La OMS exige que la investigación y el desarrollo de LMM no dependan sólo de científicos e ingenieros, sino también de profesionales y pacientes en el campo médico.
La organización también advirtió sobre las vulnerabilidades de LMM en ciberseguridad, que podrían poner en riesgo la información relacionada con los pacientes e incluso la confiabilidad de la atención médica. Concluyó que los gobiernos deberían responsabilizar a los reguladores por la aprobación de los LMM para uso médico y exigir audiencias sobre su uso para evaluar el impacto de la tecnología.
