Tecnología y salud, ¿oportunidades o más desigualdad?

Si solo se toma en cuenta la calidad de vida y condiciones de países desarrollados a la hora de construir nuevas herramientas médicas o medidas sanitarias con la ayuda de la tecnología y la inteligencia artificial, es probable que la población en lugares subdesarrollados o pobres se vean afectadas negativamente por estos avances, es lo que determina la Organización Mundial de la Salud (OMS) en su nuevo informe, ‘Ética y gobernanza de la inteligencia artificial para la salud: orientación sobre grandes modelos multimodales’.

Mientras que para los países desarrollados esto puede representar nuevas oportunidades a nivel de tratamientos médicos y esperanza de vida de las personas, las herramientas podrían “servir mal” para los demás, de acuerdo a esta organización.

Por esta razón, el director de salud digital e innovación de la OMS, Alain Labrique, sugiere que se debe tener cuidado con propagar o amplificar las desigualdades y prejuicios con el avance tecnológico en el campo de la medicina.

Una de las estrategias que plantea la organización dentro del informe es involucrar a los gobiernos de todos los países que lideren la industria tecnológica para hacer frente a esta problemática.

Además, aquellas compañías independientes que desarrollen este tipo de plataformas deben ser sometidas a auditorías obligatorias para evaluar elementos como su gestión de datos personales, por ejemplo.

También se sugirió que los desarrolladores y programadores de softwares implementados en la atención médica o la investigación científica deberían recibir el mismo tipo de capacitación ética que los médicos. “Los gobiernos podrían exigir a los desarrolladores que registren algoritmos tempranos, para fomentar la publicación de resultados negativos y evitar sesgos y exageraciones en la publicación”, menciona la OMS.

Por su parte, las personas que reciben la atención médica deberían ser parte del proceso de creación de estas herramientas, lo que podría ayudar principalmente a la supervisión y regulación de las mismas.

“Ciertos riesgos pueden abordarse en cada fase de la cadena de valor de la IA, y es probable que ciertos actores desempeñen papeles más importantes en la mitigación de cada riesgo y la defensa de los valores éticos. Si bien es probable que haya desacuerdos y tensiones sobre dónde recae la responsabilidad entre los desarrolladores, proveedores e implementadores, existen áreas claras en las que cada actor está mejor ubicado o es la única entidad con la capacidad de abordar un riesgo potencial o real”, es lo que se menciona dentro de este informe.

Preocupaciones actuales

Como menciona la OMS en ‘Ética y gobernanza de la inteligencia artificial para la salud: orientación sobre grandes modelos multimodales’, aunque el avance médico puede ser ventajoso, también existen preocupaciones actuales alrededor de las nuevas tecnologías que sugieren realizar un examen exhaustivo, indispensable para garantizar el uso seguro, eficiente y ético de las tecnologías. Algunas de estas son:

Los datos que se utilizan para entrenar a la inteligencia artificial pueden estar sesgados, lo que genera información engañosa o inexacta, planteando riesgos para la salud, la equidad y la inclusividad.

Por otro lado, los grandes softwares artificiales pueden generar respuestas que parecen plausibles para el usuario, sin embargo, cabe la posibilidad de que sean totalmente incorrectas o que contengan errores graves, especialmente las vinculadas con la salud.

También puede que estos softwares estén entrenados con datos para cuyo uso no se haya obtenido consentimiento previo, y que no protejan los datos confidenciales relacionados a la salud que un usuario introduzca en una aplicación para generar una respuesta, violando su privacidad.

Esta organización propone tener en cuenta estas y otras inquietudes al momento de desarrollar o utilizar estas herramientas de forma generalizada para los servicios relacionados a la atención de salud o la medicina, ya sea por particulares, proveedores de atención o administradores de sistemas de salud o instancias normativas.

Si bien la OMS tiene el compromiso de aprovechar las nuevas tecnologías, como la inteligencia y la salud digital, para mejorar la salud humana, recomienda a las instancias normativas que garanticen la seguridad y protección del paciente, a la par que las empresas tecnológicas se afanan por comercializar los grandes softwares artificiales.

Más sobre este informe

La OMS publicó una primera versión de ‘Ética y gobernanza de la inteligencia artificial para la salud: orientación sobre grandes modelos multimodales’ hace tres años atrás, en 2021, sin embargo el auge en aumento de la inteligencia artificial generativa, como Chat GPT, Bard, Bert y otras obligó a esta organización a crear una versión actualizada de las normativas que ya habían propuesto.

Según la organización, el objetivo principal de las directrices es tomar en cuenta las nuevas tecnologías para “promover y proteger la salud pública, en lugar socavarla”, pues esta podría ser clave para brindar atención sanitaria, siempre y cuando “quienes las desarrollen, regulen y utilicen, identifiquen y tengan plenamente en cuenta los riesgos asociados”.

Estas directrices se apegan a seis principios fundamentales establecidos por la OMS, que son: proteger la autonomía; promover el bienestar y la seguridad de las personas y el interés público; garantizar la transparencia, la claridad y la inteligibilidad; promover la responsabilidad y la rendición de cuentas; garantizar la inclusividad y la equidad así como promover una inteligencia artificial con capacidad de respuesta y sostenible.

“Es imperativo examinar cuidadosamente los riesgos que conlleva utilizar dichos modelos lingüísticos en la mejora del acceso a la información de salud, como herramienta de apoyo a la toma de decisiones, o incluso para fomentar la capacidad de diagnóstico en entornos de escasos recursos con el fin de proteger la salud de las personas y reducir la inequidad”, concluye esta organización.