Un conocido algoritmo utilizado en la asistencia sanitaria a nivel global, que selecciona las listas de espera de pacientes, es tachado de racista por priorizar en personas de raza “blanca”

Un algoritmo de atención médica hace que los pacientes negros sean sustancialmente menos propensos que sus homólogos blancos a recibir un tratamiento médico importante.

La falla principal afecta a millones de pacientes, y se reveló en una investigación publicada esta semana en la revista Science.

El estudio no nombra a los creadores del algoritmo, pero Ziad Obermeyer, un profesor asociado interino en la Universidad de California, Berkeley, quien trabajó en el estudio dice que “casi todos los sistemas de salud grandes” lo están utilizando.

También es utilizado comúnmente por instituciones como aseguradoras. Algoritmos similares son producidos por varias compañías diferentes también.

“Esta es una característica sistemática de la forma en que casi todos en el espacio abordan este problema”, dice.

Los proveedores de atención médica utilizan el algoritmo para evaluar a los pacientes para la intervención de “administración de atención de alto riesgo”.

Bajo este sistema, el algoritmo marca automáticamente a los pacientes que tienen necesidades médicas especialmente complejas.

Una vez seleccionados, pueden recibir recursos de atención adicionales, como más atención por parte de los médicos.

Como señalan los investigadores, el sistema se usa ampliamente en los Estados Unidos y por una buena razón.

Los beneficios adicionales como enfermeras dedicadas y más citas de atención primaria son costosos para los proveedores de atención médica.

El algoritmo se usa para predecir qué pacientes se beneficiarán más de la asistencia adicional, lo que permite a los proveedores centrar su tiempo y recursos limitados donde más se necesitan.

Para hacer esa predicción, el algoritmo se basa en datos sobre cuánto le cuesta a un proveedor de atención tratar a un paciente.

En teoría, esto podría actuar como un sustituto de lo enfermo que está un paciente.

Pero al estudiar un conjunto de datos de pacientes, los autores del estudio de Science muestran que, debido al acceso desigual a la atención médica, los pacientes negros gastan mucho menos en ellos para los tratamientos que los pacientes blancos igualmente enfermos.

El algoritmo no tiene en cuenta esta discrepancia, lo que lleva a un sesgo racial sorprendentemente grande contra el tratamiento para los pacientes negros.

El efecto fue drástico. Actualmente, el 17,7 por ciento de los pacientes negros reciben atención adicional, encontraron los investigadores.

Si se soluciona la disparidad, ese número se dispararía al 46.5 por ciento de los pacientes.

“El costo es un proxy razonable para la salud, pero es sesgado, y esa elección es en realidad lo que introduce sesgo en el algoritmo”, dice Obermeyer.

Las desigualdades raciales históricas se reflejan en cuánto gasta una sociedad en pacientes blancos y negros.

Los pacientes pueden tener que tomarse un tiempo libre del trabajo para recibir tratamiento, por ejemplo.

Dado que los pacientes negros viven desproporcionadamente en la pobreza, puede ser más difícil para ellos, en promedio, llamar por el día y reducir su salario.

“Hay solo un millón de formas en que la pobreza dificulta el acceso a la atención médica”, dice Obermeyer. Otras disparidades, como el sesgo en la forma en que los médicos tratan a los pacientes, también pueden contribuir a la brecha.

Este es un ejemplo clásico de sesgo algorítmico en acción. Los investigadores a menudo han señalado que una fuente de datos sesgada produce resultados sesgados en sistemas automatizados.

La buena noticia, dice Obermeyer, es que hay formas de frenar el problema en el sistema.

“Ese sesgo es reparable, no con datos nuevos, no con un nuevo tipo de red neuronal más elegante, sino simplemente cambiando lo que se supone que predice el algoritmo”, dice.

Los investigadores descubrieron que, al centrarse sólo en un subconjunto de costos específicos, como los viajes a la sala de emergencias, podrían reducir el sesgo.

Un algoritmo que predice directamente los resultados de salud, en lugar de los costos, también mejoró el sistema.

“Con esa cuidadosa atención a cómo entrenamos algoritmos”, dice Obermeyer, “podemos obtener muchos de sus beneficios, pero minimizar el riesgo de sesgo”.

 

Si te ha gustado este artículo, déjanos tu comentario más abajo y ayúdanos a seguir creciendo activando las notificaciones en tu navegador.

 

Ver también: Crean mini cerebros con consciencia y sentimientos humanos (VÍDEO)

 

Síguenos en Redes Sociales

Facebook     Instagram     YouTube     Twitter