El estudio demuestra la importancia de elegir las etiquetas adecuadas para la capacitación de algoritmos, teniendo en cuenta posibles discriminaciones

Un algoritmo sanitario de Estados Unidos discrimina a los negros

Un algoritmo sanitario de Estados Unidos discrimina a los negros
Un algoritmo sanitario de Estados Unidos discrimina a los negros HT

La lucha por los derechos de la población afroamericana en Estados Unidos es una cuestión muy antigua, que por desgracia no se zanjó en los tiempos de Rosa Parks o Martin Luther King. Aún a día de hoy se siguen dando tristes casos de discriminación a estas personas, en un gran número de ámbitos diferentes. De hecho, es algo tan interiorizado que en ciertas ocasiones esta desigualdad se puede ver reforzada de forma inconsciente, con casos como el reportado recientemente en Science, por un equipo de científicos procedentes de la Universidad de California, el Hospital General de Massachusetts, la Universidad de Chicago y el Hospital Brigham and Women’s, de Boston. En él reflejan cómo el algoritmo más extendido para evaluar la gravedad de los pacientes en atención primaria discrimina a la población negra, por una razón que probablemente pase desapercibida a los propios médicos que la utilizan, según recoge Azucena Martín en hipertextual.

El problema de evaluar todo desde la economía
Al no disponer de una cobertura sanitaria por parte del estado tan amplia como la de otros países, en Estados Unidos deben buscar formas de clasificar a los pacientes en función de su gravedad, con el fin de establecer cuáles deben recibir atenciones especiales y, con ellas, una mayor cantidad de recursos.

Para ello, se utilizan algoritmos de salud comerciales, dirigidos a identificar a los pacientes con necesidades más complejas. Quizás podría ser un buen método si se basara en factores de riesgo derivados de la genética, los hábitos o la fisiología de cada individuo. Sin embargo, el mecanismo es muy diferente, ya que uno de los parámetros informativos a los que se da mayor relevancia es precisamente el gasto que hace el proveedor de atención primaria en tratar a ese paciente, por considerarse que alguien con una enfermedad que requiera mayor atención acudirá al médico con más asiduidad. El problema es que, precisamente por vivir a menudo en entornos desfavorecidos y tener una peor posición económica, las personas afroamericanas pueden contar con dificultades añadidas para acceder a la sanidad.

El resultado, según el estudio, es que se asigna una mayor gravedad a pacientes blancos, en comparación con negros en su mismo estado de salud. De hecho, según explican en el estudio sus autores, si se cambiara la etiqueta con la que se entrena el algoritmo y se eliminara esta disparidad se pasaría de un 17’7% de pacientes afroamericanos recibiendo una atención adicional a un 46’5%.

Los algoritmos de inteligencia artificial son una gran herramienta para seleccionar personas en base a unos criterios concretos. El problema es que, como también señalan estos investigadores, si no se capacitan correctamente es fácil que conduzcan a desigualdades. Por ejemplo, se han reportado casos en los que los algoritmos que seleccionan personas para el envío de ofertas de trabajo altamente remunerados discriminan a las mujeres. Incluso se mencionan estudios que analizan cómo los algoritmos de reconocimiento facial muestran más dificultades a la hora de identificar a mujeres o personas negras, posiblemente también por no haberse entrenado correctamente. No debemos dejar todo en manos de las máquinas. También es necesario entrenarlas y para ello vale la pena pensar si se está haciendo de la forma más equitativa posible.

Recibe nuestras noticias en tu correo

Lo más leído