Según un estudio del Instituto Tecnológico de Massachusetts (MIT), la inteligencia artificial (IA), puede predecir las razas de los pacientes por medio de sus imágenes médicas. Ziad Obermeyer, profesor asociado de la Universidad de California en Berkeley, aseguró que el hecho de que los algoritmos vean la raza puede ser peligroso.
La investigación se llevo a cabo utilizando un conjunto de datos públicos y privados. Entre ellos se encuentran radiografías de tórax, radiografías de extremidades, tomografías computarizadas de tórax y mamografías digitales.
Al margen de lo anterior, el equipo entrenó un modelo de aprendizaje para identificar la raza blanca, negra o asiática a pesar de no tener mención explícita en las imágenes del paciente. Para lograrlo, se realizaron una serie de experimentos con inteligencia artificial para investigar los posibles mecanismos de detección de razas.
Por tanto, se tomaron en cuenta variables como diferencias en la anatomía, densidad ósea, resolución de imágenes, entre otras. El estudio destacó que a pesar de las variabilidades, la inteligencia artificial continuaba detectando la raza a partir de las radiografías de tórax.
Leo Anthony Celi, investigador en el MIT y profesor asociado de medicina en la Facultad de Medicina de Harvard, comentó que los algoritmos pueden ampliar la disparidad y desigualdad existente. Por lo cual consideró importante reflexionar y reconsiderar si la humanidad está preparada para llevar IA a la cabecera del enfermo.
El estudio, llamado “AI recognition of patient race in medical imaging: a modeling study”, se publicó en Lancet Digital Health el 11 de mayo del 2022. Celi y Marzyeh Ghassemi escribieron el artículo junto con otros 20 autores de cuatro países.
Los científicos demostraron primero que la inteligencia artificial era capaz de predecir las razas en diferentes modalidades de imagen. Igualmente, tal mecanismo logró adivinar diversos conjuntos de datos, tareas clínicas y centros académicos.
Para esto, se emplearon tres grandes conjuntos de datos de radiografías de tórax y se probó el modelo en un subconjunto no visto de datos utilizados. Posteriormente, entrenaron los modelos de detección de identidades raciales para imágenes de rayos X no torácicos de múltiples localizaciones corporales. Esto con la finalidad de ver si el rendimiento del modelo se limitaba a las radiografías de tórax.
Con el fin de explicar el comportamiento del modelo, el equipo cubrió varias bases. Entre ellas, las diferencias en las características físicas entre los diferentes grupos raciales, distribución de la enfermedad y diferencias específicas de la ubicación o del tejido. Asimismo, se abarcaron los efectos de los prejuicios sociales, el estrés ambiental dentro del estudio, la capacidad de la inteligencia artificial para detectar razas y si las regiones de la imagen contribuían a reconocer estas.
De esta manera, los científicos descubrieron que la capacidad de la inteligencia artificial para predecir razas por medio de las etiquetas de diagnóstico era menor. Por su parte, los modelos basados en imágenes de rayos X del tórax tenían mayor predicción.
Sin embargo, los científicos reconocieron que la disponibilidad de etiquetas de identidad racial es limitada. Como consecuencia del escenario antes descrito, se centraron en poblaciones asiáticas, negras y blancas.
Otro trabajo de Ghassemi y Celi, dirigido por el estudiante del MIT, Hammaad Adam, descubrió que la inteligencia artificial también puede identificar las razas declarada por el propio paciente. Ello a partir de las notas clínicas, incluso cuando dichas notas carecen de indicadores explícitos de razas.