Evaluation of performance disparities in deep learning models for neuroimaging and the role of entropy-based active learning

Danaee, Ghazal (2026). Evaluation of performance disparities in deep learning models for neuroimaging and the role of entropy-based active learning. Mémoire de maîtrise électronique, Montréal, École de technologie supérieure.

Prévisualisation

PDF Télécharger (6MB) | Prévisualisation

Résumé

Deep learning models are now the leading approach for medical image segmentation. However, they can produce biased predictions across demographic groups such as sex and race. These disparities are important because they can affect downstream analyses, including volumetric studies, and may contribute to unequal clinical outcomes. This thesis addresses this issue by studying demographic bias in structural brain MRI segmentation and by proposing a fairness-aware active learning framework to reduce these disparities.

In the first study, published in the Machine Learning for Biomedical Imaging journal, we compared several deep learning models, including nnU-Net, UNesT, and CoTr, as well as a traditional atlas-based method, ANTs. Using manually curated gold-standard segmentations of the nucleus accumbens, we showed that some models are much more sensitive than others to demographic imbalance in the training data. We also found that biased automated segmentations can obscure true race-related volumetric differences that remain visible in the manual annotations, thereby influencing downstream morphometric conclusions.

In the second study, which will be presented at the 2026 Medical Imaging with Deep Learning conference, we introduced a fairness-aware active learning strategy to reduce these disparities during sample selection. The proposed weighted localized entropy method combines group-specific performance weighting with localized uncertainty estimation. By focusing uncertainty within a region of interest, the method better captures meaningful epistemic uncertainty and avoids simple anatomical variation. Experiments on synthetic MRI data with controlled morphological bias showed that this strategy can substantially reduce group disparity, with improvements of up to 86% relative to standard entropy sampling.

Overall, this work shows that fairness in neuroimaging should not be treated as a secondary evaluation criterion. It should be considered a central design principle. By identifying bias in brain segmentation across both deep learning models and traditional methods, and by proposing a practical strategy for training more equitable models, this thesis advances the development of more reliable and fair medical image analysis.

Titre traduit

Évaluation des disparités de performance des modèles d’apprentissage profond en neuro-imagerie et du rôle de l’apprentissage actif basé sur l’entropie

Résumé traduit

Les modèles d’apprentissage profond constituent aujourd’hui la principale approche pour la segmentation d’images médicales. Toutefois, ils peuvent produire des prédictions biaisées selon certains groupes démographiques, notamment le sexe et l’ethnoculturalité. Ces écarts sont importants, car ils peuvent influencer les analyses en aval, comme les études volumétriques, et contribuer à des inégalités dans les résultats cliniques. Cette thèse s’intéresse à ce problème en étudiant le biais démographique dans la segmentation de l’IRM cérébrale structurelle et en proposant un cadre d’apprentissage actif sensible à l’équité afin de réduire ces disparités.

Dans une première étude, publiée dans la revue Machine Learning for Biomedical Imaging, nous avons comparé plusieurs modèles d’apprentissage profond, dont nnU-Net, UNesT et CoTr, à une méthode atlasique plus classique, ANTs. À partir de segmentations de référence du noyau accumbens, annotées manuellement curées, nous avons montré que certains modèles sont beaucoup plus sensibles que d’autres au déséquilibre démographique dans les données d’entraînement. Nous avons également observé que des segmentations automatisées biaisées peuvent masquer de véritables différences volumétriques liées à la race, pourtant encore visibles dans les annotations manuelles. Ces biais peuvent ainsi modifier l’interprétation des analyses morphométriques en aval.

Dans une seconde étude, qui sera présentée à la conférence Medical Imaging with Deep Learning en 2026, nous avons proposé une stratégie d’apprentissage actif sensible à l’équité pour réduire ces disparités dès l’étape de sélection des données d’entrainement. La méthode proposée, fondée sur une entropie localisée pondérée, combine une pondération basée sur la performance spécifique à chaque groupe et une estimation localisée de l’incertitude. En concentrant l’incertitude dans une région d’intérêt, cette approche capture plus fidèlement l’incertitude épistémique pertinente et évite de confondre celle-ci avec de simples variations anatomiques plus globales. Des expériences menées sur des IRM synthétiques présentant un biais morphologique contrôlé ont montré que cette stratégie peut réduire de manière importante les écarts entre groupes, avec des améliorations allant jusqu’à 86 % par rapport à l’échantillonnage par entropie standard.

Dans l’ensemble, ces travaux montrent que l’équité en neuro-imagerie ne devrait pas être considérée comme un simple critère d’évaluation secondaire. Elle doit plutôt être pensée comme un principe central de conception. En mettant en évidence la présence de biais dans la segmentation cérébrale, à la fois dans les méthodes d’apprentissage profond et dans les approches plus traditionnelles, puis en proposant une stratégie concrète pour entraîner des modèles plus équitables, cette thèse contribue au développement de méthodes d’analyse d’images médicales plus fiables et plus justes.

Type de document:	Mémoire ou thèse (Mémoire de maîtrise électronique)
Renseignements supplémentaires:	"Manuscript-based thesis presented to École de technologie supérieure in partial fulfillment of a master's degree with thesis". Comprend des références bibliographiques (pages 71-82).
Mots-clés libres:	apprentissage actif équitable, segmentation de l’IRM cérébrale
Directeur de mémoire/thèse:	Directeur(-trice) Bouix, Sylvain
Programme:	Maîtrise en ingénierie > Génie des technologies de l'information
Date de dépôt:	21 mai 2026 14:58
Dernière modification:	21 mai 2026 14:58
URI:	https://espace.etsmtl.ca/id/eprint/3914

Gestion Actions (Identification requise)

Dernière vérification avant le dépôt