Nantilus
Deep learning for detecting BRCA mutations in high-grade ovarian cancer based on an innovative tumor segmentation method from whole-slide images
BRCA1/2 genes play a crucial role in repairing DNA double-strand breaks through homologous recombination. Screened by NGS, the mutations of the BRCA1/2 genes are a reliable effective predictor of sensitivity to poly(ADP-ribose) polymerase inhibitors in high-grade ovarian cancer (HGOC). In this study...
Enregistré dans:
| Auteurs principaux : | , , , , , |
|---|---|
| Collectivités auteurs : | , |
| Format : | Thèse ou mémoire |
| Langue : | anglais français |
| Titre complet : | Deep learning for detecting BRCA mutations in high-grade ovarian cancer based on an innovative tumor segmentation method from whole-slide images / Raphaël Bourgade; sous la direction de Delphine Loussouarn |
| Publié : |
2023 |
| Accès en ligne : |
Accès Nantes Université
|
| Note sur l'URL : | Accès réservé aux étudiants et personnels de l'Université de Nantes après authentification |
| Note de thèse : | Thèse d'exercice : Médecine. Anatomie et cytologie pathologiques : Nantes : 2023 |
| Conditions d'accès : | Accès réservé aux étudiants, personnels de l'Université de Nantes et lecteurs inscrits, après authentification. |
| Sujets : |
| Résumé : | BRCA1/2 genes play a crucial role in repairing DNA double-strand breaks through homologous recombination. Screened by NGS, the mutations of the BRCA1/2 genes are a reliable effective predictor of sensitivity to poly(ADP-ribose) polymerase inhibitors in high-grade ovarian cancer (HGOC). In this study, we present a deep learning-based classifier for predicting BRCA mutational status, trained on 775 HES-stained HGOC whole slide images. We first trained a tumor segmentation model by using an innovative approach based on efficient sampling of 8 WSI which achieved a Dice score of 0.915 and an IoU of 0.847. We then trained a ResNet-50 by using self-supervised learning with a momentum contrast approach to extract features from over a million tumor-predicted tiles, and we finally trained a classifier with an attention-based multiple instance learning mechanism. This model achieved the state-of-the-art AUC of 0.741 in 5-fold cross-validation, 0.673 on the test set, and 0.631 on an independent test set from TCGA. This work is therefore the first to have demonstrated that the BRCA mutation has a discernible phenotypic effect which could be detected by deep learning and could be used as a pre-screening tool. Les gènes BRCA1/2 jouent un rôle crucial dans la réparation des cassures double-brin de l'ADN par recombinaison homologue. Actuellement recherchées par NGS, les mutations des gènes BRCA1/2 constituent un facteur prédictif de réponse aux inhibiteurs de la poly(ADP-ribose) polymérase dans les cancers de l ovaire de haut grade. Dans cette étude, nous présentons un modèle prédictif du statut mutationnel BRCA entraîné sur une cohorte de 775 lames de cancer de l ovaire de haut-grade colorée à l HES. Nous avons tout d abord entraîné un modèle de segmentation tumorale selon une approche innovante basée sur l échantillonnage dynamique de 8 lames d'entraînement, qui a obtenu un Dice score de 0,915 et un IoU de 0,847. Nous avons ensuite entraîné un ResNet-50 selon un processus de self-supervised learning (momentum contrast) afin d extraire les features de plus d un million de tuiles tumorales prédites sur l ensemble du dataset. Pour finir, nous avons entrainé un classifieur selon une approche de multiple instance learning avec un mécanisme d attention. Ce modèle constitue désormais l état-de-l art avec une AUC de 0,741 en 5-fold cross-validation, 0,673 sur le test set et 0,631 sur un test set indépendant issu du TCGA. Ce travail est ainsi le premier à avoir démontré que la mutation BRCA a un retentissement phénotypique détectable par deep learning, qui pourrait être ainsi utilisé comme outil de pré-screening. |
|---|---|
| Variantes de titre : | Prédiction par deep learning du statut mutationnel BRCA dans le cancer de l ovaire de haut-grade sur lames histologiques numérisées, à partir d une méthodologie innovante de segmentation tumorale |
| Notes : | Thèse présentée et soutenue publiquement le 21 juin 2023 L'impression du document génère 104 p. Autre (s) contribution (s) : Jean-François Mosnier (Président du jury) ; Claire Toquet, Solène-Florence Kammerer-Jacquet, Stéphane Bézieau (Membres du jury) |
| Bibliographie : | Bibliogr. 137 réf. |