Résumé du problème épistémologique lié à l’opacité des modèles d’IA en médecine. Lors de l’utilisation d’outils d’intelligence artificielle d’aide à la décision, les médecins sont fréquemment confrontés à une difficulté épistémologique : comprendre pourquoi et comment l’IA a produit un certain diagnostic ou pronostic. Partie supérieure. Certains systèmes, souvent qualifiés de boîtes noires, sont opaques. En effet, le clinicien n’a pas accès aux mécanismes internes de l’algorithme ; par exemple, à la manière dont les données d’entrée ont été pondérées pour générer une sortie spécifique. Partie centrale : explicabilités. Chercher à « blanchir la boîte noire » revient alors à tenter de concilier deux exigences : d’un côté maintenir la performance du modèle utilisé, et de l’autre rendre intelligibles les relations entre les données d’entrée et le résultat produit. Cette intelligibilité est essentielle, car elle conditionne la capacité du médecin à justifier cliniquement ses décisions. Partie inférieure gauche : explicabilité post hoc. Approches consistant à ouvrir la boîte noire a posteriori. C’est le cas de la méthode LIME (local interpretable modelagnostic explanations), qui mobilise un algorithme externe pour rendre plus compréhensible le fonctionnement du modèle initial. Toutefois, ce second algorithme introduit lui-même une part d’opacité. Le clinicien gagne ainsi en intelligibilité, mais sans accéder à une transparence totale : on parle alors de « boîte grise ». Partie inférieure droite : explicabilité native. D’autres approches visent à concevoir dès l’origine des modèles transparents. Les modèles à base de règles (rule-based models), et notamment les Bayesian rule lists (BRL), en sont un exemple typique dans le domaine de la santé. Cependant, même ces modèles dits boîtes blanches ne garantissent pas une transparence complète. Leur transparence syntaxique (lisibilité des règles) peut en effet masquer une opacité sémantique, c’est-à-dire une difficulté à interpréter cliniquement la signification des règles produites. En somme, le médecin se trouve souvent confronté, non pas à une véritable boîte blanche, mais à une « boîte grise », où coexistent intelligibilité partielle et opacité résiduelle.