Réduction de la complexité, explicabilité et interprétabilité (KEI)

À la recherche d'un apprentissage automatique explicable et interprétable grâce à la philosophie et à la physique

Les algorithmes d'apprentissage automatique (ML) envahissent de plus en plus notre quotidien et la vie publique. Ils émettent des prédictions, mais les raisons qui les poussent à prendre telle décision plutôt qu’une autre restent souvent difficiles à comprendre ; ils sont en quelque sorte « opaques ». Dans le cadre de notre projet, nous souhaitons comprendre comment cette opacité se forme et comment il serait possible de la lever a posteriori. Pour ce faire, nous souhaitons interpréter, à l’aide des apports de la physique et d’autres théories de la complexité, la nature des abstractions (implicites) que l’apprentissage automatique génère en soi. Notre hypothèse de travail est que la complexité du ML et la difficulté à comprendre certaines composantes du processus d’apprentissage sont à l’origine conjointe du problème d’opacité. En ce sens, une solution ne nécessite pas simplement « plus de compréhension » ou « moins de complexité », mais une réduction de la complexité qui donne du sens. Nous entendons par là des abstractions adéquates et des simplifications non triviales, qui garantissent une approche de compréhension bien fondée. Dans le cadre de notre projet, nous développerons des outils permettant d’analyser la complexité des algorithmes d’apprentissage automatique sous un angle nouveau et d’identifier des réductions porteuses de sens dans la perspective de la physique des nombreuses particules et de la philosophie .