À la recherche d'un apprentissage automatique explicable et interprétable grâce à la philosophie et à la physique

Les algorithmes d'apprentissage automatique (ML) imprègnent de plus en plus notre quotidien et la vie publique. Ils émettent des prédictions, mais les raisons pour lesquelles ils prennent telle décision plutôt qu’une autre restent souvent difficiles à comprendre ; ils sont en quelque sorte « opaques ». Dans le cadre de notre projet, nous souhaitons comprendre comment cette opacité se forme et comment il serait possible de la lever a posteriori. Pour ce faire, nous souhaitons interpréter, à l’aide des apports de la physique et d’autres théories de la complexité, la nature des abstractions (implicites) que l’apprentissage automatique génère en soi. Notre hypothèse de travail est que la complexité du ML et la difficulté à comprendre certaines composantes du processus d’apprentissage sont à l’origine conjointe du problème d’opacité. En ce sens, une solution ne nécessite pas simplement « davantage de compréhension » ou « moins de complexité », mais une réduction de la complexité qui donne du sens. Nous entendons par là des abstractions adéquates et des simplifications non triviales, qui garantissent une approche de compréhension bien fondée. Dans le cadre de notre projet, nous développerons des outils permettant d’analyser la complexité des algorithmes d’apprentissage automatique d’une manière nouvelle et de trouver des réductions porteuses de sens du point de vue de la physique des nombreuses particules et de la philosophie .