How AI classifications impact us : explaining AI in financial services and job advertising, from technical solutions to ethical issues

Abstract

Au croisement de la data-science et de la philosophie, cette thèse CIFRE mène une recherche sur la notion d'IA explicable (XIA), centrée sur deux cas d'usage qui touchent l'un aux recommandations de l'IA sur l'octroi de prêts (partenariat DreamQuark), l'autre concernant la vérification par l'IA de la légalité des offres d'emploi (partenariat France Travail). La thèse présente d'abord un panorama critique des techniques d'explicabilité en IA (le quoi de l'explication). Elle examine ensuite en construisant un package, la manière dont les biais de classification de l'IA sont susceptibles d'être corrigés dans le cas de l'octroi de crédit, afin d’obtenir une décision juste (le pourquoi de l'explication). Elle explore enfin comment sur le terrain, les usagers de l'IA interagissent avec les recommandations algorithmiques, et comment optimiser ces interactions (pour qui expliquer). Nous défendons ainsi que les solutions d’explicabilité ne sont que la base d’un discours qui doit intégrer causalité, justice, et intelligibilité, pour effectivement expliquer l’IA.

Ähnliche Arbeiten