Audit algorithmique

La compréhension fine du fonctionnement des systèmes algorithmiques est devenue un enjeu majeur pour les autorités de protection des données comme la CNIL. L’analyse de systèmes de plus en plus complexes exige de disposer de nouveaux outils et de nouvelles compétences.

Dans le cadre du partenariat CNIL-Inria, il vous est proposé de prendre part à l’expérimentation Algaudit. Celle-ci doit permettre de tester concrètement des outils d’audit. Un cas d’usage fictif mais réaliste sera exploré, celui de l’utilisation d’un d’algorithme pour aider à la décision d’octroi ou de refus de crédit à la consommation.

En pratique, chaque participant aura l’occasion de tester sur ce même cas d’usage deux outils complémentaires développés par Clément Henin, dans le cadre de ses travaux de thèse : IBEX et Algocate. Pour différentes applications particulières de l’algorithme, les participants devront tenter de fournir des éléments précisant la façon dont ils comprennent le fonctionnement de l’algorithme audité, les variables ayant joué un rôle dans la décision, etc. et finalement si selon eux celui-ci est respectueux du RGPD.

Pour aller plus loin : retrouvez ici l’interview de Clément Henin et Daniel Le Métayer à LINC.

Qui sommes-nous ?
Ce travail est le fruit de la collaboration de Clément Henin et Daniel Le Métayer, respectivement doctorant et directeur de recherche au sein de l’équipe PRIVATICS d’Inria et de Félicien Vallet, ingénieur au service de l’expertise technologique de la CNIL.