David Vigouroux
IRT Saint Exupéry
David Vigouroux est ingénieur de recherche en data science à l’IRT Saint Exupery. Il coordonne les activités d’explicabilité au sein du programme intégratif de DEEL.
En 2008, Il commence sa carrière dans une filiale d’Airbus dans le domaine de la défense sur des problèmes d’aide à la décision. Il rejoints ensuite une start-up en robotique en 2016 participant à la conception d’un robot pour les tâches de contrôle, de vision, de SLAM et du design hardware. En 2018, il intègre l’IRT Saint Exupery où il travaille sur les domaines de l’apprentissage non supervisé, l’explicabilité, la détection de biais, la gestion d’incertitude, la détection d’anomalie et de l’apprentissage par renforcement.
Don’t Lie to Me: Robust and Efficient Explainability with Verified Perturbation Analysis
L’explicabilité des réseaux de neurones est un élément clé de l’intégration des réseaux de neurones dans les systèmes critiques. En effet, il est important d’acquérir une meilleure compréhension des logiques internes des modèles afin de s’assurer que le modèle ne soit pas biaisé. A cette fin, de nombreuses techniques d’explicabilité ont été proposées par la communauté scientifique comme par exemple les « features attributions ». Cette technique permet d’identifier les entrées du modèle qui ont le plus d’impact dans la prise de décision du modèle. Pour se faire, les features attributions analyse le comportement local du modèle autour d’un échantillon donné. Cette évaluation est réalisée de façon stochastique en appelant de nombreuses fois le modèle. Afin d’obtenir une bonne représentation du comportement du modèle, un nombre très important de tirage est nécessaire. Cependant, même avec un tirage très important, il n’est pas possible d’étudier de manière exhaustif le comportement du modèle au voisinage de l’échantillon donné. Pour combler ce manque d’exhaustivité, nous proposons d’utiliser une technique de « Verified perturbation Analysis » qui permet d’apporter une analyse complète autour d’un échantillon donné.