Combiner quantification de l'incertitude et IA explicable pour des explications plus fiables F/H

Descripción del puesto:

Publication date : Sep 28, 2026, 9:42AM
Les décisions automatisées se généralisent dans des domaines sensibles (banque, santé, éducation, etc.) avec un impact direct sur les individus. Rendre les décisions explicables, c'est permettre de comprendre quels facteurs ont motivé la décision de l'algorithme. Cependant si le modèle est incertain dans sa décision, la question de la pertinence de l'explication se pose. Or la plupart des méthodes d'explicabilité ne prennent pas en compte l'incertitude inhérente aux prédictions du modèle. Intégrer l'incertitude dans le processus de génération d'explication devrait permettre de générer des explications plus fiables. Le stage propose de mettre en œuvre une méthode de génération d'explications qui intègre explicitement l'incertitude du modèle. On s'intéressera en particulier aux explications contrefactuelles qui consistent à identifier les modifications minimales à apporter à une donnée pour changer la décision, permettant ainsi d'identifier les facteurs ayant influencé cette décision.
L'objectif principal du stage est d'implémenter et d'évaluer une chaine complète de génération d'explications contrefactuelles intégrant l'incertitude. Plus précisément il s'agit de:
- Analyser les méthodes existantes d'estimation d'incertitude dans le contexte du machine learning, en particulier celles basées sur la décomposition de l'incertitude (aléatoire + épistémique)
- Concevoir un algorithme de génération d'explications contrefactuelles qui intègre des contraintes sur l'incertitude
- Implémenter la méthode proposée, et évaluer la qualité des explications générées sur des jeux de données de différentes natures (tabulaires, images)
- Comparer la méthode développée avec une ou deux méthodes concurrentes récentes de l'état de l'art
Bac+5: école d'ingénieur, master 2, IA/data science
Compétences en programmation Python nécessaires : (PyTorch/TensorFlow, scikit learn)
Connaissances en statistiques, mathématiques et apprentissage statistique
Intérêt pour le sujet

Orange Innovation Recherche assure le pilotage des travaux de Recherche, en s'appuyant sur les équipes Orange Innovation Data-IA, d'Orange Innovation Networks, Orange Innovation IT et Services et Marketing & Design. Le domaine de recherche Confiance, Sécurité et Transactions répond aux défis de sécurité dans un écosystème en évolution permanente.
Desired start date : Feb 01, 2027, 12:00AM
At Orange, only your skills matter.
Regardless of your age, gender, background, origin, religion, sexual orientation, disability, neurodiversity, or appearance, we actively encourage diversity within our teams, as it is a collective strength and a driver of innovation.
Orange is a disability-inclusive employer: please feel free to let us know about any specific needs you may have