Thèse : Modélisation et exploitation de la criticité pour la fiabilisation des IA physiques F/H

Descrizione del lavoro:

Publication date : May 29, 2026, 3:24PM
Contexte globalet problématique du sujet

Les systèmes agentiques, basés sur les LLM, visent à automatiser la prise de décision et d'action dans le monde réel grâce à l'IA. L'émergence de protocoles standardisés (ex : MCP, A2A) accélère l'intégration de ces outils. Toutefois, les IA génératives restent sujettes à l'erreur, ce qui limite leur adoption industrielle [1]. Pour Orange, fiabiliser ces systèmes est stratégique : cela renforce la confiance, différencie l'offre et ouvre de nouveaux marchés. 

La criticité correspond au niveau d'importance d'un risque, d'un incident, d'un équipement ou d'une situation, en fonction de ses conséquences et de sa probabilité d'occurrence.
Elledoit permettre de guider les choix des systèmes agentiques qui interagissent avecle monde réel, afin de limiter les erreurs et d'anticiper les conséquences (sécurité, environnement, coût) et d'adapter dynamiquement le comportement de l'agent au niveau de risque associé à son contexte d'action.La problématique est de réussir àla modéliser et l'exploiter.

Pour cela, on pourras'inspirer des travaux sur la planification sûre et la prise en compte explicite du risque [1,2,3] mais en intégrant unenvironnement dynamique, où l'usage d'outils change les états et où le monde physique continue d'évoluer.
 
Objectifscientifique - résultats et verrous à lever
Les travaux viseront en particulier à :
* proposer unedéfinition de la criticitédans le contexte de l'IA agentique
* développer des méthodes permettantd'évaluer dynamiquement cette criticité, par exemple à l'aide de simulations, d'apprentissage par renforcement ou de modèles hybrides
* intégrer cette mesure dans l'architecture des agents, que ce soit au niveau du guidage de la planification, de la spécialisation de LLM, de la sélection d'outils, ou de la conception de planificateurs dédiés
* valider expérimentalement l'approche sur des cas d'usage industriels, tels que l'orchestration ou des environnements de type workspace
* produire des résultats valorisables sous forme de publications scientifiques ou de brevets
En s'appuyant sur la bibliographie existante,les travaux s'articuleront en trois étapes : la définition d'un cadre théoriquedéfinissant la criticité pour les systèmes agentiques, son évaluation expérimentale sur des données réelles et des cas d'usage représentatifs, puis la généralisation des résultats en recommandations et méthodes réutilisables dans d'autres contextes opérationnels.
[1] F. Lei et al., "MCPVerse: An Expansive, Real-World Benchmark for Agentic Tool Use, 2025.
[2] Y. Wu, et al., « SELP: Generating Safe and Efficient Task Plans for Robot Agents with Large Language Models », ICRA 2025.
[3] J. Fan, et al., « SafeGen-LLM: Enhancing Safety Generalization in Task Planning for Robotic Systems », 2026.
[4] I. Obi, et al., « SafePlan: Leveraging Formal Logic and Chain-of-Thought Reasoning for Enhanced Safety in LLM-based Robotic Task Planning », 2025.
Le ou la candidate devra disposer de solides connaissances en intelligence artificielle et en machine learning, ainsi que de bonnes compétences en algorithmique et en programmation Python. Une appétence pour la recherche, de la curiosité scientifique, de la rigueur et une capacité à travailler de manière autonome seront particulièrement appréciées.
Le poste s'adresse à un ou une candidate titulaire d'un Master 2 Recherche ou d'un diplôme d'ingénieur dans le domaine de l'IA, du machine learning ou d'un domaine proche.
Une première expérience en recherche ou R&D (par exemple sous la forme d'un stage ou d'une participation à la rédaction d'un article scientifique) constituera un atout. Une expérience préalable sur les systèmes agentiques sera également appréciée.
Vous participerez à un projet de recherche combinant des thématiques de pointe telles que l'IA agentique, la modélisation et la simulation à base de jumeau numériques, l'IA Physique. Vos travaux contribueront directement à la mise en œuvre de solutions et/ou enabler de confiance dans l'automatisation de processus à base d'agentique. Ces travaux permettront d'améliorer les solutions directement utilisées dans le groupe Orange mais également de proposer à nos clients B2B des solutions agentiques de confiance.
L'ambition de la Division Innovation est de porter plus loin l'innovation d'Orange et de renforcer son leadership technologique, en mobilisant nos capacités de recherche pour nourrir une innovation responsable au service de l'humain, éclairer les choix stratégiques du Groupe à long terme et influencer l'écosystème digital mondial.
Nous formons les expertes et les experts des technologies d'aujourd'hui et de demain, et veillons à une amélioration continue de la performance de nos services et de notre efficacité. La division Innovation rassemble, dans le monde, 6000 salariés dédiés à la recherche et l'innovation dont 740 chercheurs. Porteurs d'une vision globale avec une grande diversité de profils (chercheurs, ingénieurs, designers, développeurs, data scientists, sociologues, graphistes, marketeurs, experts en cybersécurité…), les femmes et les hommes de Innovation sont à l'écoute et au service des pays, des régions et des business units pour faire d'Orange un opérateur multiservices de confiance.
« Au sein de l'Innovation, vous intégrerez une équipe pluridisciplinaire dédiée à la recherche et à l'exploration, intervenant principalement sur les enjeux liés à l'environnement de travail de demain, à la performance des entreprises et à l'optimisation de leurs processus. Vous évoluerez au sein d'un écosystème de recherche en lien étroit avec les unités opérationnelles, avec pour ambition de concevoir des solutions d'orchestration, d'intégration et de simplification des servi ».
At Orange, only your skills matter.
Regardless of your age, gender, background, origin, religion, sexual orientation, disability, neurodiversity, or appearance, we actively encourage diversity within our teams, as it is a collective strength and a driver of innovation.
Orange is a disability-inclusive employer: please feel free to let us know about any specific needs you may have