Vérification formelle des systèmes d'IA agentive // Formal Verification of Agentic AI Systems
Role details
Job location
Tech stack
Job description
Vérification formelle des systèmes d'IA agentive // Formal Verification of Agentic AI Systems Mots clés IA agentive, Vérification formelle, Raisonnement stratégique, Systèmes multi-agents Agentic AI, Formal Verification, Strategic Reasoning, Multi-Agent Systems, L'Intelligence Artificielle Agentive (Agentic AI) est une direction émergente de l'IA contemporaine. Ces systèmes combinent raisonnement basé sur les LLM, planification, mémoire, utilisation d'outils et prises de décision autonomes, agissant comme des agents capables de résoudre des problèmes dans des environnements complexes.
Malgré leurs capacités, ces systèmes manquent de fondations formelles : pipelines faiblement organisés, comportement stratégique imprévisible et absence de garanties de sécurité.
Cette thèse vise à établir les fondations de la vérification formelle des systèmes Agentic AI, en adaptant le model checking à ce nouveau paradigme. L'objectif est de modéliser rigoureusement les agents pilotés par LLM, surveiller leurs comportements stratégiques et étudier la vérification dans des contextes dynamiques et incertains, fournissant ainsi les premiers outils formels pour ces environnements.
Requirements
Agentic Artificial Intelligence (Agentic AI) is an emerging direction in contemporary AI. These systems combine LLM-based reasoning, planning, memory, tool use, and autonomous decision-making, enabling them to act as agents capable of solving problems in complex environments.
Despite their capabilities, these systems lack formal foundations: they are typically loosely organized pipelines with unpredictable strategic behavior and no safety guarantees.
This PhD aims to establish the foundations of formal verification for Agentic AI systems by adapting model checking to this new paradigm. The goal is to rigorously model LLM-driven agents, monitor their strategic behaviors, and study verification in dynamic and uncertain contexts, providing the first formal tools for these environments., Compétences et Qualifications Attendues : - Master en informatique, mathématiques, intelligence artificielle ou dans un domaine connexe. - Solide formation en informatique et/ou en mathématiques, avec un accent sur les méthodes formelles, la logique ou l'informatique théorique. - Bonnes compétences en programmation et expérience en développement logiciel. - Maîtrise de l'anglais écrit et oral. - Curiosité, motivation et capacité à explorer de nouvelles directions de recherche, en particulier à l'intersection de l'IA symbolique et subsymbolique. Compétences Supplémentaires Souhaitables : - Intérêt pour l'IA autonome, les systèmes multi-agents ou les modèles de langage de grande taille (LLM). - Connaissances de base en model checking, vérification à l'exécution ou logiques temporelles et stratégiques. - Ouverture aux approches interdisciplinaires et à la recherche collaborative. Expected Competencies and Qualifications: - Master's degree in Computer Science, Mathematics, Artificial Intelligence, or a related field. - Strong foundation in computer science and/or mathematics, with emphasis on formal methods, logic, or theoretical computer science. - Solid programming skills and experience with software development. - Proficiency in written and spoken English. - Curiosity, motivation, and the ability to explore new research directions, particularly at the intersection of symbolic AI. Additional Desirable Skills: - Interest in autonomous AI, agent systems, or large language models. - Basic knowledge of model checking, runtime verification, or temporal and strategic logics. - Openness to interdisciplinary approaches and collaborative research. Date limite de candidature 31/05/2026
Benefits & conditions
Début de la thèse : 01/10/2026
Nature du financement
Précisions sur le financement
Allocation doctorale AMXConcours IPP ou école membre
