Théorie abstraite de l'explicabilité / abstract theory of explainability

Théorie Abstraite de l'Explicabilité // Abstract Theory of Explainability

Réf ABG-127817
ADUM-60381

Sujet de Thèse
08/01/2025
Contrat doctoral
Université de Toulouse
Lieu de travail: Toulouse cedex 4 - France


Intitulé du sujet

Théorie Abstraite de l'Explicabilité // Abstract Theory of Explainability


Champs scientifiques

* Informatique


Mots clés

IA Explicable, Raisonnement Formelle
Explainable AI, Formal Reasoning


Description du sujet

L'amélioration de la confiance dans les décisions prises par les modèles automatisés devient cruciale pour leur acceptation par les utilisateurs finaux, et un moyen important d'y parvenir est de fournir des explications sur leur comportement. Ce besoin a donné naissance à un nouveau sous-domaine de l'intelligence artificielle, le XAI, dont les approches fournissent des moyens d'expliquer ce que font les modèles d'IA et pourquoi ils le font.

Une pléthore de modèles a été étudiée dans la littérature, allant des modèles d'apprentissage automatique aux systèmes de raisonnement non monotones et la sémantique de l'argumentation. Dans ces cas disparates, les modèles sont différents car ils manipulent des objets différents (par exemple, les graphes dans l'argumentation et les valeurs d'attribut dans la classification) et s'attaquent à des tâches différentes (classification, inférence, évaluation,...). Par conséquent, les explications des modèles prennent également différentes formes (arguments, graphes, formules, valeurs d'attributs,...). Ces différences rendent difficile la comparaison de leurs explicateurs.

Cette thèse de doctorat vise à définir une théorie abstraite de l'explicabilité qui peut être instanciée pour expliquer n'importe lequel des modèles spécifiques mentionnés ci-dessus. L'idée est de considérer un modèle d'IA comme une fonction arbitraire dont les entrées et les sorties sont prises dans un domaine arbitraire (graphes, formules logiques, attributs-valeurs,...). Ainsi, le modèle et les données qu'il manipule sont abstraits.

La thèse abordera les défis suivants :

1. Définir le cadre formel dans lequel les modèles sont des entités abstraites.
2. Définir la notion d'explicateur et les propriétés formelles qu'il devrait satisfaire.
3. Générer différents types d'explications, y compris contrefactuelles, contrastives, abductives d'une manière uniforme.
4. Instancier le cadre avec divers modèles d'IA, y compris la sémantique graduelle dans l'argumentation, des classificateurs à boîte noire.


Début de la thèse

01/09/2025


Nature du financement

Contrat doctoral


Précisions sur le financement

Concours pour un contrat doctoral


Présentation établissement et labo d'accueil

Université de Toulouse


Etablissement délivrant le doctorat

Université de Toulouse


Ecole doctorale

475 EDMITT - Ecole Doctorale Mathématiques, Informatique et Télécommunications de Toulouse


Profil du candidat

Le raisonnement logique et la capacité à comprendre des notions abstraites sont essentiels. Une formation en mathématiques serait un avantage.

Date limite de candidature: 31/03/2025

#J-18808-Ljbffr