L’Institut Mines-Télécom (IMT) est un établissement public scientifique, culturel et professionnel (EPSCP) placé sous la tutelle des ministres chargés de l’industrie et du numérique. C’est le plus grand groupe d’écoles d’ingénieurs de France, avec 11 écoles d’ingénieurs publiques sur tout le territoire, formant 13 500 ingénieurs et docteurs. L’ITM emploie 4 500 personnes et dispose d’un budget annuel de 400 millions d’euros, dont 40 % proviennent de ses ressources propres. L’ITM compte 2 instituts Carnot, 35 chaires industrielles, produit 2 100 publications de rang A par an, 60 brevets et réalise 110 M€ de recherche sous contrat.

Fondée en 1843, IMT Mines Alès compte aujourd’hui 1 400 étudiants (dont 250 étudiants étrangers) et 380 collaborateurs. L’école dispose de 3 centres de recherche et d’enseignement de haut niveau scientifique et technologique, œuvrant dans les domaines des matériaux et du génie civil (C2MA), de l’environnement et des risques (CREER), de l’intelligence artificielle et de l’ingénierie industrielle et numérique (CERIS). Elle compte 12 plateformes technologiques et 1 600 entreprises partenaires. La personne recrutée sera affectée au Centre d’Enseignement et de Recherche en Informatique et Systèmes (CERIS).

CERIS comprend deux équipes de recherche, ISOAR pour Ingénierie des Systèmes et des Organisations pour les Activités à Risque et I3A pour Informatique, Image et Intelligence Artificielle. CERIS anime également deux départements d’enseignement : 2IA pour l’Informatique et l’Intelligence Artificielle et PRISM pour la Performance Industrielle et Systèmes Mécatroniques , ainsi que 2 plateformes technologiques : AIHM pour l’Imagerie et la Métrologie Humaine d’Alès et PFM pour la Plateforme Mécatronique .

Quel est l’impact des techniques XAI sur la collaboration Homme-Machine ? Le type de technique XAI que nous utilisons peut-il influencer notre évaluation des modèles formés ? Dans de nombreux cas, les modèles d’IA sont des systèmes complexes qui traitent d’énormes quantités de données et effectuent des calculs difficiles à interpréter intuitivement. L’objectif de l’explicabilité est de fournir aux utilisateurs des informations sur la logique décisionnelle du modèle afin qu’ils puissent comprendre et faire confiance aux résultats de l’IA. Nous souhaitons contribuer à déterminer si les techniques XAI peuvent biaiser la confiance que nous accordons à l’IA dans des contextes spécifiques. Nous souhaitons également évaluer si des techniques XAI spécifiques influencent les collaborations Homme-Machine évoluant vers une relation de médiation, de délégation ou de substitution.

Cette étude s’inscrit dans le cadre du projet européen ENFIELD. ENFIELD est sur le point de créer un centre d’excellence européen distinctif axé sur l’avancement de la recherche fondamentale dans le domaine de l’IA adaptative, verte, centrée sur l’humain et digne de confiance.

Vous contribuerez à :

• Évaluation des variations des résultats produits par les méthodes XAI dans des contextes d’étude spécifiques (par exemple, tâches de classification d’images et techniques XAI basées sur l’interprétabilité locale utilisant des méthodes d’attribution).

• Évaluer l’impact des méthodes XAI sur la collaboration homme-machine dans des contextes de prise de décision simplifiés :

o évaluation de la performance de l’opérateur humain dans la réalisation d’une tâche, dans différents contextes : seul, à l’aide d’un modèle prédictif dont les décisions seront expliquées/non expliquées, à l’aide d’une technique XAI.

o évaluation de la collaboration homme-machine : délégation, substitution ou médiation.

o évaluation des biais potentiels induits par les techniques d’IAO.

Vous participerez à la définition :

• Contextes d’études (ex : jeux, classification d’images) et protocoles de tests à prendre en compte.
• La sélection et la mise en œuvre de modèles prédictifs et de techniques XAI.
• Mettre en place les outils nécessaires à la réalisation des expérimentations couvertes par les protocoles d’études, par exemple le développement de jeux simples et d’interfaces d’aide à la décision. 
• La mise en œuvre des protocoles mentionnés ci-dessus sur des cohortes d’opérateurs humains.
• Évaluer et valoriser les résultats obtenus.

En fonction de votre profil, certains aspects seront explorés plus en profondeur que d’autres, et des aspects complémentaires seront envisagés concernant l’identification de techniques XAI susceptibles de répondre aux limites des techniques existantes identifiées dans la littérature ou par les tests réalisés. Nous restons ouverts aux suggestions de contributions des candidats en fonction de leurs domaines d’intérêt.