ESI Talents

Sujet de Stage N°: 394

Sujet de Stage
Validation

Sujet de stage N° 394

Type*

Specialites*

Organisme*

Coencadrants*

Promoteur*

Marc Plantevit (MCF HDR, LIRIS, Lyon1), Céline Robardet (PR, LIRIS, INSA Lyon)

Email promoteur*

Tel promoteur

Intitule*

Explicabilité de modèles deep learning sur des données graphes avec une application en neurosciences.

Resume*

L’intelligence artificielle explicable (plus connue sur le terme explainable AI ou XAI)  a récemment reçu beaucoup d'attention avec notamment l’avènement de modèles de classification, prédictions ou recommandation dits « boites noires ». En effet, l’émergence de ces puissants modèles s’accompagnent de questions éthiques importantes : sur quoi s’est appuyé le modèle pour prendre sa décision ? Utilise-t-il des attributs potentiellement source de discrimination ? Ne s’appuie-t-il pas sur un biais des données ? Ces différentes questions soulignent l’importance de comprendre les décisions prises par un algorithme.
    
Les réseaux neuronaux de graphes (GNN) sont un outil puissant pour l'apprentissage machine sur les graphes. Les GNN combinent les informations sur les caractéristiques des nœuds avec la structure du graphe en faisant passer récursivement des messages neuronaux le long des bords du graphe d'entrée. Cependant, l'incorporation de la structure du graphe et des informations sur les caractéristiques conduit à des modèles complexes et l'explication des prédictions faites par les GNN, malgré les travaux déjà faits, pose encore un problème.

Objectifs*

L'objectif principal de ce stage est de définir une méthode pour expliquer les modèles basés sur les données graphes en attaquant les verrous suivants :  
		1) Générer pour chaque ensemble de décisions un ensemble minimal d’explications couvrant ces décisions en utilisant les explications locales (vue qu'elles garantissent la plus grande fidélité)
		2) Générer un bon langage de description automatiquement ce qui implique la définition d’une méthode générique et garantir que les explications données sont les plus simples
		3) Intégration des connaissances du domaine pour permettre d'appréhender et d'étudier un modèle
		4) Comparaison de deux modèles qualitativement afin d'identifier le bon modèle pour une tâche et d'éviter de considérer  des modèles inutilement complexes

Resultats attendus*

1) État de l’art sur le domaine
2) Définition d’une nouvelle méthode
3) Prototypage et implémentation 
4) Étude empirique

Antecedents

Moyens informatiques

Echeancier*

Etape 1 : Etat de l’art sur le domaine (3 mois)
Etape 2 : Tests des méthodes existantes (1 mois)
Etape 3 : Prototypage et implémentation (2 mois)
Etape 4 : Tests et évaluation empirique (2 mois)
Etape 5 : Finalisation de la rédaction du rapport de PFE (1 mois)

Bibliographie

Andrews, R., Diederich, J., Tickle, A.B.: Survey and critique of techniques for extracting rules from trained artificial neural networks. Knowl. Based Syst. 8(6), 373–389 (1995)
	
Augasta, M.G., Kathirvalavakumar, T.: Reverse engineering the neural networks for rule extraction in classification problems. Neural Processing Letters 35(2), 131– 150 (2012)
	
Anes Bendimerad, Jefrey Lijffijt, Marc Plantevit, Céline Robardet, Tijl De Bie: Contrastive Antichains in Hierarchies. KDD 2019: 294-304
	
Anes Bendimerad, Ahmad Mel, Jefrey Lijffijt, Marc Plantevit, Céline Robardet, Tijl De Bie: SIAS-miner: mining subjectively interesting attributed subgraphs. Data Min. Knowl. Discov. 34(2): 355-393 (2020)
	
Caruana, R., Lou, Y., Gehrke, J., et al.: Intelligible models for healthcare. In: ACM SIGKDD. pp. 1721–1730 (2015)
	
Devlin, J., Chang, M., Lee, K., et al.: BERT: pre-training of deep bidirectional transformers for language understanding. In: NAACL-HLT. pp. 4171–4186 (2019)
	
Fong, R.C., Vedaldi, A.: Interpretable explanations of black boxes by meaningful perturbation. In: IEEE ICCV. pp. 3449–3457 (2017)
	
Fung, G., Sandilya, S., Rao, R.B.: Rule extraction from linear support vector machines. In: ACM SIGKDD. pp. 32–40 (2005)
	
Guidotti, R., Monreale, A., Matwin, S., et al.: Black box explanation by learning image exemplars in the latent feature space. ECMLPKDD (2020)
	
Guidotti, R., Monreale, A., Ruggieri, S., et al.: A survey of methods for explaining black box models. ACM Comput. Surv. 51(5), 93:1–93:42 (2019)
	
Mehdi Kaytoue, Marc Plantevit, Albrecht Zimmermann, Ahmed Anes Bendimerad, Céline Robardet: Exceptional contextual subgraph mining. Mach. Learn. 106(8): 1171-1211 (2017)
	
Molnar, C.: Interpretable Machine Learning (2019)
	
Ribeiro, M.T., Singh, S., Guestrin, C.: ”why should I trust you?”: Explaining the predictions of any classifier. In: ACM SIGKDD. pp. 1135–1144 (2016)
	
Shrikumar, A., Greenside, P., Kundaje, A.: Learning important features through propagating activation differences. In: ICML. pp. 3145–3153 (2017)
	
Ying, Z., Bourgeois, D., You, J., et al.: Gnnexplainer: Generating explanations for graph neural networks. In: NeurIPS. pp. 9240–9251 (2019)

Statut validation*

Reponse aux experts

Reserve pour*

Projet recherche

Notification

Avis sur le Sujet de Stage

Intitule	Organisme	Debut	Fin	Avis	Commentaire
Explicabilité de modèles deep learning sur des données graphes avec une application en neurosciences.	LIRIS : Laboratoire d'Informatique en Image et Systemes d'Information	10/11/2020	10/29/2020	Avis favorable	—
Explicabilité de modèles deep learning sur des données graphes avec une application en neurosciences.	LIRIS : Laboratoire d'Informatique en Image et Systemes d'Information	10/11/2020	10/29/2020	Avis favorable	—
Explicabilité de modèles deep learning sur des données graphes avec une application en neurosciences.	LIRIS : Laboratoire d'Informatique en Image et Systemes d'Information	10/11/2020	10/29/2020	Avis favorable avec réserves mineures	Il me semble qu'il y a un peu trop de travail demandé pour une durée si courte. Il faudrait réduire le nombre d'objectifs à atteindre.