Explaining machine learning models on graphs by identifying hidden structures built by GNNs
Expliquer les modèles d'apprentissage automatique sur des graphes en identifiant les structures cachées construites par les GNN
Abstract
The last decade has witnessed a huge growth in the development of deep neural network-based techniques for graphs and Graph Neural Networks (GNNs) have proven to be the most effective for many graph machine learning problems. These powerful models are based on node representation learning which avoids the tedious and time-consuming task of hand-crafted feature engineering. However, the internal working of GNN models remains opaque which is the major obstacle to their deployment, raising some issues on societal acceptability and trustworthiness, requirements which enjoin making explicit the internal functioning of such models. In this thesis, we study the problem of GNN explainability. Our main contribution, INSIDE-GNN, aims at mining activation rules in the hidden layers to understand how the GNNs perceive the world. The problem is not to discover activation rules that are individually highly discriminating for an output of the model. Instead, the challenge is to provide a small set of rules that cover all input graphs. We introduce a subjective activation pattern domain to solve this task. INSIDE-GNN is thus an effective and principled algorithm to enumerate activation rules in each hidden layer. The proposed approach for quantifying the interest of these rules is rooted in information theory and can account for background knowledge on the input graph data. Activation rules can subsequently be used for explaining GNN decisions. Experiments on both synthetic and real-life datasets show highly competitive performance, with up to 200% improvement in fidelity on explaining graph classification model over the state-of-the art methods. Activation rules are not interpretable by themselves since they only define internal representations having a strong impact on the classification process. They are not sufficient to examine what the GNN actually captures and shed light on the hidden features built by the GNN. We propose to interpret these rules by identifying a graph that is fully embedded in the related subspace identified by the rule. The devised method, named DISCERN, is based on a Monte Carlo Tree Search controlled by a proximity measure between the graph embedding and the internal representation of the rule, as well as a realism factor that constrains the distribution of the labels of the graph to be similar to that observed on the dataset. The obtained graphs are realistic and fully understandable by the end user.
La dernière décennie a vu une énorme croissance dans le développement de techniques basées sur les réseaux de neurones profonds pour les graphes. Les réseaux de neurones sur graphes (GNNs) se sont avérés les plus efficaces pour de nombreux problèmes d’apprentissage automatique de graphes. Ces modèles puissants sont basés sur l’apprentissage de la représentation des nœuds, ce qui évite la tâche fastidieuse de construction artisanale de descripteurs de graphes. Cependant, le fonctionnement interne des modèles GNN reste opaque, ce qui constitue un obstacle majeur à leur déploiement, soulevant des questions d’acceptabilité sociale et de fiabilité, limites qui peuvent être surmontées par l’explication du fonctionnement interne de tels modèles. Dans cette thèse, nous étudions le problème de l’explicabilité des GNNs. Notre contribution principale, INSIDE-GNN, vise à extraire les règles d’activation dans les couches cachées du modèle pour comprendre quels descripteurs et caractéristiques de graphes ont été automatiquement extraits des graphes. Le problème n’est pas de découvrir des règles d’activation individuellement très discriminantes pour une classe du modèle, mais le défi consiste à fournir un petit ensemble de règles qui couvrent tous les graphes d’entrée. Nous proposons un domaine de motifs subjectif pour résoudre cette tâche. Nous proposons l’algorithme INSIDE-GNN qui est efficace pour énumérer les règles d’activation dans chaque couche cachée. L’approche proposée pour quantifier l’intérêt de ces règles repose sur la théorie de l’information pour construire un modèle des connaissances apportées par l’ensemble des règles. Les règles d’activation peuvent ensuite être utilisées pour expliquer les décisions du GNN. Les expériences sur des ensembles de données synthétiques et réels montrent des performances très compétitives, avec jusqu’à 200 % d’amélioration de la fidélité sur l’explication du modèle de classification des graphes par rapport aux méthodes de l’état de l’art. Cependant, les règles d’activation ne sont pas interprétables en elles-mêmes puisqu’elles reposent sur les représentations internes du GNN qui ont un fort impact dans le processus de classification. Elles ne permettent pas d’examiner ce que le GNN capture réellement et à faire la lumière sur les descripteurs cachés construits par le GNN. Nous proposons d’interpréter ces règles en identifiant un graphe entièrement plongé dans le sous-espace associé à chaque règle. La méthode DISCERN que nous avons mise mise au point est basée sur une recherche arborescente de type Monte Carlo dirigée par une mesure de proximité entre le plongement du graphe et la représentation interne de la règle. Les graphes ainsi obtenus sont réalistes et pleinement compréhensibles par l’utilisateur final.
Origin | Files produced by the author(s) |
---|