Stage Deep Learning sur Graphes (GNN, Transformers)

When:
31/01/2022 – 01/02/2022 all-day
2022-01-31T01:00:00+01:00
2022-02-01T01:00:00+01:00

Offre en lien avec l’Action/le Réseau : – — –/– — –

Laboratoire/Entreprise : LIFAT Tours France
Durée : 5 mois
Contact : jyramel@univ-tours.fr
Date limite de publication : 2022-01-31

Contexte :
Ce stage est proposé dans le cadre d’un projet collaboratif mené par des membres du LIFAT (à Tours) et du LITIS (à Rouen) et visant à mieux coupler les techniques d’apprentissage profond et de reconnaissance des formes structurelles (traitement de données de type graphes, geometric deep learningn GNN, Graph Transormer).

Sujet :
Missions du stage :
Intégration d’informations structurelles dans le mécanisme d’attention des Graph Transformers ou GNN.
Dans des travaux précédents [2, 3], une première architecture GNN travaillant directement dans l’espace des graphes a été proposée. Les opérateurs de convolution et de pooling sont définis dans le domaine des graphes tout en permettant l’utilisation d’un algorithme de rétro-propagation pendant l’étape d’apprentissage. En particulier, la convolution est remplacée par un solveur d’appariement de graphes [5] appliqué sur un sous-graphe enraciné autour de chaque nœud du graphe. L’idée est d’étudier l’utilisation d’un solveur de mise en correspondance de graphes dans l’objectif d’un mécanisme d’attention structurelle. L’objectif de ce travail serait ainsi de :
1. Etudier des méthodes alternatives de mise en place du mécanisme d’attention pour prendre mieux en compte les informations structurelles.
2. Proposer un modèle de transformer de graphes basé sur un de ces mécanismes d’attention structurel.
3. Programmer ces modèles (en Python), et les comparer à l’état de l’art sur des jeux de données standards pour différentes applications.

Code suggéré : Les lecteurs intéressés pourraient considérer le code suivant comme une base de référence: https://github.com/graphdeeplearning/graphtransformer

Profil du candidat :
• Licence/master en informatique, mathématiques appliquées, science des données, ou similaire.
• Compétences (avec expériences si possible) : réseaux neuronaux, apprentissage profond, programmation Python, analyse numérique.

Le stage se déroulera entre fevrier et septembre 2022.
Possibilité de poursuite en thèse en septembre 2022

Formation et compétences requises :
• Licence/master en informatique, mathématiques appliquées, science des données, ou similaire.
• Compétences (avec expériences si possible) : réseaux neuronaux, apprentissage profond, programmation Python, analyse numérique.

Adresse d’emploi :
Le stage aura lieu au Laboratoire d’Informatique Fondamentale et Appliquees de Tours (LIFAT, http://lifat.univ-tours.fr )

Veuillez soumettre votre CV en format pdf à: ramel@univ-tours.fr and romain.raveaux@univ-tours.fr.

Document attaché : 202111181415_LIFAT_Internship_ANR_CodeGNNen.pdf