Offre en lien avec l’Action/le Réseau : MACLEAN/Doctorants

Laboratoire/Entreprise : LISTIC (Université Savoie Mont-Blanc)
Durée : 3 years
Contact : guillaume.ginolhac@univ-smb.fr
Date limite de publication : 2022-11-01

Contexte :
Institutions: LISTIC, Université Savoie Mont-Blanc, L2S, Université Paris Saclay

Supervisors:
● M. Guillaume Ginolhac, guillaume.ginolhac@univ-smb.fr (04 50 09 65 83),
● Mme Yajing Yan, yajing.yan@univ-smb.fr (04 50 09 65 36),
● M. Nabil El Korso, elkorso.nabil.mohammed@gmail.com (01 40 97 41 39)

Funding: ANR REPED-SARIX project (already obtained)

Beginning date: October 2022

Keywords: SAR interferometry, robust statistics, recursive estimation, missing data imputation, time series

Sujet :
The systematic acquisition of and free access to Sentinel-1 A/B Synthetic Aperture Radar (SAR) images covering Europe every 6 days (every 12 days elsewhere) provide scientists with both opportunities and challenges for operational monitoring of Earth deformation by SAR image time series. Actually, the displacement estimation with SAR image time series has been well studied with the development of numerous multi-temporal Interferometry SAR (InSAR) methods, such as Small BAseline Subset, Permanent Scatterer Interferometry, SqueeSAR, Phase Linking methods, Multi-link InSAR, CAESAR, Least-Square estimator and EMI [1-4]. However, incremental methodological development still seems necessary to reply to the operational requirement, that is, the processing should be efficient and robust, and the results should be reliable.

1. Displacement times series estimation

Thanks to the aforementioned multi-temporal InSAR methods, the accuracy of the displacement velocity estimation has been revolutionized to millimeters per year. However, these methods are mainly retrospective analysis tools and do not allow efficient gradual integration of new SAR images that arrive over time, and it is necessary to restart part of or the whole displacement estimation processing chain, which would be prohibitively expensive in practice and does not answer the need for operational monitoring. In particular, the computational cost is significant when dealing with non-Gaussian data [5] in case of high-resolution SAR data. It is thus crucial to elaborate advanced recursive multi-temporal InSAR methods allowing for efficient gradual integration of new arriving SAR images. Some algorithms have already been developed in the literature, but they do not consider the non gaussianity of the data and their inherent structure [6,7].

In this Ph.D thesis, we aim to develop a novel robust and recursive multi-temporal InSAR approach for operational displacement estimation from SAR image time series. We consider the state-of-the-art Phase Linking approach as the baseline approach in which the sample covariance matrix of SAR image time series is fully exploited. First, we propose a sequential or recursive estimation of the covariance matrix of SAR images, considering the structure of the covariance matrix that is directly related to the decorrelation properties of the targets under observation. Second, we integrate temporal decorrelation models (with possible unknown parameters) providing prior information on the structure of the covariance matrix in the sequential or recursive estimation process to improve the efficiency. We then deploy the Expectation – Maximization (EM) algorithm to estimate jointly the unknown model parameters and the covariance matrix in an iterative way [9]. The displacement time series can be later obtained from the properly estimated covariance matrix.

2. Missing data imputation in SAR displacement time series

Missing data can exist in the displacement time series, mainly due to the coherence loss that results in unreliable displacement estimations. Data gaps can hinder the full understanding of the phenomenon under observation. It is then necessary to fill the gaps by using some data imputation techniques [10].

The second objective of this Ph.D consists of imputing missing data in displacement time series, with the missing data mechanism taken into account by assuming statistical laws and estimating the parameters that describe these statistical laws. We propose to develop a new approach based on the recent reference of [11].

We consider the ‘’Piton de la Fournaise’’ and Merapi volcano test sites as proving ground for the developed approach in this Ph.D thesis. Both descending and ascending Sentinel-1 A/B acquisitions are available. GPS measurements from permanent GNSS stations are also available for results comparison and validation.

References :

[1] A. M. Guarnieri and S. Tebaldini, (2008). On the exploitation of target statistics for sar interferometry applications. IEEE Transactions on Geoscience & Remote Sensing, 46(11) :3436–3443.
[2] P.S. Marinkovic, F. van Leijen, G. Ketelaar, R.F. Hanssen, (2005), Recursive data processing and data volume minimization for PS-InSAR, Proceedings. 2005 IEEE International Geoscience and Remote Sensing Symposium. DOI: 10.1109/IGARSS.2005.1525622
[3] S. Samiei-Esfahany, J.E. Martins, F. van Leijen, R.F. Hanssen, (2016), Phase estimation for distributed scatterers in InSAR stacks using integer least squares estimation, IEEE Transactions on Geosciences & Remote Sensing, vol.54, no.10, pp.5671-5687
[4] M. Schmitt, J.L. Schönberger and U. Stilla, (2014), Adaptive covariance matrix estimation for multi-baseline InSAR data stacks, IEEE Transactions on Geosciences & Remote Sensing, 52(11), pp.6807-6817.
[5] H. Vu, F. Brigui, A. Breloy, Y. Yan, G. Ginolhac, A new phase linking algorithm for multi-temporal INSAR based on the maximum likelihood estimator, IGARSS 2022
[6] H. Ansari, F. De Zan and R. Bamler, (2017), Sequential estimator: Towards efficient InSAR time series analysis, IEEE Transactions on Geosciences & Remote Sensing, 55(10), pp. 5637 – 5652.
[7] F. De Zan, (2020), Progressive InSAR phase estimation, https://arxiv.org/abs/2010.02533
[8] B. Mériaux, C. Ren, M. N. El Korso, A. Breloy and P. Forster, (2019), Robust Estimation of Structured Scatter Matrices in (Mis)matched Models, Signal Processing Journal, Elsevier, vol. 165, pp.163-174.
[9] S. Said, H. Hajri, L. Bombrun, B. Vemuri, (2018), Gaussian Distributions on Riemannian Symmetric Spaces: Statistical Learning With Structured Covariance Matrices, IEEE Transactions on Information Theory, 64(2), pp.752-772.
[10] Hippert-Ferrer A., Yan Y., Bolon P., EM-EOF: gap-flling in incomplete SAR displacement time series. IEEE Transactions on Geoscience and Remote Sensing, 2020.
[11] Sportisse, A., Boyer, C., & Josse, J. (2020). Estimation and imputation in probabilistic principal component analysis with missing not at random data. Advances in Neural Information Processing Systems, 33, 7067-7077.

Profil du candidat :
Profile of candidate: The Ph.D candidate should have good skills in mathematics/statistics and/or signal/image processing. Knowledge in SAR is appreciated.

Formation et compétences requises :
mathematics/statistics and/or signal/image processing master

Adresse d’emploi :
LISTIC (Annecy) and LSS (Paris Saclay)

Document attaché : 202208220654_SujetTheseMultiTemporalInSAR.pdf

Offre en lien avec l’Action/le Réseau : RoCED/– — –

Laboratoire/Entreprise : équipe Traitement du Signal du laboratoire CReSTIC
Durée : CIFRE, 3.5 ans
Contact : valeriu.vrabie@univ-reims.fr
Date limite de publication : 2022-09-18

Contexte :
Les architectures de Deep Learning utilisées pour des tâches de localisation et de classification à partir d’images ont principalement évolué dans deux directions différentes : la 1re vise à optimiser les performances et la 2nde à réduire les temps de calcul. Dans le 1er cas, de nouvelles architectures de type CNN de plus en plus denses ou de nouvelles alternatives par exemple CapsNet ont permis d’améliorer les performances [Men22]. En revanche, ces architectures nécessitent des ressources de calcul importantes et des bases de données étendues. Dans le 2e cas, différentes approches telles que pruning, l’utilisation d’opérateurs séparables en profondeur, etc. ont été proposées pour réduire la complexité des calculs, mais cela se fait au détriment des performances. D’autres approches alternatives de type hiérarchique ont été proposées récemment afin de pouvoir répondre simultanément aux deux objectifs [RPR21,Hel22].
D’un autre côté, la prise en compte d’autres données endogènes et exogènes, par exemple des images acquises avec d’autres caméras, des données météo, des informations complémentaires sur l’état sanitaire des plantes, etc. permet d’améliorer la robustesse des résultats. Cela est possible grâce à l’utilisation des architectures très denses ou d’un ensemble d’architectures dont les décisions sont fusionnées. Là aussi des approches alternatives permettant de fusionner des features intermédiaires permettent de réduire le temps de calcul ou d’améliorer les performances en fonction de la stratégie retenue [Yis21].
Dans les deux cas, l’apprentissage supervisé nécessite de larges bases de données annotées, tâche qui est difficile et couteuse en temps et en ressources. Les options de data augmentation sont souvent utilisées, mais ne permettent pas de créer suffisamment de diversité. Des approches génératives de type GAN permettent d’aller plus loin dans la création de nouvelles données pertinentes [Goo14]. Ces types d’approches se basent sur des données existantes et ne peuvent pas prendre en compte des problématiques réelles, par exemple des classes qui varient au cours du temps ou l’apparition de nouvelles classes. Par exemple, en viticulture, cela peut être dû à des changements des conditions météo ou traitements phytosanitaires ou bien à l’apparition de symptômes confondants induits par des carences ou par l’expression d’autres maladies. En robotique, cela peut être dû des changements de luminosité ou d’environnement.
Des approches potentiellement intéressantes ont été proposées pour résoudre en partie ces problématiques. Les approches de type reinforcement learning permettent au travers d’un système de récompense et pénalités de prendre en compte l’aspect adaptatif [Yad22]. Néanmoins, ces approches sont souvent utilisées avec un seul type d’architecture et principalement que pour la phase d’apprentissage. Les approches de type semi-supervisées, notamment d’active learning et self-supervised learning, permettent de prendre en compte l’apparition de nouvelles classes et de réduire le besoin en données annotées [WPW22]. Néanmoins, ces approches sont aussi principalement utilisées dans la phase d’apprentissage et sont très sensibles aux étapes initiales du processus. Des approches récentes de type continual learning permettent aussi de gérer le problème de nouvelles classes [KC21]. Elles sont par ailleurs adaptées à un environnement évolutif. Ces approches sont en revanche sensibles au phénomène de « catastrophic forgetting », c’est-à-dire la perte de toutes les connaissances acquises en amont lorsqu’on s’adapte à une nouvelle tâche ou une nouvelle classe. D’autre part, pour apporter un aspect dynamique au moment de l’inférence, elles se limitent à un espace de solutions restreint.
En pratique, par exemple pour des applications viticoles, une certaine cyclicité des classes est souvent observée en fonction des conditions exogènes (météo similaire certaines années, traitements phytosanitaires périodiques, etc.). D’autre part, les classes évoluent au cours du temps compte tenu de l’adaptation des plantes à l’environnement, de nouvelles apparaissent à la suite de changements climatiques.
[Goo14] I. J. Goodfellow et al., Generative Adversarial Networks, arXiv 2014, DOI: 10.48550/arXiv.1406.2661.
[Hel22] G. Heller, E. Perrin, V. Vrabie, C. Dusart, S. Le Roux: Grafting heterogeneous neural networks for a hierarchical object classification, IEEE Access, Jan. 2022: 12927 – 12940, DOI: 10.1109/ACCESS.2022.3144579
[KC21] J.-Y. Kim, D.-W. Choi, Split-and-Bridge: Adaptable Class Incremental Learning within a Single Neural Network, arXiv 2021, DOI: 10.48550/arXiv.2107.01349
[Men22] P. Mensah Kwabena et al., Capsule Networks – A survey, Journal of King Saud University – Computer and Information Sciences, 2022, 34(1):1295–1310 doi.org/10.1016/j.jksuci.2019.09.014
[RPR21] D. Roy, P. Panda, K. Roy, Tree-CNN: A Hierarchical Deep Convolutional Neural Network for Incremental Learning, arXiv 2019, DOI: 10.48550/arXiv.1802.05800
[Yad22] P. Yadav et al., A Survey on Deep Reinforcement Learning-based Approaches for Adaptation and Generalization, arXiv 2022, DOI: 10.48550/arXiv.2202.08444
[Yis21] H. Yizeng et al., Dynamic Neural Networks: A survey, arXiv 2021, DOI: 10.48550/arXiv.2102.04906
[WPW22] Z. Wen, O. Pizarro, S. Williams, Active Self-Semi-Supervised Learning for Few Labeled Samples Fast Training, arXiv 2022, DOI: 10.48550/arXiv.2203.04560

Sujet :
L’objectif de cette thèse est de développer des stratégies de détection et classification qui s’appuient et qui combinent les concepts de reinforcement learning, de continual learning et l’apprentissage semi-supervisé à la fois pour l’étape d’apprentissage, mais aussi pour la prise de décision au moment de l’étape de l’inférence. Cette dernière devra être faite idéalement sur un système embarqué (edge computing) ou au plus proche du capteur (fog computing), ce qui complexifie la tâche, tout comme l’utilisation conjointe de capteurs différents, par exemple de caméras multi-spectrales dans le domaine NIR et SWIR. Les résultats devront être robustes par rapport à des conditions d’acquisition variables (luminosité, etc.), à des facteurs exogènes (traitements phytosanitaires, carence, stress hydrique, etc.), mais aussi à des facteurs endogènes (dynamique de croissance, réponse immunitaire par rapport aux maladies, etc.). Ces stratégies devront être transférables à d’autres applications, par exemple de systèmes robotisés terrestres opérant à l’extérieur.

Profil du candidat :
• Motivation très importante, curiosité et autonomie
• Esprit d’initiative et d’analyse
• Méthode et rigueur dans le travail
• Bon relationnel et esprit d’entreprise
• Maitrise du français et de l’anglais indispensable

Formation et compétences requises :
• Formation bac +5 (école d’ingénieurs ou master) en data science, informatique ou mathématiques appliquées
• Connaissances avancées en intelligence artificielle, éprouvées dans un stage de fin d’études
• Des connaissances solides en Deep Learning sont un vrai plus
• Très bonne maîtrise du langage Python et à l’aise avec l’utilisation de frameworks type Keras, Pytorch et/ou Tensorflow pour implémenter et tester les diverses architectures
• Une expérience en programmation C++ sur systèmes embarqués serait un plus

Adresse d’emploi :
Thèse CIFRE :
– SEGULA MATRA Automotive, agence de Reims
– laboratoire CReSTIC de l’URCA, Campus Sciences, Reims (https://crestic.univ-reims.fr/fr/equipe/ts)

Informations pratiques :
• Pré-embauche : mi-octobre / début novembre 2022
• Début thèse : début mars 2023

Offre en lien avec l’Action/le Réseau : – — –/– — –

Laboratoire/Entreprise : LAMSADE (Paris) / LIG (Grenoble)
Durée : 3 ans
Contact : alexandre.allauzen@dauphine.psl.eu
Date limite de publication : 2022-09-20

Contexte :
The ANR project E-SSL (Efficient Self-Supervised Learning for
Inclusive and Innovative Speech Technologies) will start on November
1st. Self-supervised learning (SSL) has recently emerged as one of the
most promising artificial intelligence (AI) methods as it becomes now
feasible to take advantage of the colossal amounts of existing
unlabeled data to significantly improve the results of
various systems.

Speech technologies are widely used in our daily life and are
expanding the scope of our action, with decision-making systems,
including in critical areas such as health or legal aspects. In these
societal applications, the question of the use of these tools raises
the issue of the possible discrimination of people according to
criteria for which society requires equal treatment, such as gender,
origin, religion or disability… Recently, the machine learning
community has been confronted with the need to work on the possible
biases of algorithms, and many works have shown that the search for
the best performance is not the only goal to pursue [1]. For instance,
recent evaluations of ASR systems have shown that performances can
vary according to the gender but these variations depend both on data
used for learning and on models [2]. Therefore such systems are
increasingly scrutinized for being biased while trustworthy speech
technologies definitely represents a crucial expectation.

Sujet :

Both the question of bias and the concept of fairness have now become
important aspects of AI, and we now have to find the right threshold
between accuracy and the measure of fairness. Unfortunately, these
notions of fairness and bias are challenging to define and
theirmeanings can greatly differ [3].

The goals of this PhD position are threefold:
– First make a survey on the many definitions of robustness, fairness
and bias with the aim of coming up with definitions and metrics fit
for speech SSL models
– Then gather speech datasets with high amount of well-described
metadata
– Setup an evaluation protocol for SSL models and analyzing the
results. The PhD position will be co-supervised by Alexandre Allauzen
(Dauphine Université PSL, Paris) and Solange Rossato and François
Portet (Université Grenoble Alpes). Joint meetings are planned on a
regular basis and the student is expected to spend time in both
places. Moreover, two other PhD positions are open in this
project. The students, along with the partners will closely
collaborate. For instance, specific SSL models along with evaluation
criteria will be developed by the other PhD students.

To apply, send a CV and a cover letter to A. Allauzen before September
the 12th

Profil du candidat :
Skills
– Master 2 in Natural Language Processing, Speech Processing, computer
science or data science.
– Good mastering of Python programming and deep learning framework.
– Previous experience in Self-Supervised Learning, acoustic modeling
or ASR would be a plus
– Very good communication skills in English
– Good command of French would be a plus but is not mandatory

Formation et compétences requises :
See skills.

Adresse d’emploi :
Université Paris-Dauphine / Laboratoire d’Informatique de Grenoble