Offre en lien avec l’Action/le Réseau : – — –/– — –

Laboratoire/Entreprise : LIRIS, équipe Imagine (Lyon) / LabHC, équipe Image
Durée : 3 ans
Contact : stefan.duffner@insa-lyon.fr
Date limite de publication : 2022-03-31

Contexte :
Actuellement l’intelligence artificielle (IA) et les réseaux de neurones font l’objet de nombreux développements tant dans les grands groupes industriels (Google, Intel, Microsoft) que dans les laboratoires.
De nombreuses voies sont explorées, principalement au niveau serveur ou large infrastructure ce qui permet de gérer des réseaux neuronaux à très grand nombres de couches. Cependant, de nombreuses recherches ont
aussi pour vocation à délocaliser une partie des calculs au sein même du capteur. C’est le “Edge Computing” qui décrit le fait de rapprocher le traitement des données auprès du système les générant. Par essence, cela
s’oppose au “Cloud Computing” où le traitement est centralisé et réalisé dans un système central et distant (dans le cloud) imposant des communications bidirectionnelles coûteuses en temps et en traitement. Un des inconvénients majeurs du “cloud-computing” est la potentielle violation de la vie privée (privacy) puisque les données sont intégralement transférées sans le contrôle de l’individu. De nouvelles lois, comme [GDPR16], sont apparues pour limiter très fortement l’utilisation de telles techniques. L’approche “Edge” permet, en amenant une partie du calcul au plus près de la source des données, de répondre à cet inconvénient en ne
fournissant au cloud que des informations sur la donnée capturée. Cette approche permet également de tendre vers un traitement de données temps réel en réduisant les problèmes de bande passante et de latence, ce qui se traduit par de meilleures performances et une réduction des coûts d’exploitation des applications à forte intensité de données. Cela est d’autant plus prégnant lorsque les données d’entrée sont des images. Il est donc facile de comprendre que dans un contexte alliant intelligence artificielle donc calculs lourds et traitement de données “images”, des solutions basées sur la distribution des traitement sont les plus ad-hoc. Cette approche que l’on peut nommer Edge-AI va permettre d’exécuter des algorithmes de traitement à base d’intelligence artificielle au cœur même des appareils qui font partie du réseau “Edge Computing”, en ayant recours à une connexion internet de manière raisonnable.

Sujet :
L’objectif de cette thèse est de proposer des solutions novatrices aux problématiques de réseaux de capteurs d’images intelligents (smart vision sensors), notamment l’’intégration d’une intelligence collective au sein du
réseau à partir de données élémentaires pré-traitées sur les nœuds de calcul.
Toutes les méthodes d’IA pour l’image les plus éprouvées à ce jour sont basées sur des CNN (Convolutional Neural Network). Une étape principale de la thèse est de concevoir des architectures de CNN déployables sur
des réseaux de capteurs ainsi que de proposer de nouvelles méthodes d’apprentissage distribué de CNN Cela implique :
• une mutualisation éventuelle d’une partie du CNN entre les différents nœuds en assurant la vie privée et en optimisant les ressources (calcul, mémoire, communications réseau, donc la consommation d’énergie): Cela permettrait également de “personnaliser” les traitements locaux en fonction des services.
• une construction d’un modèle CNN global performant avec des données de capteurs locaux sans transmission d’informations sensibles et en limitant le volume et la fréquence des échanges.
Ces algorithmes et modèles s’appuieront sur des techniques récentes en IA en proposant de nouvellescontributions scientifiques et techniques dans le contexte du Edge Computing. De plus, les approches innovantes d’apprentissage automatique seront considérées pour permettre la construction efficace du modèle: apprentissage de représentation, apprentissage semi supervisé et continu.
L’objectif de ces recherches plus fondamentaux sur l’IA et le “Edge Computing” est d’appliquer ses résultats à un ou plusieurs cas d’études réels dans le domaine de vision par ordinateur (par exemple, la détection et le suivi d’objets ou de personnes ou la reconnaissance de gestes dans un flux vidéo) et éventuellement de créer un prototype sur carte FPGA.

Profil du candidat :
Nous cherchons un candidat avec des bonnes compétences en apprentissage automatique et vision par ordinateur (voir ci-dessous).

Formation et compétences requises :
Formation requise : nn diplôme de Master Recherche ou diplôme d’ingénieur en informatique.

Compétences requises :
– sciences de données et apprentissage automatique, mathématiques appliquées
– vision par ordinateur
– une bonne maîtrise de la programmation python
– bon niveau en anglais
– des notions en électronique, systèmes embarqués et FPGA sont un plus

Adresse d’emploi :
LIRIS, INSA Lyon, 7 Avenue Jean-Capelle, 69621 Villeurbanne

Offre en lien avec l’Action/le Réseau : MACLEAN/Doctorants

Laboratoire/Entreprise : LISTIC (Université Savoie Mont-Blanc)
Durée : 3 years
Contact : guillaume.ginolhac@univ-smb.fr
Date limite de publication : 2022-11-01

Contexte :
Institutions: LISTIC, Université Savoie Mont-Blanc, L2S, Université Paris Saclay

Supervisors:
● M. Guillaume Ginolhac, guillaume.ginolhac@univ-smb.fr (04 50 09 65 83),
● Mme Yajing Yan, yajing.yan@univ-smb.fr (04 50 09 65 36),
● M. Nabil El Korso, elkorso.nabil.mohammed@gmail.com (01 40 97 41 39)

Funding: ANR REPED-SARIX project (already obtained)

Beginning date: October 2022

Keywords: SAR interferometry, robust statistics, recursive estimation, missing data imputation, time series

Sujet :
The systematic acquisition of and free access to Sentinel-1 A/B Synthetic Aperture Radar (SAR) images covering Europe every 6 days (every 12 days elsewhere) provide scientists with both opportunities and challenges for operational monitoring of Earth deformation by SAR image time series. Actually, the displacement estimation with SAR image time series has been well studied with the development of numerous multi-temporal Interferometry SAR (InSAR) methods, such as Small BAseline Subset, Permanent Scatterer Interferometry, SqueeSAR, Phase Linking methods, Multi-link InSAR, CAESAR, Least-Square estimator and EMI [1-4]. However, incremental methodological development still seems necessary to reply to the operational requirement, that is, the processing should be efficient and robust, and the results should be reliable.

1. Displacement times series estimation

Thanks to the aforementioned multi-temporal InSAR methods, the accuracy of the displacement velocity estimation has been revolutionized to millimeters per year. However, these methods are mainly retrospective analysis tools and do not allow efficient gradual integration of new SAR images that arrive over time, and it is necessary to restart part of or the whole displacement estimation processing chain, which would be prohibitively expensive in practice and does not answer the need for operational monitoring. In particular, the computational cost is significant when dealing with non-Gaussian data [5] in case of high-resolution SAR data. It is thus crucial to elaborate advanced recursive multi-temporal InSAR methods allowing for efficient gradual integration of new arriving SAR images. Some algorithms have already been developed in the literature, but they do not consider the non gaussianity of the data and their inherent structure [6,7].

In this Ph.D thesis, we aim to develop a novel robust and recursive multi-temporal InSAR approach for operational displacement estimation from SAR image time series. We consider the state-of-the-art Phase Linking approach as the baseline approach in which the sample covariance matrix of SAR image time series is fully exploited. First, we propose a sequential or recursive estimation of the covariance matrix of SAR images, considering the structure of the covariance matrix that is directly related to the decorrelation properties of the targets under observation. Second, we integrate temporal decorrelation models (with possible unknown parameters) providing prior information on the structure of the covariance matrix in the sequential or recursive estimation process to improve the efficiency. We then deploy the Expectation – Maximization (EM) algorithm to estimate jointly the unknown model parameters and the covariance matrix in an iterative way [9]. The displacement time series can be later obtained from the properly estimated covariance matrix.

2. Missing data imputation in SAR displacement time series

Missing data can exist in the displacement time series, mainly due to the coherence loss that results in unreliable displacement estimations. Data gaps can hinder the full understanding of the phenomenon under observation. It is then necessary to fill the gaps by using some data imputation techniques [10].

The second objective of this Ph.D consists of imputing missing data in displacement time series, with the missing data mechanism taken into account by assuming statistical laws and estimating the parameters that describe these statistical laws. We propose to develop a new approach based on the recent reference of [11].

We consider the ‘’Piton de la Fournaise’’ and Merapi volcano test sites as proving ground for the developed approach in this Ph.D thesis. Both descending and ascending Sentinel-1 A/B acquisitions are available. GPS measurements from permanent GNSS stations are also available for results comparison and validation.

References :

[1] A. M. Guarnieri and S. Tebaldini, (2008). On the exploitation of target statistics for sar interferometry applications. IEEE Transactions on Geoscience & Remote Sensing, 46(11) :3436–3443.
[2] P.S. Marinkovic, F. van Leijen, G. Ketelaar, R.F. Hanssen, (2005), Recursive data processing and data volume minimization for PS-InSAR, Proceedings. 2005 IEEE International Geoscience and Remote Sensing Symposium. DOI: 10.1109/IGARSS.2005.1525622
[3] S. Samiei-Esfahany, J.E. Martins, F. van Leijen, R.F. Hanssen, (2016), Phase estimation for distributed scatterers in InSAR stacks using integer least squares estimation, IEEE Transactions on Geosciences & Remote Sensing, vol.54, no.10, pp.5671-5687
[4] M. Schmitt, J.L. Schönberger and U. Stilla, (2014), Adaptive covariance matrix estimation for multi-baseline InSAR data stacks, IEEE Transactions on Geosciences & Remote Sensing, 52(11), pp.6807-6817.
[5] H. Vu, F. Brigui, A. Breloy, Y. Yan, G. Ginolhac, A new phase linking algorithm for multi-temporal INSAR based on the maximum likelihood estimator, IGARSS 2022
[6] H. Ansari, F. De Zan and R. Bamler, (2017), Sequential estimator: Towards efficient InSAR time series analysis, IEEE Transactions on Geosciences & Remote Sensing, 55(10), pp. 5637 – 5652.
[7] F. De Zan, (2020), Progressive InSAR phase estimation, https://arxiv.org/abs/2010.02533
[8] B. Mériaux, C. Ren, M. N. El Korso, A. Breloy and P. Forster, (2019), Robust Estimation of Structured Scatter Matrices in (Mis)matched Models, Signal Processing Journal, Elsevier, vol. 165, pp.163-174.
[9] S. Said, H. Hajri, L. Bombrun, B. Vemuri, (2018), Gaussian Distributions on Riemannian Symmetric Spaces: Statistical Learning With Structured Covariance Matrices, IEEE Transactions on Information Theory, 64(2), pp.752-772.
[10] Hippert-Ferrer A., Yan Y., Bolon P., EM-EOF: gap-flling in incomplete SAR displacement time series. IEEE Transactions on Geoscience and Remote Sensing, 2020.
[11] Sportisse, A., Boyer, C., & Josse, J. (2020). Estimation and imputation in probabilistic principal component analysis with missing not at random data. Advances in Neural Information Processing Systems, 33, 7067-7077.

Profil du candidat :
Profile of candidate: The Ph.D candidate should have good skills in mathematics/statistics and/or signal/image processing. Knowledge in SAR is appreciated.

Formation et compétences requises :
mathematics/statistics and/or signal/image processing master

Adresse d’emploi :
LISTIC (Annecy) and LSS (Paris Saclay)

Document attaché : 202208220654_SujetTheseMultiTemporalInSAR.pdf

Offre en lien avec l’Action/le Réseau : RoCED/– — –

Laboratoire/Entreprise : équipe Traitement du Signal du laboratoire CReSTIC
Durée : CIFRE, 3.5 ans
Contact : valeriu.vrabie@univ-reims.fr
Date limite de publication : 2022-09-18

Contexte :
Les architectures de Deep Learning utilisées pour des tâches de localisation et de classification à partir d’images ont principalement évolué dans deux directions différentes : la 1re vise à optimiser les performances et la 2nde à réduire les temps de calcul. Dans le 1er cas, de nouvelles architectures de type CNN de plus en plus denses ou de nouvelles alternatives par exemple CapsNet ont permis d’améliorer les performances [Men22]. En revanche, ces architectures nécessitent des ressources de calcul importantes et des bases de données étendues. Dans le 2e cas, différentes approches telles que pruning, l’utilisation d’opérateurs séparables en profondeur, etc. ont été proposées pour réduire la complexité des calculs, mais cela se fait au détriment des performances. D’autres approches alternatives de type hiérarchique ont été proposées récemment afin de pouvoir répondre simultanément aux deux objectifs [RPR21,Hel22].
D’un autre côté, la prise en compte d’autres données endogènes et exogènes, par exemple des images acquises avec d’autres caméras, des données météo, des informations complémentaires sur l’état sanitaire des plantes, etc. permet d’améliorer la robustesse des résultats. Cela est possible grâce à l’utilisation des architectures très denses ou d’un ensemble d’architectures dont les décisions sont fusionnées. Là aussi des approches alternatives permettant de fusionner des features intermédiaires permettent de réduire le temps de calcul ou d’améliorer les performances en fonction de la stratégie retenue [Yis21].
Dans les deux cas, l’apprentissage supervisé nécessite de larges bases de données annotées, tâche qui est difficile et couteuse en temps et en ressources. Les options de data augmentation sont souvent utilisées, mais ne permettent pas de créer suffisamment de diversité. Des approches génératives de type GAN permettent d’aller plus loin dans la création de nouvelles données pertinentes [Goo14]. Ces types d’approches se basent sur des données existantes et ne peuvent pas prendre en compte des problématiques réelles, par exemple des classes qui varient au cours du temps ou l’apparition de nouvelles classes. Par exemple, en viticulture, cela peut être dû à des changements des conditions météo ou traitements phytosanitaires ou bien à l’apparition de symptômes confondants induits par des carences ou par l’expression d’autres maladies. En robotique, cela peut être dû des changements de luminosité ou d’environnement.
Des approches potentiellement intéressantes ont été proposées pour résoudre en partie ces problématiques. Les approches de type reinforcement learning permettent au travers d’un système de récompense et pénalités de prendre en compte l’aspect adaptatif [Yad22]. Néanmoins, ces approches sont souvent utilisées avec un seul type d’architecture et principalement que pour la phase d’apprentissage. Les approches de type semi-supervisées, notamment d’active learning et self-supervised learning, permettent de prendre en compte l’apparition de nouvelles classes et de réduire le besoin en données annotées [WPW22]. Néanmoins, ces approches sont aussi principalement utilisées dans la phase d’apprentissage et sont très sensibles aux étapes initiales du processus. Des approches récentes de type continual learning permettent aussi de gérer le problème de nouvelles classes [KC21]. Elles sont par ailleurs adaptées à un environnement évolutif. Ces approches sont en revanche sensibles au phénomène de « catastrophic forgetting », c’est-à-dire la perte de toutes les connaissances acquises en amont lorsqu’on s’adapte à une nouvelle tâche ou une nouvelle classe. D’autre part, pour apporter un aspect dynamique au moment de l’inférence, elles se limitent à un espace de solutions restreint.
En pratique, par exemple pour des applications viticoles, une certaine cyclicité des classes est souvent observée en fonction des conditions exogènes (météo similaire certaines années, traitements phytosanitaires périodiques, etc.). D’autre part, les classes évoluent au cours du temps compte tenu de l’adaptation des plantes à l’environnement, de nouvelles apparaissent à la suite de changements climatiques.
[Goo14] I. J. Goodfellow et al., Generative Adversarial Networks, arXiv 2014, DOI: 10.48550/arXiv.1406.2661.
[Hel22] G. Heller, E. Perrin, V. Vrabie, C. Dusart, S. Le Roux: Grafting heterogeneous neural networks for a hierarchical object classification, IEEE Access, Jan. 2022: 12927 – 12940, DOI: 10.1109/ACCESS.2022.3144579
[KC21] J.-Y. Kim, D.-W. Choi, Split-and-Bridge: Adaptable Class Incremental Learning within a Single Neural Network, arXiv 2021, DOI: 10.48550/arXiv.2107.01349
[Men22] P. Mensah Kwabena et al., Capsule Networks – A survey, Journal of King Saud University – Computer and Information Sciences, 2022, 34(1):1295–1310 doi.org/10.1016/j.jksuci.2019.09.014
[RPR21] D. Roy, P. Panda, K. Roy, Tree-CNN: A Hierarchical Deep Convolutional Neural Network for Incremental Learning, arXiv 2019, DOI: 10.48550/arXiv.1802.05800
[Yad22] P. Yadav et al., A Survey on Deep Reinforcement Learning-based Approaches for Adaptation and Generalization, arXiv 2022, DOI: 10.48550/arXiv.2202.08444
[Yis21] H. Yizeng et al., Dynamic Neural Networks: A survey, arXiv 2021, DOI: 10.48550/arXiv.2102.04906
[WPW22] Z. Wen, O. Pizarro, S. Williams, Active Self-Semi-Supervised Learning for Few Labeled Samples Fast Training, arXiv 2022, DOI: 10.48550/arXiv.2203.04560

Sujet :
L’objectif de cette thèse est de développer des stratégies de détection et classification qui s’appuient et qui combinent les concepts de reinforcement learning, de continual learning et l’apprentissage semi-supervisé à la fois pour l’étape d’apprentissage, mais aussi pour la prise de décision au moment de l’étape de l’inférence. Cette dernière devra être faite idéalement sur un système embarqué (edge computing) ou au plus proche du capteur (fog computing), ce qui complexifie la tâche, tout comme l’utilisation conjointe de capteurs différents, par exemple de caméras multi-spectrales dans le domaine NIR et SWIR. Les résultats devront être robustes par rapport à des conditions d’acquisition variables (luminosité, etc.), à des facteurs exogènes (traitements phytosanitaires, carence, stress hydrique, etc.), mais aussi à des facteurs endogènes (dynamique de croissance, réponse immunitaire par rapport aux maladies, etc.). Ces stratégies devront être transférables à d’autres applications, par exemple de systèmes robotisés terrestres opérant à l’extérieur.

Profil du candidat :
• Motivation très importante, curiosité et autonomie
• Esprit d’initiative et d’analyse
• Méthode et rigueur dans le travail
• Bon relationnel et esprit d’entreprise
• Maitrise du français et de l’anglais indispensable

Formation et compétences requises :
• Formation bac +5 (école d’ingénieurs ou master) en data science, informatique ou mathématiques appliquées
• Connaissances avancées en intelligence artificielle, éprouvées dans un stage de fin d’études
• Des connaissances solides en Deep Learning sont un vrai plus
• Très bonne maîtrise du langage Python et à l’aise avec l’utilisation de frameworks type Keras, Pytorch et/ou Tensorflow pour implémenter et tester les diverses architectures
• Une expérience en programmation C++ sur systèmes embarqués serait un plus

Adresse d’emploi :
Thèse CIFRE :
– SEGULA MATRA Automotive, agence de Reims
– laboratoire CReSTIC de l’URCA, Campus Sciences, Reims (https://crestic.univ-reims.fr/fr/equipe/ts)

Informations pratiques :
• Pré-embauche : mi-octobre / début novembre 2022
• Début thèse : début mars 2023