A New Decomposition of Gaussian Random Elements in Banach Spaces with Application to Bayesian Inversion
Total Page：16
File Type：pdf, Size：1020Kb
A new decomposition of Gaussian random elements in Banach spaces with application to Bayesian inversion. Jean-Charles Croix To cite this version: Jean-Charles Croix. A new decomposition of Gaussian random elements in Banach spaces with appli- cation to Bayesian inversion.. General Mathematics [math.GM]. Université de Lyon, 2018. English. NNT : 2018LYSEM019. tel-02862789 HAL Id: tel-02862789 https://tel.archives-ouvertes.fr/tel-02862789 Submitted on 9 Jun 2020 HAL is a multi-disciplinary open access L’archive ouverte pluridisciplinaire HAL, est archive for the deposit and dissemination of sci- destinée au dépôt et à la diffusion de documents entific research documents, whether they are pub- scientifiques de niveau recherche, publiés ou non, lished or not. The documents may come from émanant des établissements d’enseignement et de teaching and research institutions in France or recherche français ou étrangers, des laboratoires abroad, or from public or private research centers. publics ou privés. Abstract Inferring is a fundamental task in science and engineering: it gives the opportunity to compare theory to experimental data. Since measurements are finite by nature whereas parameters are often functional, it is necessary to offset this loss of in- formation with external constraints, by regularization. The obtained solution then realizes a trade-off between proximity to data on one side and regularity on the other. For more than fifteen years, these methods include a probabilistic thinking, taking uncertainty into account. Regularization now consists in choosing a prior probability measure on the parameter space and explicit a link between data and parameters to deduce an update of the initial belief. This posterior distribution informs on how likely is a set of parameters, even in infinite dimension. In this thesis, approximation of such methods is studied. Indeed, infinite dimen- sional probability measures, while being attractive theoretically, often require a dis- cretization to actually extract information (estimation, sampling). When they are Gaussian, the Karhunen-Lo`eve decomposition gives a practical method to do so, and the main result of this thesis is to provide a generalization to Banach spaces, much more natural and less restrictive. The other contributions are related to its practical use with in a real-world example. iii iv R´esum´e L’inf´erence est une activit´efondamentale en sciences et en ing´enierie: elle permet de confronter et d’ajuster des mod`eles th´eoriques aux donn´ees issues de l’exp´erience. Ces mesures ´etant finies par nature et les param`etres des mod`eles souvent fonction- nels, il est n´ecessaire de compenser cette perte d’information par l’ajout de con- traintes externes au probl`eme, via les m´ethodes de r´egularisation. La solution ainsi associ´ee satisfait alors un compromis entre d’une part sa proximit´e aux donn´ees, et d’autre part une forme de r´egularit´e. Depuis une quinzaine d’ann´ees, ces m´ethodes int`egrent un formalisme probabiliste, ce qui permet la prise en compte d’incertitudes. La r´egularisation consiste alors `a choisir une mesure de probabilit´esur les param`etres du mod`ele, expliciter le lien entre donn´ees et param`etres et d´eduire une mise-`a-jour de la mesure initiale. Cette probabilit´ea posteriori, permet alors de d´eterminer un ensemble de param`etres com- patibles avec les donn´ees tout en pr´ecisant leurs vraisemblances respectives, mˆeme en dimension infinie. Dans le cadre de cette th`ese, la question de l’approximation de tels probl`emes est abord´ee. En effet, l’utilisation de lois infini-dimensionnelles, bien que th´eoriquement attrayante, n´ecessite souvent une discr´etisation pour l’extraction d’information (cal- cul d’estimateurs, ´echantillonnage). Lorsque la mesure a priori est Gaussienne, la d´ecomposition de Karhunen-Lo`eve est une r´eponse `acette question. Le r´esultat principal de cette th`ese est sa g´en´eralisation aux espaces de Banach, beaucoup plus naturels et moins restrictifs que les espaces de Hilbert. Les autres travaux d´evelopp´es concernent son utilisation dans des applications avec donn´ees r´eelles. v vi Remerciements Pendant les trois ann´ees qui m’ont men´e`ar´ediger ce manuscrit, j’ai conscience d’avoir b´en´efici´e du soutien de nombreuses personnes, chacune contribuant `a l’´etablissement des r´esultats qui sont retranscrits dans ce manuscrit `asa fa¸con. Il m’est impossible d’ˆetre exhaustif, mais je souhaite en remercier ici un certain nombre d’entre elles. Mes tout premiers remerciements s’adressent aux deux rapporteurs de cette th`ese, Antoine Ayache et Josselin Garnier. Au travers de leurs rapports respectifs tr`es d´etaill´es, ils m’ont tous deux fait part d’un regard avis´e sur les travaux pr´esent´es, ainsi que de pr´ecieuses remarques menant `ade nouvelles pistes de recherche. Leur validation a ´et´eessentielle `ames yeux et me conforte dans ce choix de carri`ere. En second lieu, je souhaite exprimer toute ma gratitude envers Anthony Nouy et Mikhail Lifshits qui ont accept´es d’ˆetre membres examinateurs du Jury. Con- jointement avec celles des autres membres, je suis convaincu que leurs analyses et remarques me permettront d’envisager de nouvelles pistes fructueuses. Les personnes que je vais maintenant remercier, forment l’´equipe qui m’a en- cadr´e ces trois ann´ees : Mireille Batton-Hubert, Xavier Bay et Eric Touboul. J’ai de nombreuses raisons de leur ˆetre reconnaissant, mais je souhaiterai d’abord commencer par souligner les qualit´es humaines dont ils ont fait preuve tout au long de cette collaboration. Merci de m’avoir constamment fait confiance, d’avoir ´et´eaussi disponibles et bienveillants pendant ce doctorat. Que ce soit en r´eunion, autour d’un caf´e, pendant le d´ejeuner ou en pleine course `apied, j’ai pass´emon temps `aprofiter de leurs curiosit´es scientifiques et de leurs expertises. J’ai beaucoup appris grˆace `aeux et je souhaite vivement continuer `apartager leur passion pour les sciences. Je leur dois donc beaucoup, autant sur le plan humain que scientifique. Merci `aeux de m’avoir permis, dans de si bonnes conditions, de r´ealiser cette th`ese de doctorat. Pendant cette th`ese, Nicolas Durrande m’a propos´e de le rejoindre dans un projet scientifique Franco-Colombien. Ce fut le d´epart d’un travail commun avec vii viii Mauricio A. Alvarez, m’ayant conduit `avisiter l’universit´ede Pereira en Colombie plusieurs fois. En plus d’avoir l’opportunit´ed’enseigner dans un contexte excep- tionnel, cet ´echange a donn´enaissance `al’application pr´esente dans ce document. Pour toutes ces raisons, je dois beaucoup `aNicolas et Mauricio. Bien entendu, je remercie aussi toutes les personnes avec qui je partage maintenant des souvenirs inoubliables, notamment Julian David Echeverry, Julian Gil Gonzalez et Alvaro Angel Orozco. Je voudrais maintenant remercier mes autres coll`egues st´ephanois, dont j’ai eu le plaisir de partager le quotidien au fil des ans: Rodolphe Leriche, Olivier Rous- tant, Isabelle Chantrel, Christine Exbrayat, Xavier Delorme, Fr´ed´eric Grimaud, Audrey Derrien, Paolo Gianessi, Didier Rulli`ere, David Gaudrie, Marie-Liesse Cauwet, Adrien Spagnol, Andres Felipe Lopez-Lopera, Mohammed-Amine Abdous, Madhi El-Alaoui-El-Abdellaoui, Adrien Spagnol, Serena Finco, Oussama Mas- moudi, Marie-Line Barneoud, Bruno L´eger, Nicolas Garland, Esperan Padonou, Thierry Garaix, Niloufare Sadr, Jean-Fran¸cois Tchebanoff, Gabrielle Bruyas et Alain Mounier. Nombre d’entre eux sont devenus des amis proches. Ma famille m’a toujours accompagn´e, partageant chaque moment de joie et me soutenant dans les autres. J’ai ´enorm´ement de chance de les avoir tous et mˆeme s’ils le savent d´ej`a,je compte le redire ici aussi : je suis fier et infiniment reconnaissant de les avoir dans ma vie. A Saint-Etienne, il y a deux personnes `a qui je dois beaucoup car elles ont tout simplement ´et´eune source quotidienne de bonheur. J’ai trouv´echez elles toutes les qualit´es que l’on recherche chez des proches, allant de la g´en´erosit´eet la gentillesse qui sont n´ecessaires `atoute bonne relation jusqu’`ala t´enacit´eet le courage qui forgent les amis. Leurs noms sont Afafe Zehrouni et Romain No¨el et je leur dis `atous les deux merci d’avoir rendu ces trois ann´ees aussi belles. Je finirai par remercier mes proches, Cl´ement Pallez, Etienne & Marie Spormeyeur, Nicolas & Pauline Valance, Thomas & Fanny Calm´es, Jean-Baptiste Dufour, Mathilde Armant, Claire Fousse, Jo¨el Pfaff, Hugo Bernard-Brunel, Fulvio Mounier, Anne-Kim Lˆe, Chlo´eDasse, Am´elie Beyssat, Sylvain Housseman, Alban Derrien et Pauline Julou pour tous les moments v´ecus et `avenir. Contents Abstract iii R´esum´e v Remerciements vii Table of contents x List of figures xi Introduction 1 I Approximation of Gaussian priors in Banach spaces 5 1 Introduction to Gaussian random elements 7 1.1 Definition ................................. 7 1.2 Integrability . 10 1.3 Covariance and Hilbert subspace(s) . 12 1.4 Seriesrepresentation ........................... 20 1.5 Additional results in the Hilbert case . 26 1.6 Gaussian random elements in C ( , R) . 30 K 1.7 Conclusion . 42 2 Karhunen-Lo`eve decomposition in Banach spaces 43 2.1 Extending the Karhunen-Lo`eve decomposition . 43 2.2 The special case of C ( , R)....................... 54 K 2.3 Examples in ( , R)........................... 57 C K 2.4 A study of the standard Wiener process . 60 2.5 Conclusion . 70 II Applications to Bayesian inverse problems 73 3 Introduction to inverse problems 75 3.1 Forward, inverse and ill-posed problems . 75 ix x CONTENTS 3.2 Examples ................................. 77 3.3 Tikhonov-Philips regularization for operators .