nitmtAdagirein airtel otetrapeD rapeD rapeD tnemt tnemt tnemt fo fo fo lE lE lE tce r tce r tce r laci laci laci reenignE reenignE reenignE gni gni gni dna dna dna tamotuA tamotuA tamotuA noi noi noi - o t l aA - o- t o t l aA l aA DD DD DD Kernel-BasedKernel-Basedernel-Based andandand BayesianBayesianBayesian K 061 061 061 / / / 9102 9102 9102 nenov r aK i noT nenov nenov r aK r aK i noT i noT MMethodsMethodsethods forforfor NumericalNumericalNumerical IIntegrationIntegrationntegration TTonioniToni Karvonen Karvonen Karvonen noi targetnI laci remuN rof sdohteM nai seyaB dna desaB- lenreK noi targetnI laci remuN rof sdohteM nai seyaB dna desaB- lenreK noi targetnI laci remuN rof sdohteM nai seyaB dna desaB- lenreK BUSINESSBUSINESSBUSINESS + + + ECONOMYECONOMYECONOMY NSI I I NBS NBS NBS 879 - 879 - 879 - 259 - 259 - 259 06 - - 06 - 06 - 3078 - 3078 0 - 3078 0 - ( 0 p ( r p ( i r n p i t r n i t n de t ) de ) de ) ARTARTART + + + NSI I I NBS NBS NBS 879 - 879 - 879 - 259 - 259 - 259 06 - - 06 - 06 - 4078 - 4078 7 - 4078 7 - ( 7 ( dp ( f dp ) f dp ) f ) DESIGNDESIGNDESIGN + + + NSI I I NSS NSS NSS 9971 - 9971 - 9971 - 4394 4394 ( 4394 p ( r p ( i r n p i t r n i t n de t ) de ) de ) ARCHITECTUREARCHITECTUREARCHITECTURE NSI I I NSS NSS NSS 9971 - 9971 - 9971 - 2494 2494 ( 2494 ( dp ( f dp ) f dp ) f ) SCIENCESCIENCESCIENCE + + + TECHNOLOGYTECHNOLOGYTECHNOLOGY tirvn tlaA ot laA ot laA ot isrevinU isrevinU yt isrevinU yt yt CROSSOVERCROSSOVERCROSSOVER gni reenignE laci r tcelE fo loohcS loohcS fo loohcS fo fo tcelE r tcelE r tcelE r laci laci laci reenignE reenignE reenignE gni gni gni DOCTORALDOCTORALDOCTORAL o aou n n engElc c Ef nm rapeD rapeD rapeD tnemt tnemt tnemt fo fo fo lE lE lE tce r tce r tce r laci laci laci reenignE reenignE reenignE gni gni gni dna dna dna tamotuA tamotuA tamotuA noi noi noi DOCTORALDOCTORALDOCTORAL DISSERTATIONSDISSERTATIONSDISSERTATIONS +adahia*GMFTSH9 +adahia*GMFTSH9 +adahia*GMFTSH9 yt isrevinU ot laA yt isrevinU fi.otlaa.www www . a www . a . l a t o l a t o . l fi t o . fi . fi DISSERTATIONSDISSERTATIONSDISSERTATIONS ot laA ot yt laA isrevinU yt isrevinU 9102 9102 9102 Aalto University publication series DOCTORAL DISSERTATIONS 160/2019 Kernel-Based and Bayesian Methods for Numerical Integration Toni Karvonen A doctoral dissertation completed for the degree of Doctor of Science (Technology) to be defended, with the permission of the Aalto University School of Electrical Engineering, at a public examination held at the lecture hall TU2 of the school on 8 November 2019 at 12. Aalto University School of Electrical Engineering Department of Electrical Engineering and Automation Sensor Informatics and Medical Technology Supervising professor Prof. Simo Särkkä, Aalto University, Finland Thesis advisor Prof. Simo Särkkä, Aalto University, Finland Preliminary examiners Prof. Dino Sejdinovic, University of Oxford, United Kingdom Prof. Emtiyaz Khan, RIKEN, Japan Opponent Prof. Roman Garnett, Washington University in St. Louis, United States Aalto University publication series DOCTORAL DISSERTATIONS 160/2019 © 2019 Toni Karvonen ISBN 978-952-60-8703-0 (printed) ISBN 978-952-60-8704-7 (pdf) ISSN 1799-4934 (printed) ISSN 1799-4942 (pdf) http://urn.fi/URN:ISBN:978-952-60-8704-7 Unigrafia Oy Helsinki 2019 WAN E S CO IC L D A B R E O L Finland N PrintedPrinted matter 1234 5678 4041-0619 Abstract Aalto University, P.O. Box 11000, FI-00076 Aalto www.aalto.fi Author Toni Karvonen Name of the doctoral dissertation Kernel-Based and Bayesian Methods for Numerical Integration Publisher School of Electrical Engineering Unit Department of Electrical Engineering and Automation Series Aalto University publication series DOCTORAL DISSERTATIONS 160/2019 Field of research Automation, Systems and Control Engineering Manuscript submitted 6 May 2019 Date of the defence 8 November 2019 Permission for public defence granted (date) 20 August 2019 Language English Monograph Article dissertation Essay dissertation Abstract Kernel-based methods provide a flexible toolkit for approximation of linear functionals. Importantly, these methods carry a probabilistic interpretation: a worst-case optimal method in the reproducing kernel Hilbert space induced by the kernel being used can be equivalently formulated as the posterior mean of a Gaussian process (GP) with the same covariance kernel; the worst-case error corresponds to the GP posterior standard deviation. This connection makes it possible to speak of and quantify, in a statistically principled way, uncertainty in the approximation provided by a kernel method. Consequently, these methods can be viewed as probabilistic numerical methods that interpret numerical approximation as a statistical inference problem and attempt to endow the solution of a numerical problem with a full non-degenerate posterior probability distribution. Unfortunately, both the kernel and GP formulations suffer from cubic computational and quadratic memory cost in the number of data points. Furthermore, because standard versions of kernel-based methods do not typically coincide with any ''classical'' method of numerical analysis in a way that would give rise to a corresponding non-degenerate GP posterior (with the exception of spline methods), there has been no straightforward way to interpret classical methods as useful statistical inference procedures within the GP framework. This thesis studies numerical approximation of analytically intractable integrals by the means of kernel and Bayesian cubature rules, the former worst-case optimal cubature methods and the latter posteriors of GPs. The first contribution is the development of algorithms that significantly reduce the computational cost of these cubature methods by employing point sets that can be expressed as unions of fully symmetric sets. The resulting algorithm is non-approximate, computationally competitive and scalable, flexible, and algorithmically simple, enabling application of kernel and Bayesian cubature rules to integration problems involving up to millions of points. Additionally, a closed-form approximation linked to the Gauss–Hermite quadrature is proposed for the special case of one-dimensional integration against the standard Gaussian measure. The second main contribution is the study of different kernels and GP modelling choices that yield Bayesian cubature rules corresponding to classical cubature methods, such as Gaussian cubatures and uniformly weighted Monte Carlo rules. The proposed Bayes–Sard framework is general and capable of probabilistic reproduction of virtually any cubature rule. Keywords Numerical integration, reproducing kernel Hilbert spaces, Gaussian processes, probabilistic numerics ISBN (printed) 978-952-60-8703-0 ISBN (pdf) 978-952-60-8704-7 ISSN (printed) 1799-4934 ISSN (pdf) 1799-4942 Location of publisher Helsinki Location of printing Helsinki Year 2019 Pages 186 urn http://urn.fi/URN:ISBN:978-952-60-8704-7 Tiivistelmä Aalto-yliopisto, PL 11000, 00076 Aalto www.aalto.fi Tekijä Toni Karvonen Väitöskirjan nimi Ydinperusteiset ja bayesilaiset menetelmät numeerisessa integroinnissa Julkaisija Sähkötekniikan korkeakoulu Yksikkö Sähkötekniikan ja automaation laitos Sarja Aalto University publication series DOCTORAL DISSERTATIONS 160/2019 Tutkimusala Automaatio, systeemit ja säätötekniikka Käsikirjoituksen pvm 06.05.2019 Väitöspäivä 08.11.2019 Väittelyluvan myöntämispäivä 20.08.2019 Kieli Englanti Monografia Artikkeliväitöskirja Esseeväitöskirja Tiivistelmä Ydinperusteiset menetelmät ovat joustava joukko lineaarifunktioiden approksimointia varten kehitettyjä algoritmeja. Mikä tärkeintä, näillä menetelmillä on todennäköisyysteoreettinen tulkinta: menetelmä, joka on pahimmassa tapauksessa optimaalinen reproduktiivisen ytimen Hilbertin avaruudessa, on mahdollista ilmaista täysin ekvivalentista gaussisen prosessin posteriorikeskiarvona ja sen pahimman tapauksen virhe vastaavana posteriorikeskihajontana. Tämä yhteys mahdollistaa ydinmenetelmän tuottaman approksimaation epävarmuudesta puhumisen ja mallintamisen tilastollisesti merkityksellisesti. Täten ydinmenetelmät voi nähdä probabilistisina numeerisina menetelminä, jotka käsittelevät numeerista approksimaatiota tilastollisena päättelynä ja pyrkivät varustamaan ongelman ratkaisun epädegeneroituneella posterioritodennäköisyysjakaumalla. Sekä ytimiin että gaussisiin prosesseihin perustuvat approksimaatiomenetelmät kärsivät kuutiollisesta aika- ja neliöllisestä tilavaativuudesta. Ydinperusteiset menetelmät eivät myöskään tavanomaisessa muodossaan tyypillisesti samanaikaisesti vastaa ''klassisia'' numeerisen analyysin menetelmiä ja epädegeneroituneita gaussisten prosessien posteriorijakaumia (splinimenetelmiä lukuunottamatta), joten klassisia menetelmiä ei ole ollut mahdollista tulkita hyödyllisinä tilastollisen päättelyn menetelminä gaussisia prosesseja käyttäen. Tämä väitöskirja tutkii suljettua muotoa vailla olevien integraalien approksimointia käyttäen ydinperusteisia ja bayesilaisia kubatuurisääntöjä, joista edelliset ovat pahimmassa tapauksessa optimaalisia ja jälkimmäiset gaussisten prosessien posteriorijakaumia. Väitöskirjan ensimmäinen kontribuutio on laskennallisesti tehokkaiden algoritmien kehittäminen näitä kubatuurimenetelmiä varten käyttäen pistejoukkoja, jotka ovat täysin symmetristen pistejoukkojen yhdisteitä. Näin kehitetty algoritmi ei hyödynnä approksimaatioita, on laskennallisesti kilpailukykyinen, skaalautuva, joustava ja toteutukseltaan yksinkertainen, mahdollistaen ydinperusteisten ja bayesilaisten kubatuurimenetelmien soveltamisen integrointiongelmiin, joissa on