Predictability of Extreme Events in Time Series Dissertation zur Erlangung des Doktorgrades des Fachbereichs Mathematik und Naturwissenschaften (Fachgruppe Physik) Doctor rerum naturalium (Dr. rer. nat.) der Bergischen Universit¨at Wuppertal WUB-DIS 2008-05 vorgelegt von Sarah Hallerberg geboren am 28.12.1979 in Bad Oeynhausen JUNI 2008 erstellt am Max-Planck-Institut fur¨ Physik komplexer Systeme Dresden Diese Dissertation kann wie folgt zitiert werden: urn:nbn:de:hbz:468-20080438 [http://nbn-resolving.de/urn/resolver.pl?urn=urn%3Anbn%3Ade%3Ahbz%3A468-20080438] Abstract In this thesis we access the prediction of extreme events observing precursory structures, which were identified using a maximum likelihood approach. The main goal of this thesis is to investi- gate the dependence of the quality of a prediction on the magnitude of the events under study. Until now, this dependence was only sporadically reported for different phenomena without be- ing understood as a general feature of predictions. We propose the magnitude dependence as a property of a prediction, indicating, whether larger events can be better, harder or equally well predicted than smaller events. Furthermore we specify a condition which can characterize the magnitude dependence of a distinguished measure for the quality of a prediction, the Receiver Operator characteristic curve (ROC). This test condition allows to relate the magnitude depen- dence of a prediction task to the joint PDF of events and precursory variables. If we are able to describe the numerical estimate of this joint PDF by an analytic expression, we can not only characterize the magnitude dependence of events observed so far, but infer the magnitude depen- dence of events, larger then the observed events. Having the test condition specified, we study the magnitude dependence for the prediction of increments and threshold crossings in sequences of random variables and short- and long-range correlated stochastic processes. In dependence of the distribution of the process under study we obtain different magnitude dependences for the prediction of increments in Gaussian, exponentially, symmetrized exponentially, power-law and symmetrized power-law distributed processes. For threshold crossings we obtain the same magnitude dependence for all distributions studied. Furthermore we study the dependence on the event magnitude for the prediction of increments and threshold crossings in velocity incre- ments, measured in a free jet flow and in wind-speed measurements. Additionally we introduce a method of post-processing the output of ensemble weather forecast models in order to identify precursory behavior, which could indicate failures of weather forecasts. We then study not only the success of this method, but also the magnitude dependence. keywords: extreme events, statistical inference, prediction via precursors, ROC curves, likelihood ratio, magnitude dependence Zusammenfassung In dieser Arbeit untersuchen wir die Vorhersagen von Extremereignissen in Zeitreihen, welche mittels Beobachtung von Vorl¨auferstrukturen gemacht werden. Geeignete Vorl¨auferstrukturen w¨ahlen wir mit Hilfe von bedingten Wahrscheinlichkeitsverteilungen (Maximum Likelihood Ansatz) aus. Das Hauptanliegen dieser Arbeit ist es, die Abh¨angigkeit der Vorhersagen von der Ereignisgr¨oße zu untersuchen. Bisher wurde sporadisch f¨ur einzelne Ph¨anomene beschrieben, daß gr¨oßere Ereignisse besser vorhersagbar sind, als kleinere, ohne dies jedoch als eine allgemeine Eigenschaft von Vorhersagen zu interpretieren. Wir f¨uhren somit die Ereignisgr¨oßenabh¨angigkeit als Eigenschaft einer Vorhersage ein. Die Ereignisgr¨oßenabh¨angigkeit kann positiv, negativ oder null sein und somit angeben, ob gr¨oßere und somit extremere Ereignisse, besser, schlechter oder gleichgut vorherzusagen sind, wie kleinere. Des Weiteren geben wir eine Bedingung an, welche die Ereignisgr¨oßenabh¨angigkeit im Bezug auf ein bestimmtes Maß f¨ur die Qualit¨at von Vorhersagen, die Receiver Operator Characteristic, angibt. Besagte Bedingung erlaubt es, die Ereignisgr¨oßenabh¨angigkeit auf die Verbundverteilung von Ereignis und Vorl¨auferstruktur zur¨uckzuf¨uhren. Sofern wir in der Lage sind, diese Verteilung analytisch zu beschreiben, k¨onnen wir aus bisherigen Beobachtungen die Gr¨oßenabh¨angigkeit von Ereignissen einsch¨atzen, die gr¨oßer sind, als alle bisher beobachteten Ereignisse. Dabei setzen wir vorraus, daß extreme und nicht extreme Ereignisse der gleichen Wahrscheinlichkeitsverteilung folgen. Mit Hilfe der Testbedingung untersuchen wir nun die Ereignisgr¨oßenabh¨angigkeit der Vorhersagen von Inkre- menten und Schwellwert¨uberschreitungen in Folgen von Zufallszahlen, sowie in kurz- und langre- ichweitig korrelierten stochastischen Prozessen. In Abh¨angigkeit von der Verteilung des unter- suchten Prozesses erhalten wir unterschiedliche Ergebnisse f¨ur die Ereignsisgr¨oßenabh¨angigkeit der Vorhersagen von Inkrementen. Die Vorhersagen von Schwellwert¨uberschreitungen zeigten jedoch f¨ur alle untersuchten Verteilungen qualitativ die gleiche Ereignisgr¨oßenabh¨angigkeit. Des Weiteren haben wir Vorhersagen von Inkrementen und Schwellwert¨uberschreitungen in Zeitrei- hen aus Geschwindigkeitsinkrementen, die in einem Freistrahlexperiment und in bodennahem Wind gemessen wurden, untersucht. Zus¨atzlich haben wir auch eine Methode zur Vorhersage von abweichenden Wettervorhersagen entwickelt. Diese Methode konstruiert aus Ensemblewet- tervorhersagen Indikatoren f¨ur eine große Abweichung zwischen der vorhergesagten und der beobachteten Temperatur. Außerdem wurde auch an den Vorhersagen von abweichenden Tem- peraturvorhersagen die Ereignisgr¨oßenabh¨angigkeit untersucht. Stichw¨orter: Extremereignisse, Vorhersagen mittels Vorl¨auferstrukturen, Receiver Operator Charak- teristik, Maximum-Likelihood-Ansatz, Ereignisgr¨oßenabh¨angigkeit Acknowledgments First of all I would like to thank Holger Kantz for suggesting the idea to study the magnitude dependence, for innumerous discussions, advice, support and encouragement during his super- vision of my thesis. Additionally I have benefited from various discussions about the contents of this thesis and other topics. Therefore I would like to thank Eduardo Goldani Altmann, Anja Riegert, Alexan- der Croy, Detlef Holstein, Sara Pinto Garcia and Friedrich Lenz. I am especially grateful to Jochen Br¨ocker for his suggestions concerning the precursors for large failures of weather forecast and for pointing out the importance of the Neyman- Pearson Lemma. I am also grateful to the group of Joachim Peinke at the University of Oldenburg, especially to Julia Gotschall, for providing us with their excellent data from the free-jet experiment and their wind speed measurements. The weather predictions and the corresponding verifications were provided from the Euro- pean Center for Medium Range Weather forecasts and they were made accessible to me due to a collaboration with Leonard A. Smith and his group in the Center for the Analysis of Time Series at the London School of Economics. I would therefore like to use the opportunity to thank also the members of this group for their support. Furthermore I would like to thank Astrid S. de Wijn, Anja Riegert and Sara Pinto Garcia for their moral support, encouragement and friendship. Many thanks also to all the colleagues and staff of the Max Planck Institute for the Physics of Complex Systems for providing a friendly working environment and for their help in many practical issues. I am also extremely grateful to my parents for their help and support in many practical issues, especially for taking care of moving my possessions and refurbishing my flat these days, so that I could concentrate on completing this thesis. Finally I would like to thank the Max Planck Society for funding this thesis and the DAAD for funding the collaboration with the Center for the Analysis of Time Series in London. Hiermit versichere ich, dass ich die vorliegende Arbeit ohne unzul¨assige Hilfe Dritter und ohne Benutzung anderer als der angegebenen Hilfsmittel angefertigt habe; die aus fremden Quellen direkt oder indirektubernommenen ¨ Gedanken sind als solche kenntlich gemacht. Die Arbeit wurde bisher weder im Inland, noch im Ausland in gleicher oder ¨ahnlicher Form einer anderen Pr¨ufungsbeh¨orde vorgelegt. Die vorliegende Dissertation wurde am Max-Planck-Institut f¨ur Physik komplexer Systeme unter der wissenschaftlichen Betreuung von Prof. Dr. Holger Kantz angefertigt. Es haben keine fr¨uheren Promotionsverfahren von mir stattgefunden. Hiermit erkenne ich die Promotionsordnung des Fachbereiches Mathematik und Naturwissenschaften der Bergischen Universit¨at Wuppertal an. Contents 1 Introduction 1 2 Theoretical Background 3 2.1ExtremeEventsintimeseries ............................ 3 2.1.1 Whatareextremeevents?........................... 3 2.1.2 ExtremeEventsinTimeseries........................ 4 2.1.3 Assigning a magnitude to the events under study . ......... 7 2.2PredictionsviaPrecursoryStructures........................ 8 2.2.1 Describing stochastic processes with conditional probabilities via Markov Chains...................................... 10 2.2.2 Applying finite conditioning to general (non Markovian) processes . 11 2.2.3 FromHypothesisTestingtotheBayesClassifier.............. 11 2.3MeasuringtheQualityofaPrediction........................ 18 2.3.1 Predictability, Kullback Leibler distance and Mutual Information . 19 2.3.2 ForecastVerification.............................. 20 2.3.3 BrierScoreandIgnorance..........................