Foundations of computing Volume 5 Sebastian Siebertz Nowhere Dense Classes of Graphs Characterisations and Algorithmic Meta-Theorems Universitätsverlag der TU Berlin Sebastian Siebertz Nowhere Dense Classes of Graphs Characterisations and Algorithmic Meta-Theorems Die Schriftenreihe Foundations of Computing der Technischen Universität Berlin wird herausgegeben von: Prof. Dr. Stephan Kreutzer, Prof. Dr. Uwe Nestmann, Prof. Dr. Rolf Niedermeier Foundations of Computing | 05 Sebastian Siebertz Nowhere Dense Classes of Graphs Characterisations and Algorithmic Meta-Theorems Universitätsverlag der TU Berlin Bibliografische Information der Deutschen Nationalbibliothek Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.dnb.de abrufbar. Universitätsverlag der TU Berlin, 2016 http://verlag.tu-berlin.de Fasanenstr. 88, 10623 Berlin Tel.: +49 (0)30 314 76131 / Fax: -76133 E-Mail: [email protected] Zugl.: Berlin, Techn. Univ., Diss., 2015 1. Gutachter: Prof. Dr. Stephan Kreutzer 2. Gutachter: Dr. habil. Patrice Ossona de Mendez 3. Gutachter: Prof. Dr. Daniel Král’ Die Arbeit wurde am 25. September 2015 an der Fakultät IV unter Vorsitz von Prof. Dr. Rolf Niedermeier erfolgreich verteidigt. Diese Veröffentlichung – ausgenommen Zitate – ist unter der CC-Lizenz CC-BY lizensiert. Lizenzvertrag: Creative Commons Namensnennung 4.0 http://creativecommons.org/licenses/by/4.0 Druck: docupoint GmbH Satz/Layout: Sebastian Siebertz Umschlagfoto: Heinz-Peter Siebertz | Bit ein | 2015 | CC BY 4.0 http://creativecommons.org/licenses/by/4.0 ISBN 978-3-7983-2818-1 (print) ISBN 978-3-7983-2819-8 (online) ISSN 2199-5249 (print) ISSN 2199-5257 (online) Zugleich online veröffentlicht auf dem Digitalen Repositorium der Technischen Universität Berlin: DOI 10.14279/depositonce-5011 http://dx.doi.org/10.14279/depositonce-5011 Kurzfassung Wir zeigen, dass jede Eigenschaft von Graphen aus einer nowhere dense Klasse von Graphen, die in der Prädikatenlogik formuliert werden kann, 1 ² in fast linearer Zeit O(n Å ) entschieden werden kann. Dieses Ergebnis ist optimal für Klassen von Graphen, die unter Subgraphen abgeschlossen sind (unter einer Standardannahme aus der Komplexitätstheorie). Um den obigen Satz zu beweisen, führen wir zwei neue Charakterisie- rungen von nowhere dense Klassen von Graphen ein. Zunächst charakter- isieren wir solche Klassen durch ein Spiel, das die lokalen Eigenschaften von Graphen beschreibt. Weiter zeigen wir, dass eine Klasse, die unter Subgraphen abgeschlossen ist, genau dann nowhere dense ist, wenn alle lokalen Nachbarschaften von Graphen der Klasse dünn überdeckt wer- den können. Weiterhin beweisen wir eine erweiterte Version von Gaifman’s Lokalitätssatz für die Prädikatenlogik, der eine Übersetzung von Formeln in lokale Formeln des gleichen Ranges erlaubt. In Kombination erlauben diese neuen Charakterisierungen einen effizienten, rekursiven Lösungsansatz für das Model-Checking Problem der Prädikatenlogik. Die Charakterisierung der nowhere dense Graphklassen durch die oben beschriebenen Überdeckungen basiert auf einer bekannten Charakteri- sierung durch verallgemeinerte Färbungszahlen. Unser Studium dieser Zahlen führt zu neuen, verbesserten Schranken für die verallgemeinerten Färbungszahlen von nowhere dense Klassen von Graphen, insbesondere für einige wichtige Subklassen, z. B. für Klassen mit ausgeschlossenen Minoren und für planare Graphen. Zuletzt untersuchen wir, welche Auswirkungen eine Erweiterung der Logik durch Ordnungs- bzw. Nachfolgerrelationen auf die Komplexität des Model-Checking Problems hat. Wir zeigen, dass das Problem auf fast allen interessanten Klassen nicht effizient gelöst werden kann, wenn eine be- liebige Ordnungs- oder Nachfolgerrelation zum Graphen hinzugefügt wird. Andererseits zeigen wir, dass das Problem für ordnungsinvariante mona- dische Logik zweiter Stufe auf allen Klassen, für die bekannt ist, dass es für monadische Logik zweiter Stufe effizient gelöst werden kann, auch effizient gelöst werden kann. Wir zeigen, dass das Problem für nachfolgerinvariante Prädikatenlogik auf planaren Graphen effizient gelöst werden kann. v Abstract We show that every first-order property of graphs can be decided in almost 1 ² linear time O(n Å ) on every nowhere dense class of graphs. For graph classes closed under taking subgraphs, our result is optimal (under a stan- dard complexity theoretic assumption): it was known before that for all classes C of graphs closed under taking subgraphs, if deciding first-order properties of graphs in C is fixed-parameter tractable, parameterized by the length of the input formula, then C must be nowhere dense. Nowhere dense graph classes form a large variety of classes of sparse graphs including the class of planar graphs, actually all classes with ex- cluded minors, and also bounded degree graphs and graph classes of bound- ed expansion. For our proof, we provide two new characterisations of no- where dense classes of graphs. The first characterisation is in terms ofa game, which explains the local structure of graphs from nowhere dense classes. The second characterisation is by the existence of sparse neigh- bourhood covers. On the logical side, we prove a rank-preserving version of Gaifman’s locality theorem. The characterisation by neighbourhood covers is based on a characterisa- tion of nowhere dense classes by generalised colouring numbers. We show several new bounds for the generalised colouring numbers on restricted graph classes, such as for proper minor closed classes and for planar graphs. Finally, we study the parameterized complexity of the first-order model- checking problem on structures where an ordering is available to be used in formulas. We show that first-order logic on ordered structures as well as on structures with a successor relation is essentially intractable on nearly all interesting classes. On the other hand, we show that the model- checking problem of order-invariant monadic second-order logic is tractable essentially on the same classes as plain monadic second-order logic and that the model-checking problem for successor-invariant first-order logic is tractable on planar graphs. vii Acknowledgements First of all, I wish to thank my supervisor Stephan Kreutzer, who directed me through my scientific career from the beginning as a research assistant to my PhD. I am deeply indebted for his support and guidance. You created truly ideal conditions for my research in Berlin! I would like to thank all my co-authors, especially Stephan Kreutzer and Martin Grohe, who introduced me to the interesting topic of this thesis, Roman Rabinovich, Patrice Ossona de Mendez, Saeed Amiri, Konstantinos Stavropoulos, Jan van den Heuvel, and Viktor Engelmann. I thank my collegues, especially Roman Rabinovich, Christoph Dittman and Saeed Amiri for endless hours of fruitful discussion, you guys are awesome! I wish to thank the members of my dissertation committee: Rolf Niedermeier, Stephan Kreutzer, Patrice Ossona de Mendez and Daniel Král’ for generously offering their time, guidance and good will throughout the review of this document. I thank my wife Annett for her love and for her patience with me solving strange problems, I love you! I thank my parents for their support in difficult times, thank you! ix Contents Introduction1 I. Background9 1. General Background 11 1.1. Numbers, sets and functions.................. 11 1.2. Computability and complexity................. 12 1.3. Structures and isomorphisms................. 15 2. First-order and monadic second order logic 17 2.1. Syntax and Semantics...................... 17 2.2. Satisfiability and model-checking............... 20 2.3. First-Order Types........................ 22 2.4. Definable Interpretations.................... 27 2.4.1. Defining distances – the Gaifman graph of a structure 28 2.5. Locality of first-order logic................... 30 3. Graphs 33 3.1. Graphs............................... 33 3.2. Tree width and forbidden minors............... 38 3.3. Nowhere dense classes of graphs............... 41 3.4. Everything is a (coloured) graph................ 45 II. Colouring, covering and playing games 49 4. Generalised colouring numbers 51 4.1. Definition and basic properties................ 52 4.2. A tight bound on bounded tree width graphs........ 55 4.3. Bounding the numbers in terms of low depth minors... 59 xi Contents 4.4. A bound on proper minor closed classes........... 61 4.5. A bound in terms of genus................... 64 4.6. Computing the numbers.................... 67 5. Neighbourhood covers 73 6. The splitter game 79 6.1. The splitter game......................... 79 6.2. Solving the independent set problem............. 83 III. Model-checking 89 7. A rank preserving locality theorem 93 7.1. First-Order Logic with Distance Atoms........... 93 7.2. Rank-preserving locality.................... 97 8. First-order model-checking 109 9. Order-invariant model-checking 113 9.1. Successor- and Order-Invariance............... 114 9.2. Model-Checking on Ordered Structures........... 115 9.2.1. Successor Structures.................. 115 9.2.2. Order Relation...................... 118 9.3. Model-checking for order-invariant MSO-formulas..... 120 9.4. Model-checking for successor-invariant FO-formulas... 124 10. Conclusion and open problems 133 Bibliography 137 xii Introduction A graph consists of vertices and edges connecting the vertices. The con- cept of modelling relations between