The Power of Algorithmic Approaches to the Graph Isomorphism Problem Von der Fakult¨atf¨urMathematik, Informatik und Naturwissenschaften der RWTH Aachen University zur Erlangung des akademischen Grades eines Doktors der Naturwissenschaften genehmigte Dissertation vorgelegt von Daniel Neuen, Master of Science aus Dormagen Berichter: Universit¨atsprofessorDr. Martin Grohe Universit¨atsprofessorDr. Pascal Schweitzer Universit¨atsprofessorDr. L´aszl´oBabai Tag der m¨undlichen Pr¨ufung:17. Dezember 2019 Diese Dissertation ist auf den Internetseiten der Universit¨atsbibliothek online verf¨ugbar. ii Abstract The Graph Isomorphism Problem asks, given two input graphs, whether they are structurally the same, that is, whether there is a renaming of the vertices of the first graph in order to transform it to the second graph. By a recent breakthrough result of Babai (STOC 2016), this problem can be solved in quasipolynomial time. However, despite extensive research efforts, it remains one of only few natural problems in NP that are neither known to be solvable in polynomial time nor known to be NP- complete. Over the past five decades several powerful techniques tackling the Graph Isomor- phism Problem have been investigated uncovering various surprising links between different approaches. Also, the situation has led to a number of algorithms solving the isomorphism problem on restricted classes of input graphs. In this thesis, we continue the investigation of various standard approaches to the Graph Isomorphism Problem to further broaden our understanding on the power and limits of such approaches. In particular, this leads to several improved algorithms solving the isomorphism problem for important restricted classes of graphs. One of the most fundamental methods in the context of graph isomorphism test- ing is the Weisfeiler-Leman algorithm, which iteratively computes an isomorphism- invariant coloring of vertex-tuples. While the algorithm is unable to decide the isomorphism problem itself, it is commonly used as a subroutine and, for various restricted graph classes, it already serves as a complete isomorphism test. In the latter direction we prove for example that the Weisfeiler-Leman dimension of graph classes of bounded rank-width is bounded. While it was already known that the isomorphism problem for graphs of rank-width at most k is polynomial-time solvable (Grohe and Schweitzer, FOCS 2015), the previous best algorithm is complicated and the exponent of the running time depends non-elementary on k. In contrast, our analysis of the Weisfeiler-Leman algorithm yields a simple isomorphism test running in time nO(k). A framework closely related to the Weisfeiler-Leman algorithm and which works particularly well in practice is the Individualization-Refinement paradigm. Extending our understanding on the limits of combinatorial approaches we provide the first exponential lower bounds on the worst case complexity of a large and natural class of algorithms within this framework. In particular, this includes all practical state- of-the-art isomorphism tools answering an open question from Babai (STOC 2016) on the worst-case complexity of such solvers. A second crucial approach to the Graph Isomorphism Problem is based on group- theoretic techniques. In this direction, one of the algorithmic cornerstones is Luks's polynomial time algorithm for testing isomorphism of bounded degree graphs (JCSS 1982). Adapting the novel group-theoretic methods by Babai developed for his quasipolynomial time isomorphism test (STOC 2016) we give an isomorphism test for graphs of maximum degree d running in time npolylog(d). This significantly improves over the previous best isomorphism test for graphs of maximum degree d running in time nO(d= log d) (Babai, Kantor and Luks, FOCS 1983). With Luks's algorithm being used as a subroutine in a number of other algo- rithms it is natural to ask for the consequences of this improvement. Besides simple applications regarding structures of small degree, we present an isomorphism test for graphs of tree-width k running in time 2k polylog(k) poly(n) improving the fixed- parameter tractable algorithm of Lokshtanov et al. (FOCS 2014) running in time 5 2O(k log k) poly(n). iii Zusammenfassung Das Graphisomorphieproblem fragt, gegeben zwei Graphen, ob diese strukturell iden- tisch sind, d.h. ob man durch Umbenennung der Knoten des ersten Graphen diesen in den zweiten Graphen transformieren kann. Mit dem j¨ungstenDurchbruch von Babai (STOC 2016) kann dieses Problem in quasipolynomieller Zeit gel¨ostwerden. Jedoch bleibt es, trotz intensiver Forschung, eines von nur wenigen nat¨urlichen Problemen in NP, f¨urdas weder ein Polynomialzeitalgorithmus noch die NP-Schwere bekannt ist. In den letzten f¨unfJahrzehnten wurden vielf¨altige algorithmische Techniken f¨ur das Graphisomorphieproblem erforscht, was ¨uberraschende Verbindungen zwischen verschiedenen Ans¨atzenhervorgebracht hat. Außerdem f¨uhrtedies zu zahlreichen Algorithmen, die das Isomorphieproblem auf eingeschr¨anktenKlassen von Eingabe- graphen l¨osen. Diese Dissertation verfolgt das Ziel unser Verst¨andnis¨uber St¨arken und Grenzen verschiedener wichtiger Ans¨atzezum Graphisomorphieproblem zu er- weitern. Dies resultiert insbesondere in mehreren verbesserten Algorithmen die das Isomorphieproblem f¨urwichtige Klassen von Graphen l¨osen. Eine der grundlegendsten Methoden f¨urdas Testen von Isomorphie ist der Weisfei- ler-Leman Algorithmus, der iterativ eine isomorphieinvariante F¨arbungder Knotentu- pel berechnet. Obwohl dieser Algorithmus das Isomorphieproblem nicht alleine l¨osen kann, wird er regelm¨aßigals Unterprogramm verwendet und dient als vollst¨andiger Isomorphietest f¨urmehrere eingeschr¨ankteKlassen von Graphen. In diesen Zusam- menhang zeigen wir, dass die Weisfeiler-Leman Dimension von Graphen beschr¨ankter Rangweite beschr¨anktist. W¨ahrendein Polynomialzeitalgorithmus f¨urdas Isomor- phieproblem von Graphen mit Rangweite h¨ochstens k bereits vorher bekannt war (Grohe und Schweitzer, FOCS 2015), so sind bisherige Algorithmen kompliziert und der Exponent der Laufzeit h¨angtnicht-elementar von k ab. Im Gegensatz dazu ergibt unsere Analyse des Weisfeiler-Leman Algorithmus einen einfachen Isomorphietest mit Laufzeit nO(k). Ein mit dem Weisfeiler-Leman Algorithmus eng verwandter Ansatz, der besonders gut in der Praxis funktioniert, ist das Paradigma des Individualisierens und Verfei- nerns. Um unser Verst¨andnisder Grenzen kombinatorischer Ans¨atzezu erweitern, geben wir die ersten exponentiellen unteren Schranken f¨urdie Laufzeit einer großen und nat¨urlichen Klasse von Algorithmen innerhalb dieses Paradigmas. Insbeson- dere erhalten wir exponentielle untere Schranken f¨urdie Laufzeit s¨amtlicher moder- ner praktischer Isomorphieprogramme und beantworten damit eine offene Frage von Babai (STOC 2016). Ein zweiter fundamentaler Ansatz f¨urdas Graphisomorphieproblem ist die Ver- wendung gruppentheoretischer Methoden. In dieser Hinsicht ist Luks Algorithmus f¨ur das Testen von Isomorphie von Graphen beschr¨anktenGrades einer der Grundpfeiler der algorithmischen Theorie des Graphisomorphieproblems. Indem wir die grup- pentheoretischen Methoden, die Babai f¨urseinen Quasipolynomialzeitalgorithmus entwickelt hat, anpassen, erhalten wir einen Isomorphietest f¨urGraphen mit Ma- ximalgrad h¨ochstens d mit einer Laufzeit von npolylog(d). Dies stellt eine deutliche Verbesserung im Vergleich zum bisher schnellsten Algorithmus f¨urdieses Problem dar, welcher nO(d= log d) Schritte ben¨otigt(Babai, Kantor und Luks, FOCS 1983). Da Luks Algorithmus als Unterprogramm f¨ureine Reihe weiterer Algorithmen dient, stellt sich die Frage welche Konsequenzen sich aus obiger Verbesserung ergeben. Neben einfachen Anwendungen f¨urdas Isomorphieproblem von relationalen Struk- turen mit kleinem Grad zeigen wir, dass man Isomorphie von Graphen mit Baumweite h¨ochstens k in Zeit 2k polylog(k) poly(n) testen kann und verbessern damit den FPT- 5 Algorithmus von Lokshtanov et al. (FOCS 2014) mit Laufzeit 2O(k log k) poly(n). iv v Acknowledgments First and foremost, I am grateful to my supervisor Martin Grohe for his guidance and support during the time I spent in his group researching for this thesis. Also, I want to thank Pascal Schweitzer for his continued support and for always having an open door when still being at RWTH Aachen University. Moreover, I would like to thank my colleagues Sandra Kiefer and Daniel Wiebking for joint collaborations and for proof-reading parts of this thesis. I am particularly thankful to Sandra Kiefer for sharing an office all these years and making the time at our group more joyful. Finally, I am grateful to my family, and in particular my parents, for their endless support throughout my time as an undergraduate and graduate student. vi Contents 1 Introduction 1 2 Isomorphism and Combinatorial Algorithms 11 2.1 Graphs and Isomorphism . 11 2.1.1 Graphs and Notation . 11 2.1.2 Tree Decompositions and Tree-Width . 12 2.1.3 Isomorphisms . 13 2.1.4 Isomorphism Invariance and Canonization . 14 2.2 The Weisfeiler-Leman Algorithm . 16 2.2.1 The Algorithm . 16 2.2.2 Pebble Games . 19 2.2.3 Connection to Logic . 20 2.3 Individualization-Refinement . 21 2.3.1 The Basic Paradigm . 21 2.3.2 Pruning with Invariants . 23 2.3.3 Pruning with Automorphisms . 23 3 Upper Bounds on the WL Dimension 25 3.1 Tree-Width . 25 3.2 Rank-Width . 30 3.2.1 Definition and Properties . 30 3.2.2 Split Pairs and Flip Functions . 32 3.2.3 A Recursive Strategy for Spoiler . 36 3.3 Further Results . 41 4 Lower Bounds 43 4.1 Weisfeiler-Leman Algorithm . 43 4.2 The I/R-Method in Theory . 48 4.2.1 A Framework for a Lower Bound . 49 4.2.2 The Multipede Construction . 50 4.2.3 The Weisfeiler-Leman Refinement and Closure Operators . 53 4.2.4 Meager Graphs . 56 4.2.5 Lower Bounds for I/R-Algorithms . 58 4.3 The I/R-Method in Practice . 61 vii viii CONTENTS 5 Group Theory 65 5.1 Permutation Groups . 65 5.1.1 Basics . 65 5.1.2 Algorithms for Permutation Groups . 67 5.1.3 Groups with Restricted Composition Factors . 68 5.2 String Isomorphism . 69 5.2.1 Graphs of Bounded Color Class Size . 69 5.2.2 String Isomorphism Problem . 70 5.2.3 Recursion Mechanisms . 71 5.3 Bounded Degree Graphs and Group Theory .