Geometric Complexity Theory and Orbit Closures of Homogeneous Forms vorgelegt von Diplom-Mathematiker Jesko Hüttenhain aus Siegen Von der Fakultät II - Mathematik und Naturwissenschaften der Technischen Universität Berlin zur Erlangung des akademischen Grades Doktor der Naturwissenschaften Dr. rer. nat. genehmigte Dissertation Promotionsausschuss Vorsitzender: Prof. Dr. Jörg Liesen Gutachter : Prof. Dr. Peter Bürgisser Gutachter : Prof. Dr. Giorgio Ottaviani Tag der wissenschaftlichen Aussprache: 3. Juli 2017 Berlin 2017 Niemals aufgeben, niemals kapitulieren. — Peter Quincy Taggart Deutsche Einleitung Das P-NP-Problem gehört zu den fundamentalsten und faszinierensten Problemen der heutigen Mathematik. Es hat umfangreiche Bedeutung für praktische Anwendungen und ist gleichermaßen eine grundsätzliche Frage über die Natur der Mathematik an sich. Wäre unerwartet P = NP, so könnte etwa ein Computer effzient bestimmen, ob eine mathematische Aussage wahr oder falsch ist. Seit die Frage 1971 von Cook [Coo71] gestellt wurde, scheinen wir einer Antwort jedoch nicht nennenswert näher gekommen zu sein. Der größte Fortschritt ist das ernüchternde Resultat von Razborov und Rudich [RR97], dass es keine „natürlichen“ Beweise für P 6= NP geben kann, siehe deren Arbeit für eine Defnition und Details. Peter Bürgisser hat gezeigt [Bü00], dass unter der verallgemeinerten Riemann- Hypothese die nicht-uniforme Version von P 6= NP eine Vermutung von Valiant im- pliziert, welche weithin als ein algebraisches Analogon betrachtet wird. Diese Vermu- tung ist ein ebenso offenes Problem wie das ursprüngliche, doch es gibt die Hoffnung, dass die zusätzliche algebraische Struktur mehr Ansatzpunkte liefert. Wir geben einen kurzen Überblick über die zugrundeliegende Theorie in Kapitel1: Die besagte Ver- mutung von Valiant (Vermutung 1.4.5) ist die zentrale Motivation für die hier vorge- stellten Forschungsergebnisse. In Kapitel2 verschärfen wir ein Resultat von Valiant indem wir zeigen, dass sich jedes ganzzahlige Polynom stets als Determinante einer Matrix schreiben lässt, de- ren Einträge nur Variablen, Nullen und Einsen sind. The Größe der kleinsten solchen Matrix ist ein sinnvolles Komplexitätsmaß, welches sich rein kombinatorisch untersu- chen lässt. Als Anwendung beweisen wir untere Schranken in kleinen Fällen durch Computerberechnung. Von hier an widmen wir uns einem Ansatz zum Beweis von Valiant’s Vermutung, welcher 2001 von Mulmuley und Sohoni vorgestellt wurde und den Titel „Geometric Complexity Theory“ trägt, oder auch kurz GCT. Valiants Ergebnisse werden hier in Aussagen der Algebraischen Geometrie und Darstellungstheorie übersetzt, um da- durch die Probleme vorheriger Ansätze zu vermeiden [For09]. Eine Zusammenfas- sung dieses interessanten Übersetzungsprozesses ist in Kapitel3 zu fnden. iii Um Komplexitätsklassen voneinander zu trennen, muss bewiesen werden, dass kein effzienter Algorithmus für ein mutmaßlich schweres Problem existiert. GCT lie- fert ein Kriterium, wonach die Existenz gewisser ganzzahliger Vektoren schon diese Trennung impliziert. Solche Vektoren nennen wir auch Obstruktionen. Die Hoffnung von Mulmuley und Sohoni war, dass man sich für den Beweis von Valiants Vermu- tung auf eine bestimmte Art von Obstruktionen beschränken kann, doch wir konn- ten bereits 2015 bemerken, dass es starke Anzeichen dagegen gibt. Wir stellen diese Ergebnisse in Kapitel4 vor. Erst kürzlich haben Bürgisser, Ikenmeyer und Panova schlussendlich gezeigt, dass diese sogenannten occurrence obstructions nicht ausrei- chen, um Valiants Vermutung zu beweisen. Im zweiten Teil der Arbeit beschäftigen wir uns näher und in größerer Allgemein- heit mit einem der zentralen Konzepte von GCT: Wir betrachten die Wirkung der GLn auf dem Raum der homogenen, n-variaten Polynome vom Grad d durch Verkettung von rechts und beobachten, dass alle Elemente einer Bahn im Wesentlichen die gleiche Berechnungskomplexität haben. Man ordnet einem Polynom P das kleinste d zu, so dass P im Bahnabschluss des d × d – Determinantenpolynoms liegt. Diese Kennzahl ist dann äquivalent zu Valiants ursprünglichem Komplexitätsmaß für Polynome, so- fern auch Approximationen zugelassen werden. Die Geometrie des Bahnabschlusses der Determinante ist wenig verstanden, sogar für kleine Werte von d. Wir können al- lerdings die im Rand auftretenden Komponenten für d = 3 vollständig klassifzieren. Die benötigten algebraischen und geometrischen Werkzeuge werden im einfüh- renden Kapitel5 vorgestellt. Bahnabschlüsse von homogenen Formen sind stets al- gebraische Varietäten mit der oben genannten GLn-Wirkung und werden klassisch in der geometrischen Invariantentheorie studiert. Neben der Determinante beschäfti- gen wir uns in den darauffolgenden Kapiteln auch mit den Bahnabschlüssen anderer homogener Formen. In Kapitel6 behandeln wir das allgemeine Monom x1 ··· xd, dessen Relevanz für GCT daher stammt, dass es auch als Einschränkung des Determinantenpolynoms auf Diagonalmatrizen verstanden werden kann. Das Studium seines Bahnabschlusses ist beispielsweise das zentrale Hilfsmittel in Kapitel4. Wir bemerken in diesem Kapitel, dass das Monom die seltene Eigenschaft hat, dass jedes Polynom in seinem Bahnab- schluss lediglich das Ergebnis einer Variablensubstitution ist. Eine Klassifkation aller Polynome mit dieser Eigenschaft bleibt offen, obwohl wir einige Fragen im Hinblick darauf beantworten können. Wir stellen für die beiden abschließenden Kapitel noch weitere Techniken in Kapi- tel7 vor. Maßgeblich ist eine obere Schranke für die Anzahl irreduzibler Komponen- ten des Randes eines Bahnabschlusses. Die erste Anwendung dieser Aussage liefert eine Beschreibung des Randes für det3 in Kapitel8. Wir bestimmen hier auch den Stabilisator der Determinante einer allgemeinen, spurlosen Matrix und können so iv schlussfolgern, dass der Bahnabschluss dieses Polynoms stets eine Komponente im Rand des Bahnabschlusses der Determinante ist. Das letzte Kapitel enthält bisher unveröffentlichte Ergebnisse über das allgemeine Binom x1 ··· xd + y1 ··· yd. Wie auch das Monom ist das Binom im Bahnabschluss von detd enthalten. Ein solides Verständnis dieser Familie homogener Formen sollte daher Voraussetzung dafür sein, den Bahnabschluss des Determinantenpolynoms im Allgemeinen zu studieren. Die hier aufkommenden geometrischen Fragen sind bereits deutlich komplexer als im Fall des Monoms: Wir können zwei Komponenten des Randes im Detail beschreiben, müssen jedoch eine subtile Frage offen lassen. Sofern diese sich positiv beantworten lässt, erhalten wir jedoch so bereits eine vollständige Beschreibung des Randes. v Contents Acknowledgements1 Introduction3 I Geometric Complexity Theory7 1 Algebraic Complexity Theory9 1.1 Arithmetic Circuits...............................9 1.2 The Classes VP and P............................. 12 1.3 Reduction and Completeness......................... 13 1.4 The Classes VNP and NP........................... 14 1.5 Determinant Versus Permanent........................ 16 2 Binary Determinantal Complexity 21 2.1 The Cost of Computing Integers....................... 22 2.2 Lower Bounds.................................. 26 2.3 Uniqueness of Grenet’s construction in the 7 × 7 case........... 29 2.4 Algebraic Complexity Classes......................... 30 2.5 Graph Constructions for Polynomials.................... 31 3 Geometric Complexity Theory 35 3.1 Orbit and Orbit Closure as Complexity Measure.............. 35 3.2 Border Complexity............................... 37 3.3 The Flip via Obstructions........................... 39 3.4 Orbit and Orbit Closure............................ 41 4 Occurrence Obstructions 45 4.1 Weight Semigroups............................... 45 4.2 Saturations of Weight Semigroups of Varieties............... 47 4.3 Proof of Main Results............................. 49 vii II Orbit Closures of Homogeneous Forms 55 5 Preliminaries 57 5.1 Conciseness................................... 58 5.2 Grading of Coordinate Rings and Projectivization............. 60 5.3 Rational Orbit Map............................... 61 6 Closed Forms 65 6.1 A Suffcient Criterion.............................. 65 6.2 Normalizations of Orbit Closures....................... 67 6.3 Proof of Main Theorem............................ 71 7 Techniques for Boundary Classifcation 77 7.1 Approximating Degenerations........................ 77 7.2 The Lie Algebra Action............................. 80 7.3 Resolving the Rational Orbit Map...................... 82 8 The 3 by 3 Determinant Polynomial 89 8.1 Construction of Two Components of the Boundary............ 90 8.2 There Are Only Two Components...................... 91 8.3 The Traceless Determinant........................... 96 8.4 The Boundary of the 4 × 4 Determinant................... 102 9 The Binomial 107 9.1 Stabilizer and Maximal Linear Subspaces.................. 108 9.2 The First Boundary Component....................... 110 9.3 The Second Boundary Component...................... 116 9.4 The Indeterminacy Locus........................... 118 III Appendix 123 A Algebraic Groups and Representation Theory 125 A.1 Algebraic Semigroups and Groups...................... 125 A.2 Representation Theory of Reductive Groups................ 130 A.3 Polynomial Representations.......................... 139 Bibliography 141 List of Symbols 149 Index 153 viii Acknowledgements I had the immense privilege to work in the most comfortable scientifc environment imaginable, having both the freedom to pursue my interests and the support of my advisor, Peter Bürgisser. I want to