Variational Domain Decomposition for Parallel Image Processing Inauguraldissertation zur Erlangung des akademischen Grades eines Doktors der Naturwissenschaften der Universit¨at Mannheim vorgelegt von Dipl.-Inf. Timo Kohlberger aus Heidelberg Mannheim, 2007 Dekan: Professor Dr. Matthias Krause, Universit¨at Mannheim Referent: Professor Dr. Christoph Schn¨orr, Universit¨at Mannheim Korreferent: Professor Dr. Joachim Weickert, Universit¨at des Saarlandes Tag der m¨undlichen Pr¨ufung: 11. Juni 2007 ii Abstract Many important techniques in image processing rely on partial differential equation (PDE) problems, which exhibit spatial couplings between the unknowns throughout the whole image plane. Therefore, a straightforward spatial splitting into indepen- dent subproblems and subsequent parallel solving aimed at diminishing the total computation time does not lead to the solution of the original problem. Typi- cally, significant errors at the local boundaries between the subproblems occur. For that reason, most of the PDE-based image processing algorithms are not directly amenable to coarse-grained parallel computing, but only to fine-grained parallelism, e.g. on the level of the particular arithmetic operations involved with the specific solving procedure. In contrast, Domain Decomposition (DD) methods provide sev- eral different approaches to decompose PDE problems spatially so that the merged local solutions converge to the original, global one. Thus, such methods distinguish between the two main classes of overlapping and non-overlapping methods, refer- ring to the overlap between the adjacent subdomains on which the local problems are defined. Furthermore, the classical DD methods — studied intensively in the past thirty years — are primarily applied to linear PDE problems, whereas some of the current important image processing approaches involve solving of nonlinear problems, e.g. Total Variation (TV)-based approaches. Among the linear DD methods, non-overlapping methods are favored, since in general they require significanty fewer data exchanges between the particular processing nodes during the parallel computation and therefore reach a higher scal- ability. For that reason, the theoretical and empirical focus of this work lies primarily on non-overlapping methods, whereas for the overlapping methods we mainly stay with presenting the most important algorithms. With the linear non-overlapping DD methods, we first concentrate on the the- oretical foundation, which serves as basis for gradually deriving the different algo- rithms thereafter. Although we make a connection between the very early methods on two subdomains and the current two-level methods on arbitrary numbers of sub- domains, the experimental studies focus on two prototypical methods being applied to the model problem of estimating the optic flow, at which point different numerical aspects, such as the influence of the number of subdomains on the convergence rate, are explored. In particular, we present results of experiments conducted on a PC- cluster (a distributed memory parallel computer based on low-cost PC hardware for up to 144 processing nodes) which show a very good scalability of non-overlapping DD methods. With respect to nonlinear non-overlapping DD methods, we pursue two distinct approaches, both applied to nonlinear, PDE-based image denoising. The first ap- proach draws upon the theory of optimal control, and has been successfully employed for the domain decomposition of Navier-Stokes equations. The second nonlinear DD approach, on the other hand, relies on convex programming and relies on the de- composition of the corresponding minimization problems. Besides the main subject of parallelization by DD methods, we also investigate the linear model problem of motion estimation itself, namely by proposing and empirically studying a new variational approach for the estimation of turbulent flows in the area of fluid mechanics. Zusammenfassung Viele Bildverarbeitungsverfahren basieren auf linearen und nicht-linearen partiellen Differenzialgleichungen (PDG), welche r¨aumliche Abh¨angigkeiten zwischen den Un- bekannten ¨uber den gesamten Bereich der Bildebene aufweisen. Eine direkte r¨aum- liche Zerlegung in seperate Teilprobleme und daran anschließende parallele Berech- nung f¨uhrt nicht zur L¨osung des urspr¨unglichen Problems. Typischerweise treten starke Fehler an den lokalen Grenzen zwischen den Teilgebieten auf. Folglich erm¨og- ichen die meisten PDG-basierten Bildverarbeitungsalgorithmen keine direkten grob- k¨ornigen Parallelisierungen, sondern nur solche f¨ur fein-k¨ornige, z.B. auf der Ebene der einzelnen Rechenoperationen des jeweiligen L¨osungsverfahrens. Im Gegensatz dazu stellen Gebietszerlegungsmethoden (GZ) verschiedene Ans¨atze zur r¨aumlichen Zerlegung von PDG-Problemen zur Verf¨ugung, so daß die vereinigte L¨osung der lokalen Teilprobleme zur urspr¨unglichen L¨osung konvergiert. Hierbei wird zwis- chen den beiden Klassen der ¨uberlappenden und nicht-¨uberlappenden Methoden – in Bezug auf die Uberdeckung¨ von benachbarten Teilgebieten – unterschieden. Zu- dem werden klassische Gebietszerlegungsmethoden – selbst Gegenstand intensiver Forschung in den vergangenen dreißig Jahren – prim¨ar auf lineare PDG-Probleme angewandt, wohingegen viele der heutigen Bildverarbeitungsverfahren, wie z.B. solche basierend auf der total Ableitung (TA), nicht-lineare Probleme mit sich bringen. Unter den linearen GZ-Methoden sind die Nicht-Uberlappenden¨ generell von Vorteil, da sie im allgemeinen einen wesentlich geringen Datenaustausch zwischen den einzelnen Rechenknoten w¨ahrend der parallelen Berechnung erfordern und hier- durch eine h¨ohere Skalierbarkeit erreichen. Daher liegt der theoretische und em- pirische Schwerpunkt dieser Arbeit haupts¨achlich auf nicht-¨uberlappenden Meth- oden, wohingegen wir in bezug auf die ¨uberlappenden Methoden im Großen und Ganzen bei der Erkl¨arung der verschiedenen Berechnungsverfahren verbleiben. Bei den linearen nicht-¨uberlappenden GZ-Methoden konzentrieren wir uns zu Beginn auf die theoretischen Grundlagen, welche hernach als Basis f¨ur die Her- leitung der verschiedenen Algorithmen dient. Obwohl wir einen großen Bogen von den relativen simplen Methoden auf zwei Teilgebieten bis zu den heutigen Zwei- Gitter-Methoden auf einer beliebigen Anzahl von Teilgebieten spannen, beschr¨anken sich die experimentellen Studien auf zwei prototypische Verfahren, anhand deren, in Anwendung auf das lineare Modellproblem der Bewegungsch¨atzung, verschiedene numerische Aspekte, wie z.B. der Einfluß der Anzahl der Teilgebiete auf die Konver- genzgeschwindigkeit, untersucht werden. Im besonderen pr¨asentieren wir exper- imentelle Ergebnisse, die auf einem PC-Cluster (einem auf kosteng¨unstiger PC- Hardware basierenden Parallelcomputer mit verteiltem Speicher) mit bis zu 144 Prozeßknoten durchgef¨uhrt erzielt, die ihrerseits die sehr guten Skalierungseigen- schaften von nicht-¨uberlappenden GZ-Methoden aufzeigen. Im Hinblick auf nicht-lineare nicht-¨uberlappende GZ-Methoden verfolgen wir zwei unterschiedliche Ans¨atze, beide jedoch in Anwendung auf nicht-lineare, PDG- basierte Bildentrauschung. Die erste Methode basiert auf einem kontrolltheoretischen Ansatz, welcher bereits erfolgreich zur Parallelisierung von Navier-Stokes-Gleichungen eingesetzt wurde. Der zweite nicht-lineare Gebietszerlegungsansatz hingegen fußt auf konvexer Programmierung und basiert auf einer Zerlegung der korrespondieren- den Minimierungsprobleme. Neben des Hauptthemas der Parallelisierung durch GZ-Methoden untersuchen wir auch das lineare Modellproblem der Bewegungssch¨atzung selbst. Hierbei stellen wir einen neuen variationellen Ansatz zur Sch¨atzung von turbulenten Flußfeldern auf dem Gebiet der Flußmechanik vor und untersuchen ihn experimentell. vi Acknowledgments First and foremost, I would like to express my gratitude to Prof. Christoph Schn¨orr for supervising my doctorate, introducing me into the research areas of computer vi- sion and pattern recognition, and for guiding me along the way of scientific thinking and argumentation. Secondly, I am grateful to Prof. Joachim Weickert for serving as an external referee. Moreover, I would like to thank several people which contributed to this work in a direct or indirect manner. In particular, there is Prof. Daniel Cremers with whom I enjoyed and enjoy many fruitful scientific debates, be it on the conceptual design or the correct mathematical modeling of new and existing approaches. Also, I am most grateful to the countless in-depth discussions with Matthias Heiler on almost all major topics in the field, as well as those in the area of flow estimation and convex optimization with Yuan Jing and Paul Ruhnau, all of which being members of the CVGPR research group at that time. Speaking of the latter, in addition, the broad variety of scientific topics being worked on, the level of expertise and enthusiasm with respect to each of those, and the willingness to discuss them at any time, gave me great support. Moreover, there is Andres Bruhn of the MIA group at the Saar- land University, with whom I enjoyed the close cooperation and additional insights into the latest optic flow approaches as well as their implementation. Also, I would like to thank the group of Prof. Patrick Bouthemy at the INRIA in Rennes, France, for their hospitality in hosting me for three weeks in 2002. In particular, I am grateful to Etienne M´emin both for the organization of the stay, as well as the scientific discussions on high-order motion estimation approaches.