Variational Domain Decomposition for Parallel Image Processing

Variational Domain Decomposition for Parallel Image Processing Inauguraldissertation zur Erlangung des akademischen Grades eines Doktors der Naturwissenschaften der Universität Mannheim vorgelegt von Dipl.-Inf. Timo Kohlberger aus Heidelberg Mannheim, 2007 Dekan: Professor Dr. Matthias Krause, Universität Mannheim Referent: Professor Dr. Christoph Schnörr, Universität Mannheim Korreferent: Professor Dr. Joachim Weickert, Universität des Saarlandes Tag der mündlichen Prüfung: 11. Juni 2007 ii Abstract Many important techniques in image processing rely on partial differential equation (PDE) problems, which exhibit spatial couplings between the unknowns throughout the whole image plane. Therefore, a straightforward spatial splitting into indepen- dent subproblems and subsequent parallel solving aimed at diminishing the total computation time does not lead to the solution of the original problem. Typi- cally, significant errors at the local boundaries between the subproblems occur. For that reason, most of the PDE-based image processing algorithms are not directly amenable to coarse-grained parallel computing, but only to fine-grained parallelism, e.g. on the level of the particular arithmetic operations involved with the specific solving procedure. In contrast, Domain Decomposition (DD) methods provide several different approaches to decompose PDE problems spatially so that the merged local solutions converge to the original, global one. Thus, such methods distinguish between the two main classes of overlapping and non-overlapping methods, refer- ring to the overlap between the adjacent subdomains on which the local problems are defined. Furthermore, the classical DD methods — studied intensively in the past thirty years — are primarily applied to linear PDE problems, whereas some of the current important image processing approaches involve solving of nonlinear problems, e.g. Total Variation (TV)-based approaches. Among the linear DD methods, non-overlapping methods are favored, since in general they require significanty fewer data exchanges between the particular processing nodes during the parallel computation and therefore reach a higher scalability. For that reason, the theoretical and empirical focus of this work lies primarily on non-overlapping methods, whereas for the overlapping methods we mainly stay with presenting the most important algorithms. With the linear non-overlapping DD methods, we first concentrate on the theoretical foundation, which serves as basis for gradually deriving the different algorithms thereafter. Although we make a connection between the very early methods on two subdomains and the current two-level methods on arbitrary numbers of subdomains, the experimental studies focus on two prototypical methods being applied to the model problem of estimating the optic flow, at which point different numerical aspects, such as the influence of the number of subdomains on the convergence rate, are explored. In particular, we present results of experiments conducted on a PC- cluster (a distributed memory parallel computer based on low-cost PC hardware for up to 144 processing nodes) which show a very good scalability of non-overlapping DD methods. With respect to nonlinear non-overlapping DD methods, we pursue two distinct approaches, both applied to nonlinear, PDE-based image denoising. The first approach draws upon the theory of optimal control, and has been successfully employed for the domain decomposition of Navier-Stokes equations. The second nonlinear DD approach, on the other hand, relies on convex programming and relies on the decomposition of the corresponding minimization problems. Besides the main subject of parallelization by DD methods, we also investigate the linear model problem of motion estimation itself, namely by proposing and empirically studying a new variational approach for the estimation of turbulent flows in the area of fluid mechanics. Zusammenfassung Viele Bildverarbeitungsverfahren basieren auf linearen und nicht-linearen partiellen Differenzialgleichungen (PDG), welche räumliche Abhängigkeiten zwischen den Un- bekannten über den gesamten Bereich der Bildebene aufweisen. Eine direkte räum- liche Zerlegung in seperate Teilprobleme und daran anschließende parallele Berech- nung führt nicht zur Lösung des ursprünglichen Problems. Typischerweise treten starke Fehler an den lokalen Grenzen zwischen den Teilgebieten auf. Folglich ermög- ichen die meisten PDG-basierten Bildverarbeitungsalgorithmen keine direkten grob- körnigen Parallelisierungen, sondern nur solche für fein-körnige, z.B. auf der Ebene der einzelnen Rechenoperationen des jeweiligen Lösungsverfahrens. Im Gegensatz dazu stellen Gebietszerlegungsmethoden (GZ) verschiedene Ansätze zur räumlichen Zerlegung von PDG-Problemen zur Verfügung, so daß die vereinigte Lösung der lokalen Teilprobleme zur ursprünglichen Lösung konvergiert. Hierbei wird zwischen den beiden Klassen der überlappenden und nicht-überlappenden Methoden – in Bezug auf die Uberdeckung¨ von benachbarten Teilgebieten – unterschieden. Zu- dem werden klassische Gebietszerlegungsmethoden – selbst Gegenstand intensiver Forschung in den vergangenen dreißig Jahren – primär auf lineare PDG-Probleme angewandt, wohingegen viele der heutigen Bildverarbeitungsverfahren, wie z.B. solche basierend auf der total Ableitung (TA), nicht-lineare Probleme mit sich bringen. Unter den linearen GZ-Methoden sind die Nicht-Uberlappenden¨ generell von Vorteil, da sie im allgemeinen einen wesentlich geringen Datenaustausch zwischen den einzelnen Rechenknoten während der parallelen Berechnung erfordern und hier- durch eine höhere Skalierbarkeit erreichen. Daher liegt der theoretische und em- pirische Schwerpunkt dieser Arbeit hauptsächlich auf nicht-überlappenden Meth- oden, wohingegen wir in bezug auf die überlappenden Methoden im Großen und Ganzen bei der Erklärung der verschiedenen Berechnungsverfahren verbleiben. Bei den linearen nicht-überlappenden GZ-Methoden konzentrieren wir uns zu Beginn auf die theoretischen Grundlagen, welche hernach als Basis für die Her- leitung der verschiedenen Algorithmen dient. Obwohl wir einen großen Bogen von den relativen simplen Methoden auf zwei Teilgebieten bis zu den heutigen Zwei- Gitter-Methoden auf einer beliebigen Anzahl von Teilgebieten spannen, beschränken sich die experimentellen Studien auf zwei prototypische Verfahren, anhand deren, in Anwendung auf das lineare Modellproblem der Bewegungschätzung, verschiedene numerische Aspekte, wie z.B. der Einfluß der Anzahl der Teilgebiete auf die Konver- genzgeschwindigkeit, untersucht werden. Im besonderen präsentieren wir exper- imentelle Ergebnisse, die auf einem PC-Cluster (einem auf kostengünstiger PC- Hardware basierenden Parallelcomputer mit verteiltem Speicher) mit bis zu 144 Prozeßknoten durchgeführt erzielt, die ihrerseits die sehr guten Skalierungseigen- schaften von nicht-überlappenden GZ-Methoden aufzeigen. Im Hinblick auf nicht-lineare nicht-überlappende GZ-Methoden verfolgen wir zwei unterschiedliche Ansätze, beide jedoch in Anwendung auf nicht-lineare, PDG- basierte Bildentrauschung. Die erste Methode basiert auf einem kontrolltheoretischen Ansatz, welcher bereits erfolgreich zur Parallelisierung von Navier-Stokes-Gleichungen eingesetzt wurde. Der zweite nicht-lineare Gebietszerlegungsansatz hingegen fußt auf konvexer Programmierung und basiert auf einer Zerlegung der korrespondieren- den Minimierungsprobleme. Neben des Hauptthemas der Parallelisierung durch GZ-Methoden untersuchen wir auch das lineare Modellproblem der Bewegungsschätzung selbst. Hierbei stellen wir einen neuen variationellen Ansatz zur Schätzung von turbulenten Flußfeldern auf dem Gebiet der Flußmechanik vor und untersuchen ihn experimentell. vi Acknowledgments First and foremost, I would like to express my gratitude to Prof. Christoph Schnörr for supervising my doctorate, introducing me into the research areas of computer vi- sion and pattern recognition, and for guiding me along the way of scientific thinking and argumentation. Secondly, I am grateful to Prof. Joachim Weickert for serving as an external referee. Moreover, I would like to thank several people which contributed to this work in a direct or indirect manner. In particular, there is Prof. Daniel Cremers with whom I enjoyed and enjoy many fruitful scientific debates, be it on the conceptual design or the correct mathematical modeling of new and existing approaches. Also, I am most grateful to the countless in-depth discussions with Matthias Heiler on almost all major topics in the field, as well as those in the area of flow estimation and convex optimization with Yuan Jing and Paul Ruhnau, all of which being members of the CVGPR research group at that time. Speaking of the latter, in addition, the broad variety of scientific topics being worked on, the level of expertise and enthusiasm with respect to each of those, and the willingness to discuss them at any time, gave me great support. Moreover, there is Andres Bruhn of the MIA group at the Saar- land University, with whom I enjoyed the close cooperation and additional insights into the latest optic flow approaches as well as their implementation. Also, I would like to thank the group of Prof. Patrick Bouthemy at the INRIA in Rennes, France, for their hospitality in hosting me for three weeks in 2002. In particular, I am grateful to Etienne Mémin both for the organization of the stay, as well as the scientific discussions on high-order motion estimation approaches.

Load more