Data-Driven Methods for Compression and Editing of Spatially Varying Appearance
Total Page：16
File Type：pdf, Size：1020Kb
Data-Driven Methods for Compression and Editing of Spatially Varying Appearance Dissertation zur Erlangung des Doktorgrades (Dr. rer. nat.) der Mathematisch-Naturwissenschaftlichen Fakultät der Rheinischen Friedrich-Wilhelms-Universität Bonn vorgelegt von Dipl.-Inf. Gero Müller aus Köln Bonn, Dezember 2008 Universität Bonn Institut für Informatik II Römerstraße 164, D-53117 Bonn Angefertigt mit Genehmigung der Mathematisch-Naturwissenschaftlichen Fakultät der Rheinischen Friedrich-Wilhelms Universität Bonn Dekan: Prof. Dr. U.-G. Meißner 1. Referent: Prof. Dr. Reinhard Klein 2. Referent: Prof. Dr. Volker Blanz 3. Referent: Prof. Dr. Jan Kautz Tag der Promotion: 1. September 2009 Erscheinungsjahr 2009 Diese Dissertation ist auf dem Hochschulschriftenserver der ULB Bonn http://hss.ulb.uni-bonn.de/diss_online elektronisch publiziert. CONTENTS Zusammenfassung v Abstract vii Acknowledgements viii 1 Introduction 1 1.1 The Complexity of Surface Appearance . 2 1.2 Image-based Rendering and the BTF . 4 1.3 Main Contributions and Thesis Structure . 5 2 Preliminaries of Visual Appearance 9 2.1 Basic Radiometry . 10 2.1.1 Radiometric Quantities . 10 2.1.2 Photometric Quantities . 12 2.2 The Rendering Equation . 12 2.3 Material Classification for Computer Graphics . 13 2.3.1 Hierarchy of Detail . 14 2.3.2 Homogenous Materials . 15 2.3.3 Heterogenous Materials . 15 2.4 Classical Reflectance Modeling . 16 2.4.1 Reflectance on Idealized Surface Patches . 17 2.4.2 BRDF Models . 18 2.4.3 Beyond BRDF-Modeling . 19 2.5 Image-Based Rendering and the BTF . 21 2.5.1 Light Fields and the Plenoptic Function . 22 2.5.2 The Reflectance Field . 22 2.5.3 Bidirectional Texture Function . 24 2.6 Image-Based Appearance Acquisition . 25 2.6.1 Light Transport Matrix . 25 2.6.2 Capturing the Light Transport Matrix . 26 2.6.3 BTF Acquisition . 27 i CONTENTS I Compression 31 3 Background 33 3.1 Matrix Factorization . 35 3.1.1 Singular Value Decomposition . 35 3.1.2 Block-Wise Factorization . 38 3.1.3 Two-pass Factorization . 42 3.1.4 Tensor Factorization . 44 3.1.5 Alternative Methods . 47 3.2 Summary . 48 4 Factorizing the BTF Transport Matrix 51 4.1 Matrix Data Arrangement . 51 4.2 Tensor Data Arrangement . 53 4.3 Dealing with Color . 54 4.4 Empirical Comparison . 55 4.4.1 Standard SVD . 57 4.4.2 Block-wise SVD . 60 4.4.3 Tensor Factorization . 66 4.5 Summary . 70 5 Data-Driven Local Coordinate Systems 73 5.1 Uniform local frame alignment . 76 5.1.1 Spherical correlation . 78 5.1.2 Generalization to 4D . 79 5.1.3 Putting it Together . 81 5.2 Non-uniform local frame alignment . 82 5.3 Experiments and Results . 82 5.3.1 Synthetic Data . 83 5.3.2 Measured BTFs . 83 5.3.3 Measured Far-Field Surface Reflectance Field . 86 5.4 Summary . 87 6 Related and Concurrent Work 89 6.1 Fitting Parametric Models . 89 6.2 Fixed Basis Projection . 90 6.3 Hybrid Models . 91 6.4 MRF-Modeling . 92 6.5 Photometric Stereo and Alignment of Reflectance . 93 ii CONTENTS II Editing 95 7 Background 97 7.1 Texture Transfer and Image Analogies . 99 8 BTF-Analogies 103 8.1 Multi-Channel Image Analogies . 103 8.2 Features for BTF analogies . 107 8.2.1 Single RGB/Luminance images . 107 8.2.2 Reconstructed height-map . 107 8.3 Experiments and Results . 110 8.3.1 Painting . 110 8.3.2 Warping . 111 8.3.3 Transfer . 111 9 Analogy-Driven BTF Interpolation 117 9.1 Interpolating Multiple BTFs . 117 9.2 Procedural Leather Meso-Geometry . 119 9.2.1 Procedural Voronoi Crack Patterns . 120 9.2.2 Efficient Crack Pattern Computation . 121 9.2.3 Morphing Procedural Crack Patterns . 121 9.2.4 Fitting Crack Patterns to Meso-Geometry . 123 9.3 Experiments and Results . 123 10 Related and Concurrent Work 129 10.1 Appearance Modeling and Editing . 129 10.2 Texture synthesis and transfer . 130 III Closure 133 11 Conclusions 135 11.1 Summary . 135 11.2 Future Work . 137 Bibliography 141 Data Sources 155 List of Publications 157 iii CONTENTS iv ZUSAMMENFASSUNG Das optische Reflexionsverhalten von Materialien und Oberflächen ist für die kor- rekte Wahrnehmung und Einschätzung einer Szene von großer Bedeutung. Der spezifische Glanz und die Textur einer Oberfläche geben beispielsweise Auskunft darüber, ob ein Material glatt oder porös, weich oder hart ist, oder sogar, ob es im Falle eines Textils aus einer Baumwoll- oder Synthetikfaser besteht. In der Computergrafik wurden diese Aspekte einer Szene bis vor wenigen Jahren noch recht stiefmütterlich behandelt. Dies kann man einerseits darauf zurückführen, dass man sich der Bedeutung von Materialien für die Wahrnehmung von Rea- lismus möglicherweise noch nicht ausreichend bewusst war. Andererseits ist das Modellieren von Materialien aufgrund der beteiligten mikro- und mesoskopisch kleinen und komplexen Strukturen sowie deren nicht-trivialen Einfluss auf das Reflexionsverhalten ausgesprochen schwierig. Dies gilt insbesondere, wenn nur klassische Modellierungstechniken wie parametrische Reflexions- und Oberflä- chenmodelle zur Verfügung stehen, deren Parameter häufig unintuitiv zu bedie- nen sind und die unter Umständen gar nicht in der Lage sind, das gewünschte Verhalten zu erzeugen. An diesem Punkt setzen nun die so genannten daten-getriebenen Verfahren an: Anstelle eines parametrischen Modells werden gemessene Daten des zu visuali- sierenden Objekts verwendet. Beispiele hierfür sind per Laserscanner akquirierte Geometriedaten oder mittels eines Motion-Capture Systems gewonnene Bewe- gungsdaten. In der Form von fotografierten Texturen sind daten-getriebene Ver- fahren schon seit vielen Jahren für die effektive Repräsentation komplexer Mate- rialoberflächen im Einsatz. In dieser Arbeit soll es nun um eine erweiterte Definition von Texturen gehen: die Bi-direktionale Texturfunktion, kurz BTF. Im Unterschied zu gewöhnlichen Texturen, die meist nur durch ein einziges Bild repräsentiert werden, besteht die BTF aus vielen Bildern, die unter verschiedenen Beleuchtungen und unter ver- schiedenen Blickwinkeln aufgenommmen wurden. Somit repräsentieren sie das Aussehen eines Materials unter der Variation von Beleuchtungs- und Betrachter- richtung. Leider findet die BTF in der Praxis bisher kaum Verwendung, da die große Menge von Bildern, welche in der Regel erforderlich ist, um ein Material mit ausreichender Genauigkeit erfassen zu können, schwer zu verarbeiten ist. v ZUSAMMENFASSUNG In der vorliegenden Arbeit werden nun Verfahren vorgestellt, welche die prak- tische Anwendbarkeit der BTF deutlich verbessern sollen, indem sie erstens, die zu speichernde Datenmege deutlich reduzieren, und zweitens, das effiziente Edi- tieren der BTF ermöglichen. Dementsprechend besteht diese Arbeit im wesentli- chen aus zwei Teilen: Der erste Teil stellt Techniken vor, welche in der Lage sind, die Datenmenge unter Beibehaltung der visuellen Qualität effektiv auf weniger als ein Prozent der Originalgröße zu reduzieren. Hierbei wird im besonderen darauf Wert gelegt, dass sich einzelne Datenwerte möglichst effizient wieder aus der komprimierten Dar- stellung rekonstruieren lassen, was für die interaktive Darstellung in Rendering- systemen unerlässlich ist. Die Grundidee der vorgestellten Algorithmen besteht darin, mathematische Verfahren aus dem Bereich der Faktorisierung von Matrizen auf die gemessenen Daten der BTF zu übertragen. Ein weiterer wesentlicher Bei- trag dieses Teils der Dissertation ist ein effizienter Algorithmus zur Berechnung von lokalen Koordinatensystemen rein auf Basis der gemessenen Daten. Der Al- gorithmus kommt im Gegensatz zu früheren Arbeiten zu diesem Thema ohne die Annahme eines spezifischen Reflektionsmodells aus. Im zweiten Teil geht es dann um Algorithmen, die die Veränderung der Struk- tur und des Reflexionsverhaltens einer BTF ermöglichen, ohne jedes der vielen tausend Bilder einzeln für sich editieren zu müssen. Unsere Technik zeichnet sich durch die Fähigkeit aus, einfache Editieroperationen, die auf ein einzelnes Bild an- gewendet wurden, konsistent auf den gesamten Datensatz übertragen zu können. Zu diesem Zweck greift unsere Methode auf Techniken aus dem Bereich der Tex- tursynthese und des Texturtransfers zurück und verallgemeinert diese auf BTFs. Ein weiterer Aspekt unseres Verfahrens ist die sinnvolle Interpolation von BTFs basierend auf verallgemeinertem Texturtransfer. Dies ermöglicht das Editieren der Reflexionseigenschaften von BTFs auf eine vollständig daten-getriebene Art und Weise. vi ABSTRACT The optical reflectance behavior of materials and surfaces is of great importance for the perception of a scene. The specific gloss and the texture of a surface give valuable hints on properties of the material it is made of; like if it is smooth or porous, soft or firm or even, in the case of a textile, if it is made from cotton- or synthetic fibers. During the early years of Computer Graphics these aspects have been slightly overlooked and materials were modeled based on quite simple as- sumptions about reflectance and texture appearance. Maybe this can be appointed to the fact that at that time the community had not realized the importance of sur- face appearance in its full extent. Another reason might be that materials are just particularly difficult to model: the involved micro- and mesoscopic structures have a non-trivial influence on the reflectance behavior and appearance. The standard models that have been used for the representation of surface appearance during the first two decades of computer graphics were clearly not sufficient to model this complexity in an effective and intuitive way. At this point the so-called data-driven methods step in: instead of using a parametric model the idea