Interactive Multimodal and Procedurally-Assisted Creation of VR Environments
Total Page:16
File Type:pdf, Size:1020Kb
FACULDADE DE ENGENHARIA DA UNIVERSIDADE DO PORTO Interactive Multimodal and Procedurally-Assisted Creation of VR Environments João Pedro Martins Ferreira Mestrado Integrado em Engenharia Informática e Computação Supervisor: Rui Rodrigues Second Supervisor: Rui Nóbrega September 21, 2020 Interactive Multimodal and Procedurally-Assisted Creation of VR Environments João Pedro Martins Ferreira Mestrado Integrado em Engenharia Informática e Computação September 21, 2020 Abstract Virtual reality has become very popular all throughout the late 2010s due to the arrival of better and more affordable technologies to the consumer market, which in turn, has grown massively. This makes it so that virtual reality starts being used across many fields, from education to health, and the creation of virtual reality content spikes in demand. However, as we will show, the creation of virtual reality content has not managed to keep up with these advances, and research into new alternatives is needed. In this dissertation we explore the gap that exists in the creation of better ways to develop virtual reality content, harnessing the power of virtual reality interaction and readily available systems. More specifically, we focus on how it is possible to help the creation of virtual reality environment using 3D model repositories, voice controls and procedural tools. We strive for a tool that makes the technical process behind the creation of virtual reality environments as intuitive as possible, leaving only the creative process to the user. Put simply, our research goal is to find out if such a tool could be created that not only made it easier and faster for proficient users to make environment prototypes while instantaneously visualising the final product, but at the same time, made it possible for inexperienced users without 3D modelling abilities and even VR experience to also be able to create their own environments without the need for extensive training. Our hope is that this project could be a stepping stone for the possible adoption of virtual reality into more domains. We start by studying the foundations of 3D modelling and figuring what methodologies best suit our use case. We explore existing alternatives to better understand the existing gap in offerings, and speak with 3D modelling professionals to understand their needs and the viability of our project. Following that, we define the key features of our prototype, introduce how we intend to test it and establish which tools and technologies we will use to develop it. Next, we analyse the development process, exploring in great detail all the functionalities of our prototype and how to use them, and narrate the whole environment creation workflow using it. Finally, we explain our testing methodologies, recount our testing procedure and summarize and interpret the gathered results, concluding that our prototype suitably responds to the estab- lished research questions. i ii Resumo A realidade virtual alcançou uma popularidade bastante elevada nos últimos anos devido ao aparec- imento de tecnologia melhor e mais barata no mercado do consumidor, que, por sua vez, tem crescido substancialmente. Isto fez com que o uso de realidade virtual se tenha disseminado para muitas áreas, desde a educação à saúde, e com que a criação de conteúdo para realidade virtual tenha cada vez mais procura. Essa criação de conteúdo, no entanto, tem tido dificuldades em acompanhar esses avanços e investigação em novas alternativas para o efeito precisa de ser feita. Com este projecto, nós exploramos o espaço que existe na criação de melhores metodos para produzir conteúdo para realidade virtual, com a ajuda das capacidades de interação da realidade virtual e de sistemas disponíveis. Mais especificamente, o nosso foco é ajudar a criação de am- bientes em realidade virtual, usando para o efeito repositórios de modelos 3D, controlos de voz e ferramentas procedimentais. Esperamos desenvolver uma ferramenta que torne o processo técnico de desenvolvimento de ambientes para realidade virtual o mais intuitivo possível, deixando assim apenas a parte criativa para o utilizador. Posto de maneira simples, o nosso objectivo de investigação é descobrir se tal ferramenta pode ser feita, de modo a que, não só fizesse com que o processo de criação de protótipos de ambientes fosse mais fácil para utilizadores proficientes, mas também, fizesse com que fosse possível para utilizadores sem experiência em modelação 3D e até em realidade virtual, criarem os seus próprios ambientes sem a necessidade de aprendizagem extensiva. A nossa ambição é que este projecto possa ser um degrau na direção da adopção da realidade virtual para mais domínios. Começamos por estudar as fundações da modelação 3D e descobrir que metodologias melhor se encaixam com o nosso caso. Nós exploramos alternativas existentes de modo a melhor entender o vazio existente nas ofertas atuais, e falamos com modeladores 3D profissionais para perceber as suas necessidades e a viabilidade do projecto. Depois disso, definimos as características chave do nosso protótipo, introduzimos com o planeamos testar e estabelecemos que ferramentas e tecnologias vamos usar para o desenvolver. A seguir, analisamos o processo de desenvolvimento, explorando em grande detalhe todas as funcionalidades do nosso protótipo e como usá-las, e narramos todo o processo de criação de ambientes usando-o. Finalmente, explicamos a nossa metodologia de testes, relatamos os nossos procedimentos e resumimos e interpretamos os resultados recolhidos, concluindo que o nosso protótipo responde adequadamente às questões de investigação estabelecidas. iii iv “The whole point of human-centered design is to tame complexity, to turn what would appear to be a complicated tool into one that fits the task, that is understandable, usable, enjoyable.” Donald Norman v vi Contents 1 Introduction1 1.1 Context and Motivation . .1 1.2 Research Questions . .2 1.3 Document Structure . .2 2 State of the Art Review3 2.1 Virtual Reality . .3 2.1.1 VR Devices . .4 2.1.2 VR Applications . .6 2.1.3 VR Research . .7 2.2 3D Modelling . .8 2.2.1 3D Representation . .8 2.2.2 3D Modelling Techniques . 11 2.2.3 Environment Creation . 13 2.2.4 Consulting 3D modelling professionals . 13 2.3 3D modelling in VR . 15 2.4 Summary . 16 3 Proposed Solution – VR Designer 19 3.1 Main Goals . 19 3.2 Requirements . 20 3.3 Solution Architecture . 20 3.4 Tools and Technology . 21 3.4.1 Unity . 21 3.4.2 SteamVR . 21 3.4.3 Windows speech recognition . 21 3.4.4 Poly API . 22 3.5 Interface devices . 22 3.6 Summary . 24 4 Prototype Development 25 4.1 Expected Workflow . 25 4.2 Interaction Controls . 27 4.2.1 Radial Menus . 27 4.2.2 Windows . 28 4.2.3 Speech Recognition . 29 4.2.4 Direction Overlays . 29 4.3 Objects . 30 vii CONTENTS 4.3.1 Object Types . 31 4.3.2 Importing Objects . 32 4.3.3 Interaction modes . 36 4.3.4 Object selection and manipulation . 38 4.3.5 Tool-based transformations . 39 4.3.6 Grouping objects . 41 4.3.7 Procedures / Modifiers . 42 4.4 World . 44 4.4.1 Teleportation . 44 4.4.2 Lighting . 45 4.4.3 Saving / Exporting the world . 45 4.5 Proposed Workflow . 45 4.6 Summary . 48 5 Testing and Evaluation 49 5.1 Solution Evaluation . 49 5.2 Testing Methodologies . 50 5.2.1 Simple Tasks . 50 5.2.2 Environments Creation . 51 5.2.3 Questionnaire . 54 5.3 Testing Procedure . 55 5.3.1 Declaration of consent . 55 5.3.2 Introduction to VR . 55 5.3.3 Familiarisation with VR Designer ..................... 55 5.3.4 Simple tasks test . 56 5.3.5 Scene creation test . 57 5.3.6 Questionnaire . 57 5.4 Results . 57 5.4.1 Experience Questionnaire . 57 5.4.2 Simple Tasks . 60 5.4.3 Environment Creation Test . 66 5.4.4 Usability Questionnaire . 68 5.4.5 Open Ended Questionnaire . 71 5.5 Conclusions . 72 6 Conclusions 73 References 75 A Test results 79 A.1 Checklist . 79 A.2 Results . 80 A.2.1 Simple tasks . 80 A.2.2 Environment creation . 82 B Questionnaire 85 B.1 Declaration of consent . 85 B.2 About you . 85 B.3 About your experience with the tool . 86 viii CONTENTS B.4 Ending thoughts . 87 B.5 Thank you for your collaboration . 88 C Questionnaire results 89 C.1 Declaration of consent . 89 C.2 About you . 90 C.3 About your experience with the tool . 92 C.4 Ending thoughts . ..