Study and Design of Interaction Techniques to Facilitate Object Selection and Manipulation in Virtual Environments on Mobile Devices Siju Wu
Total Page:16
File Type:pdf, Size:1020Kb
Study and design of interaction techniques to facilitate object selection and manipulation in virtual environments on mobile devices Siju Wu To cite this version: Siju Wu. Study and design of interaction techniques to facilitate object selection and manipulation in virtual environments on mobile devices. Human-Computer Interaction [cs.HC]. Université Paris Saclay, 2015. English. NNT : 2015SACLE023. tel-01406600 HAL Id: tel-01406600 https://hal.archives-ouvertes.fr/tel-01406600 Submitted on 1 Dec 2016 HAL is a multi-disciplinary open access L’archive ouverte pluridisciplinaire HAL, est archive for the deposit and dissemination of sci- destinée au dépôt et à la diffusion de documents entific research documents, whether they are pub- scientifiques de niveau recherche, publiés ou non, lished or not. The documents may come from émanant des établissements d’enseignement et de teaching and research institutions in France or recherche français ou étrangers, des laboratoires abroad, or from public or private research centers. publics ou privés. NNT : 2015SACLE023 THESE DE DOCTORAT DE L’UNIVERSITE PARIS-SACLAY, préparée à l’Université d’Evry Val-d’Essonne ÉCOLE DOCTORALE N°580 STIC : Sciences et technologies de l’information et de la communication Spécialité de doctorat : Informatique Par Mr Siju Wu Study and design of interaction techniques to facilitate object selection and manipulation in virtual environments on mobile devices Thèse présentée et soutenue à Evry, le 30 novembre 2015 : Composition du Jury : M, Merienne, Frédéric, Professeur, Institut Image - ENSAM, Examinateur, Président M, Casiez, Géry, Professeur, Université de Lille 1, Rapporteur M, Duval, Thierry, Professeur, IMT - Télécom Bretagne, Rapporteur M, Arnaldi, Bruno, Professeur, INSA de Rennes, Examinateur M, Dumas, Cédric, Maître de conférences, Ecole des Mines de Nantes, Examinateur M, Otmane, Samir, Professeur, UEVE, Directeur de thèse M, Moreau, Guillaume, Professeur, Ecole Centrale de Nantes, Co-directeur de thèse M, Chellali, Amine, Maître de Conférences, UEVE, Co-encadrant Résumé Les avancées dans le domaine des NUIs (interfaces utilisateur naturelles) permettent aux concepteurs de développer de nouvelles techniques efficaces et faciles à utiliser pour l'interaction 3D. Dans ce contexte, les interfaces mobiles attirent beaucoup d'attention sur la conception de techniques d'interaction 3D pour une utilisation ubiquitaire. Nos travaux de recherche se focalisent sur la proposition de nouvelles techniques d’interaction pour faciliter la sélection et la manipulation d'objets dans des environnements virtuels s’exécutant sur des interfaces mobiles. En effet, l'efficacité et la précision de la sélection des l'objets sont fortement affectés par la taille de la cible et la densité de l’environnement virtuel. Pour surmonter le problème d'occlusion du bout des doigts sur les Smartphones, nous avons conçu deux techniques de sélection reposant sur le toucher. Nous avons également conçu une technique hybride à main levée pour la sélection à distance de petits objets. Pour effectuer une manipulation d’objets contraints sur les Tablet-PC, nous avons proposé une technique bimanuelle basée sur un modèle asymétrique. Les deux mains peuvent être utilisés en collaboration, afin de spécifier la contrainte, déterminer le mode de manipulation et de contrôler la transformation. Nous avons également proposé deux autres techniques de manipulation à une seule main en utilisant les points de contacts identifiés. Les évaluations de nos techniques démontrent qu'ils peuvent améliorer l'expérience des interactions utilisateurs sur des interfaces mobiles. Nos résultats permettent aussi de donner quelques lignes directrices pour améliorer la conception de techniques d'interactions 3D sur des interfaces mobiles. Mots clés : interaction 2D/3D, interface naturelle utilisateur, environnement virtuel, interface mobile Abstract The advances in the field of NUIs (Natural User Interfaces) can provide more and more guidelines for designers to develop efficient and easy-to-use techniques for 3D interaction. In this context, mobile devices attract much attention to design 3D interaction techniques for ubiquitous usage. Our research work focuses on proposing new techniques to facilitate object selection and manipulation in virtual environments on mobile devices. Indeed, the efficiency and accuracy of object selection are highly affected by the target size and the cluster density. To overcome the fingertip occlusion issue on Smartphones, we have designed two touch- based selection techniques. We have also designed one freehand hybrid technique for selection of small objects displayed at a distance.To perform constrained manipulation on Tablet-PCs, we have proposed a bimanual technique based on the asymmetrical model. Both hands can be used in collaboration, in order to specify the constraint, determine the manipulation mode, and control the transformation. We have also proposed two other single-hand manipulation techniques using identified touch inputs. The evaluations of our techniques demonstrate that they can improve the users’ interaction experience on mobile devices. Our results permit also to give some guidelines to improve the design of 3D interactions techniques on mobile devices. Keywords: 2D/3D interaction, natural user interfaces, virtual environment, mobile devices Acknowledgements This PhD work was carried out in the Interaction, Augmented Reality and Ambient Robotic (IRA2) research group, at the laboratory of Informatics, Integrated Biology and Complex systems (IBISC) associated with the University of Evry Val d’Essonne, member of the University of Paris Saclay. First, I would like to thank my three thesis supervisors: Mr. Samir OTMANE, professor at the University of Evry Val d’Essonne; Mr. Guillaume MOREAU, professor at Ecole Centrale de Nantes; Mr. Amine CHELLALI, assistant professor at the University of Evry Val d’Essonne. Thanks to them, I got the opportunity to do my PhD research work for three years. I would like also thank to Mr JinSong Yu, associated professor at BeiHang University, who proposed me this opportunity. I am sincerely grateful to the members of the jury, Mr. Géry CASIEZ, professor at the University Lille 1; Mr. Thierry DUVAL, professor at IMT-TÉLÉCOM Bretagne; Mr. Bruno ARNALDI, professor at INSA de Rennes; Mr. Cédric DUMAS, assistant professor at Ecole des Mines de Nantes and Mr. Frédéric MERIENNE, professor at Image Institute-ENSAM, who accepted to evaluate this work, more particularly the two reporters who reviewed this manuscript. I address the most sincere gratitude to Mr. Samir OTMANE, Mr. Guillaume MOREAU and Mr. Amine CHELLALI, who taught me and helped me a lot during the three years. Without your support and patience, it would have been much more difficult to obtain all the achievements of today. I really appreciate your generous giving. I want also to thank all my colleagues, the professors, the engineers, as well as the secretaries. Thanks for their company and selfless help. I acknowledge China Scholarship Council who gave me the financial support for 48 months, which provided me good living conditions in France. At last but the most important gratitude should be addressed to my parents, my whole family and all of my friends who have supported me from the beginning to the end, who have shared my joys and sorrows, whom I have been loving forever. Contents Introduction ................................................................................................................ 3 Chapter 1: Natural User Interface & Mobile Device interaction .......................... 11 1 Introduction ................................................................................................................ 11 2 Natural User Interface (NUI) ........................................................................................ 13 2.1 Natural Interaction Modalities .................................................................................. 16 3 Mobile devices interaction .......................................................................................... 24 3.1 Gesture ...................................................................................................................... 25 3.2 Interaction possibilities ............................................................................................. 29 3.3 Discussion .................................................................................................................. 39 4 Conclusion .................................................................................................................. 40 Chapter 2: Selection techniques ......................................................................... 43 1 Introduction ................................................................................................................ 43 2 Human models ............................................................................................................ 43 2.1 Fitts’ Law ................................................................................................................... 43 2.2 Optimized Initial Impulse Model ............................................................................... 44 3 2D-based selection techniques .................................................................................... 45 3.1 Target expansion in control space ............................................................................. 46 3.2 Target expansion in visual space ..............................................................................