User Experience with Mobile Security and Privacy Mechanisms ABSTRACT

USEREXPERIENCEWITHMOBILESECURITY AND PRIVACY MECHANISMS vorgelegt von Dipl.-Ing. Lydia Kraus geb. in Memmingen von der Fakultät IV - Elektrotechnik und Informatik der Technischen Universität Berlin zur Erlangung des akademischen Grades Doktorin der Ingenieurwissenschaften – Dr.-Ing. – genehmigte Dissertation Promotionsausschuss: Vorsitzender: Prof. Dr. Jean-Pierre Seifert Gutachter: Prof. Dr.-Ing. Sebastian Möller Gutachterin: Prof. Dr.-Ing. Delphine Reinhardt Gutachter: Prof. Dr. Markus Dürmuth Tag der wissenschaftlichen Aussprache: 4. Juli 2017 Berlin 2017 Lydia Kraus: User experience with mobile security and privacy mechanisms ABSTRACT Smartphones have become indispensable in the life of many people. They are constant companions, connections to the world, information sources, and substitutes for other devices and tools that had to be carried individually in the past. While smartphones offer a variety of sources for positive user experience, their downside is their vulnera- bility to security attacks and the potential they offer to harm a users’ privacy. However, due to their known vulnerabilities, smartphones also encompass a number of mechanisms to protect a user’s security and privacy. This thesis focuses especially on security and privacy mechanisms which are visible to the end-user and which involve actions by the end-user, such as app permissions and screen locks with authentication. Research on the human factors related to mobile security and privacy mechanisms often follows the usable security and privacy paradigm. Thereby, usability forms the basis of understanding and im- proving the interaction between humans and security systems. An ex- tension of the usability paradigm is the user experience (UX) paradigm which considers interaction factors beyond usability such as motivation, affect and emotion, and joy of use. The present thesis extends the body of knowledge on human factors and mobile security and privacy mechanisms by taking a user experience approach to the topic. It first investigates users’ experiences with and motivations to use mobile security and privacy in several qualitative, explorative studies. The findings thereof suggest that users not only suffer from limited usability of mobile security and privacy mechanisms, but that such mechanisms also need to address non-functional product qualities (e.g. hedonic quality) and the fulfillment of psychological needs. Those needs do not necessarily have to be related to the psychological need of Security only, but can also encompass aspects such as Autonomy and Stimulation. By the help of two use cases – app permissions and screen locks with authentication – several quantitative studies evaluate the potential of these mechanisms to shape the user experience in general and in particular with respect to hedonic quality. The results of the quantitative studies suggest that usability is an important factor for a good user experience with mobile security and privacy mechanisms. Fur- thermore, the results indicate that also these kinds of mechanisms can be manipulated in their potential to address aspects such as hedonic quality and need fulfillment. This suggests an extended design space for mobile security and privacy mechanisms which provides system designers with new possibilities to design secure systems that enable iii positive experiences. Based on these findings, directions for future research are discussed. ZUSAMMENFASSUNG Smartphones sind im Leben vieler Menschen unabkömmlich gewor- den – sie sind ständige Begleiter, Verbindung in die Welt, Informa- tionsquellen und zu guter Letzt ein Ersatz für viele Geräte oder Werk- zeuge, die man in der Vergangenheit einzeln mit sich tragen musste. Obwohl Smartphones eine Vielzahl an positiven Erlebnissen bieten können, leiden sie unter der Einschränkung, dass sie verwundbar gegenüber Angriffen auf die Sicherheit und Privatsphäre der Nutzer sind. Aus diesem Grund beinhalten Smartphones jedoch eine Reihe von Mechanismen zum Schutz gegen selbige. Die vorliegende Disser- tation beschäftigt sich mit der Anwendung solcher Mechanismen und dabei speziell mit den Mechanismen, die vom Endnutzer wahrgenom- men und eingesetzt werden können, wie zum Bespiel App-Berechti- gungen und Bildschirmsperren mit Authentifizierung. Die Erforschung menschlicher Einflussfaktoren in Bezug auf die Nutzung mobiler Sicherheits- und Privatsphäremechanismen folgt oft dem Paradigma der “Usable Security and Privacy”. In diesem Paradigma ist die Gebrauchstauglichkeit der Kernfaktor um Inter- aktionen mit mobilen Sicherheits- und Privatsphäremechanismen zu verstehen und zu verbessern. Eine Erweiterung des Gebrauchstaug- lichkeitsparadigmas ist das Nutzererlebnisparadigma (engl. User Ex- perience (UX)), das Interaktionsaspekte berücksichtigt, die über die Gebrauchstauglichkeit hinausgehen, wie z.B. Motivation, Affekt und Emotion, oder auch Spaß bei der Nutzung. Die vorliegende Dissertation erweitert den Kenntnisstand zu menschlichen Einflussfaktoren bei der Interaktion mit mobilen Si- cherheits- und Privatsphäremechanismen, indem sie einen Nutzer- erlebnis-basierten Ansatz zur Erforschung des Themengebiets auf- greift. Dabei werden zuerst Nutzererlebnisse mit und Motivatoren für die Nutzung mobiler Sicherheits- und Privatsphäremechanismen in qualitativen Studien erforscht. Die Ergebisse dieser Studien deuten darauf hin, dass Nutzer nicht nur unter der eingeschränkten Ge- brauchstauglichkeit solcher Systeme leiden, sondern, dass auch Be- darf besteht, nicht-funktionale Produktqualitäten (wie z.B. hedonische Qualität) und die Erfüllung von psychologischen Bedürfnissen mit solchen Mechanismen anzusprechen. Diese Bedürfnisse müssen sich nicht allein am psychologischen Bedürfnis nach Sicherheit aus- richten, sondern können auch andere Bedürfnisse wie zum Beispiel das Bedürfnis nach Autonomie und Stimulation einschließen. Anhand zweier Fallbeispiele – App-Berechtigungen und Bildschirm- sperren mit Authentifizierung – wird in mehreren quantitativen Stu- iv dien das Potenzial dieser Mechanismen, das Benutzererlebnis im All- gemein und im Besonderen in Bezug auf hedonische Qualitäten zu formen, evaluiert. Die Ergebnisse der quantitativen Studien lassen darauf schließen, dass Gebrauchstauglichkeit ein wichtiger Faktor für das Benutzererlebnis mit solchen Mechanismen ist. Darüber hin- aus zeigen die Ergebnisse, dass auch solche Arten von Mechanismen in ihrem Potenzial, Aspekte wie hedonische Qualität und Bedürfnis- erfüllung anzusprechen, manipuliert werden können. Dies eröffnet einen erweiterten Gestaltungsraum für mobile Sicherheits- und Pri- vatsphäremechanismen, der Systemdesignern neue Möglichkeiten bie- tet sichere Systeme, deren Benutzung ein positives Benutzererlebnis hervorruft, zu gestalten. Basierend auf diesen Ergebnissen werden Richtungen für zukünftige Forschung aufgezeigt. v PUBLICATIONS Parts of this thesis have been previously published in the following papers or articles. An asterisk (*) at the end of a paper indicates that I received support from students in conducting the studies and/or analyzing the data. In that case, the students provided support according to my instructions or under my guidance. Peer-reviewed workshop, conference, and journal publications: “Using Statistical Information to Communicate Android Permis- sion Risks to Users.” Lydia Kraus, Ina Wechsung, and Sebastian Möller. Proceedings of the 4th Workshop on Socio-Technical Aspects in Se- curity and Trust. Co-located with the 27th IEEE Computer Security Foun- dations Symposium. IEEE. 2014, pp. 48 -– 55. http://dx.doi.org/10. 1109/STAST.2014.15 * While searching Google Play for a new app, I noticed that many apps of similar functionality greatly differ in the number and kinds of permissions they request. Consequently, I came up with the concept of using statistical information about permissions of apps with similar functionality to support users in estimating the privacy intrusiveness of an app. I designed and conducted the user study, analyzed the data, and wrote the manuscript. Ina Wechsung supported me with the study design and the data analysis. Furthermore, she provided feedback on the manuscript. Sebastian Möller provided feedback for the study design and on the manuscript. “Analyzing end-users’ knowledge and feelings surrounding smart- phone security and privacy.” Lydia Kraus, Tobias Fiebig, Viktor Mi- ruchna, Sebastian Möller, and Asaf Shabtai. Proceedings of the Work- shop on Mobile Security Technologies (MoST). Co-located with the IEEE Symposium on Security & Privacy. 2015. 11 pages.* This paper is based upon my idea to understand threat models of mobile security and privacy from a user’s perspective. I designed and conducted the focus group study, analyzed the data and wrote the manuscript. Tobias Fiebig supported me with his knowledge of IT security during the course of the research and greatly contributed to the abstract, the introduction and the background section of the manuscript. Furthermore, he supported me in finalizing the discus- sion section. Viktor Miruchna was a great support in data analysis. Asaf Shabtai provided feedback during the preparation of the study vi and for the manuscript, and Sebastian Möller provided feedback for finalizing the paper. “Exploring Psychological Need Fulfillment for Security and Privacy Actions on Smartphones.” Lydia Kraus, Ina Wechsung, and Sebas- tian Möller. Proceedings of the 1st European Workshop on Usable Security (EuroUSEC). Internet Society. 2016. 12 pages. http://dx.doi.org/10. 14722/eurousec.2016.23009

Load more