DEGREE PROJECT IN MECHANICAL ENGINEERING, SECOND CYCLE, 30 CREDITS STOCKHOLM, SWEDEN 2021 The Future of Human-Robot Interaction A socio-economic Scenario Analysis BENEDIKT KRIEGER KTH ROYAL INSTITUTE OF TECHNOLOGY SCHOOL OF INDUSTRIAL ENGINEERING AND MANAGEMENT A socio-economic Scenario Analysis Benedikt Krieger Supervised by Andreas Archenti (KTH) & Thomas Bohné (University of Cambridge) Abstract – English Advancing research in an interdisciplinary field such as robotics is a complex undertaking. Seldom, it is moved beyond the scope of an individual science and the challenges from other fields of research are incorporated. Research on Human-Robot Interaction (HRI) is attributed interdisciplinarity and, thus, is a case in point. Therefore, this thesis aims to integrate both engineering, psychosocial, and socio-economic research streams. By doing so, the goal is to reveal and to identify underlying questions which are tacitly assumed by either research field, but require explicit contemplation and elaboration. The engineering community is currently focusing on collaboration and cooperation (CoCo) as it enables humans and robots to operate together in heterogenous teams. Human-robot teamwork, in turn, is promising to enable the integration of both a human’s flexibility, dexterity, and creative problem solving with robotic strength, precision, reliability, and efficiency. In contrast, economic considerations evolve around elaborations on technological unemployment and further macroeconomic implications. To unite these streams, this thesis conducts a scoping literature review. Through it, the fundamental design considerations necessary to achieve CoCo are laid out, while pointing towards the currently most promising research direction in each of the design aspects. Both engineering as well as psychosocial aspects are considered. Then, a scenario analysis with a socio-economic scope is conducted. This serves to widen the understanding of the embedding of HRI as a socio-technical system in socio-economic environments, i.e., companies. Finally, the design aspects trust, multimodal communication, and the human role in HRI are used to build an understanding of the relation between socio-economic developments and future scenarios with specific design aspects of HRI. It is found that all future scenarios have distinct but also partly similar implications for HRI. More profoundly though, a number of ethical and open philosophical questions arise from the scenario transfer to HRI. What happens if progress on CoCo is too slow to enable a paradigm shift away from automation through robotics? How much are we willing to subject ourselves to digital technology in order to enable natural interaction with robots? Are we sufficiently knowledgeable about prospective opportunities and risks as we move closer to being able to replicate a considerable number of uniquely human abilities? With these questions, this dissertation aims to contribute to the HRI community on wider considerations necessary for a human-centric future of HRI. Education is posited as a crucial stepping stone to enable such a future. Abstract – Svenska Att främja forskning inom ett tvärvetenskapligt område såsom robotik är ett komplext åtagande. Sällan förflyttas forskningen bortom ramen för en enskild vetenskaplig förgrening och utmaningar från andra forskningsområden integreras. Forskning om mänsklig robotinteraktion (HRI) tillskrivs som tvärvetenskaplig och är således ett exempel. Därför syftar denna avhandling till att integrera tekniska, psykosociala men även socioekonomiska forskningsförgreningar. Genom att göra detta är målet att avslöja underliggande frågor som i sin tystnad antas av vartdera forskningsfält, men som uttryckligen kräver kontemplation och utarbetande. Ingenjörssamhället fokuserar för närvarande på samarbete och samverkan (CoCo) eftersom det gör det möjligt för människor och robotar att arbeta tillsammans i heterogena team. Teamarbete mellan människa och robot är i sin tur en lovande möjliggörare för integrering av både människans flexibilitet, skicklighet och kreativa problemlösning med robotens styrka, precision, tillförlitlighet och effektivitet. I kontrast utvecklas ekonomiska överväganden kring utarbetande av teknisk arbetslöshet och vidare makroekonomiska konsekvenser. För att förena dessa förgreningar genomför denna avhandling en litteraturöversikt. Genom den läggs de grundläggande designbesluten som är nödvändiga för att uppnå CoCo, samtidigt som de indikerar den för närvarande mest lovande forskningsriktningen i var och en av designaspekterna. Både ingenjörsmässiga och psykosociala aspekter tas i beaktning. Därefter genomförs en scenarioanalys med en socioekonomisk omfattning. Detta bidrar till ökad förståelse för att omsluta HRI som ett socio-tekniskt system i socioekonomiska miljöer, dvs. företag. Slutligen används designaspekterna tillit, multimodal kommunikation och den mänskliga rollen i HRI för att bygga en förståelse mellan förhållandet av socioekonomisk utveckling och framtida scenarier med specifika designaspekter av HRI. Det framgår att alla framtidsscenarier har distinkta men också snarlika konsekvenser för HRI. Mer djupgående uppstår dock ett antal etiska och öppna djupgående filosofiska frågor från scenarioöverföringen till HRI. Vad händer om framstegen på CoCo är för långsam för att möjliggöra ett paradigmskifte bort från automatisering genom robotik? Hur mycket är vi villiga att exponera oss för digital teknik för att möjliggöra naturlig interaktion med robotar? Är vi tillräckligt kunniga om potentiella möjligheter och risker när vi närmar oss att kunna replikera ett stort antal unikt mänskliga förmågor? Med dessa frågor syftar denna avhandling till att bidra till intressegruppen för HRI i bredare överväganden som är nödvändiga för en människocentrerad framtid för HRI. Utbildning framställs som ett viktigt steg för att möjliggöra en sådan framtid. Table of Contents List of Figures Figure 1 Initial Areas of Investigation ......................................................................... 4 Figure 2 Final Areas and Topics of Investigation ........................................................ 5 Figure 3 The Process of Collaboration [11] ................................................................. 9 Figure 4 The Process of Cooperation (based on [11]) ................................................ 10 Figure 5 Ways of communicating Intention. Implicit/Subconscious in grey [11] ....... 20 Figure 6 Interaction Settings [31] .............................................................................. 24 Figure 7 Different collaborative Safety Modes in HRI [33] ....................................... 25 Figure 8 Technology Acceptance Model (TAM) [84] ............................................... 26 Figure 9 Unified Theory of Acceptance and Use of Technology [87] ........................ 27 Figure 10 Trust Cycle (based on [49]) ....................................................................... 28 Figure 11 Trust Repair Acts (based on [49]) ............................................................. 28 Figure 12 Trust-related Themes (based on [92]) ........................................................ 29 Figure 13 Affinity for Robots plotted on the Robots' Human Likeness [94] ............... 31 Figure 14 Humanoid Robot BaXter [107] .................................................................. 33 Figure 15 Metrics of HRI [114] ................................................................................ 35 Figure 16 Evaluation Metrics for collaborative HRI [115] ......................................... 36 Figure 17 Scenario Planning Process (based on [125]) .............................................. 40 Figure 18 Trend Identification Process ...................................................................... 43 Figure 19 From Social Constructivism to Technological Determinism [195] ............. 64 Figure 20 Human Roles in HRI ................................................................................. 84 Figure 21 Trust Model [218] ..................................................................................... 93 Figure 22 Human-Robot Trust Antecedents (based on [203]) .................................... 93 Figure 23 Motivation for Multimodal Communication by Task ConteXt ................. 120 Figure 24 Motivation for Multimodal Interaction by Human Role ........................... 121 I List of Tables Table 1 Scoping Literature Review along Taxonomy (based on [23]) ......................... 4 Table 2 Human-Robot Relationships (based on [13]) .................................................. 8 Table 3 The "Un-Fitts" List [15] ............................................................................... 11 Table 4 Taxonomy of Levels of Automation [46]...................................................... 13 Table 5 Levels of Robot Autonomy (H-Human, R-Robot) [47] ................................. 14 Table 6 Trust Scale for HRC [92] ............................................................................. 30 Table 7 Chosen Scenario Characteristics (based on [126]) ........................................ 40 Table 8 Entities and the Consequences of Access to advanced Robotics [120] .......... 49 Table 9 Brainstormed Trends for Producing Industry ................................................ 51 Table 10 Driving Forces and associated Trends .......................................................