From the SelectedWorks of Yueh-Hsuan Weng Spring May 28, 2014 The tudyS of Safety Governance for Service Robots: On Open-Texture Risk Yueh-Hsuan Weng, Peking University Available at: https://works.bepress.com/weng_yueh_hsuan/30/ 博士研究生学位论文 题目： 服务机器人安全监管问题初探 ——以开放组织风险为中心 姓 名： 翁岳暄 学 号： 1001110716 院 系： 法学院 专 业： 法学理论 研究方向： 科技法学 导师姓名： 强世功 教授 二 0 一四 年 五 月 服务机器人安全监管问题初探--以开放组织风险为中心 摘要： 自工业革命以来“蒸汽机”乃至“微电机”陆续地融入人类社会之中，迄今人类 和机械共存的时间已经超过两个世纪，同时法律形成一套固有的监管模式来应对 “蒸汽机”以及“微电机”之机械安全性。另一方面，就来自日本与韩国官方预 测，所谓“人类-机器人共存社会（The Human-Robot Co-Existence Society）”将 在 2020 年至 2030 年之间形成，然而与现存于人类社会并提供服务的“微电机” 相比，智能服务机器人的新风险主要来自于贴近人类并与人共存的机器自律行为 之不确定性, 或称“开放组织风险（Open-Texture Risk）”，这种科技风险的基本 性质以及人机共存安全性所对应的风险监管框架对于将来发展人类-机器人共存 前提之下的安全监管法制将是不可或缺的，因此本研究着眼于思考开放组织风险 的基本性质，以及其如何应用在未来的人类-机器人共存之安全监管法制中, 并且 尝试厘清几个现存的开放性问题，期能为将来政府发展智能机器人产业所面临的 结构性法制问题提供参考和借鉴作用。 本研究结构编排分为六个部分，第一章 “绪论：迈向人类-机器人共存社会”、 第二章 “风险社会与机械安全”、第三章 “非结构化环境与开放组织风险”、第 四章 “个案研究（一）：智能汽车、自动驾驶汽车安全监管问题研究”、第五章 “个 案研究（二）：““Tokku”机器人特区与科技立法研究”、第六章“结论”。 关键字： 科技法学，风险社会学，机器人安全监管，开放组织风险，机器人法律 I The Study of Safety Governance for Service Robots: On Open-Texture Risk Yueh-Hsuan Weng Supervised by Prof. Dr. Shigong Jiang Abstract: The emergence of steam and microelectrical machines in society gradually expanded since the era of the Industrial Revolution. Up until now, human beings have already co-existed with these machines for more than two centuries, and contemporary laws have developed preventional regulatory frameworks. These frameworks are based on risk assessments to supervise the safety of microelectrical machines which include automobiles, railway systems, elevators and industrial robots, etc. Regulators, especially South Korea and Japan expect human-robot co-existence societies to emerge within the next decade. These next generation robots will be capable of adapting to complex, unstructured environments and interact with humans to assist them with tasks in their daily lifes. Unlike heavily regulated industrial robots that toil in isolated settings, next generation robots will have relative autonomy, which raises a number of safety issues that will be the focus of this dissertation. The author’s purpose is to propose a theoretical legal framework on safety governance for service robots, and the core concerns are regulatory issues regarding the Open-Texture Risk. The structure of this dissertation is as follows: Chapter 1 – “Introduction: Toward the Human-Robot Co-Existence Society”; Chapter 2 – “Risk Society and Machine Safety”; Chapter 3 – “Unstructured Environments and the Open-Texture Risk”; Chapter 4 – “Case Study 1: Smart- & Robo-Cars and their Safety Governance”; Chapter 5 – “Case Study 2: Tokku RT Special Zone and Legislation”; and Chapter 6 – “Conclusion”. Keywords: Technology Law, Risk Sociology, Robot Safety Governance, Open-Texture Risk, Robot Law II 目 录 中文摘要 ................................................................................................................. Ⅰ 英文摘要 ................................................................................................................. Ⅱ 图 ............................................................................................................................. Ⅸ 表 ........................................................................................................................... XII 第一章 绪论：迈向人类-机器人共存社会 ..................................................1 1.1 人类-机器人共存社会所衍生的风险与法律 .................................................1 1.2 机器人: 历史性的综述 ..................................................................................8 1.3 选题意义：“机器人法律”的特殊性和普遍性 ......................................... 15 1.4 文献探讨 ....................................................................................................... 25 1.4.1 机器人与道德伦理 ................................................................................ 25 1.4.2 机器人与战争 ........................................................................................ 31 1.4.3 机器人与劳动力 .................................................................................... 36 1.4.4 机器人与隐私、数据保护 .................................................................... 37 1.4.5 机器人与安全监管 ................................................................................ 41 第二章 风险社会与机械安全 ........................................................................ 44 2.1 现代风险社会 ............................................................................................... 44 2.2 科技的全球化与风险治理 ............................................................................ 47 2.3 机械安全 ....................................................................................................... 50 2.3.1 蒸汽机时代的人类-机械共存考察 ...................................................... 50 2.3.2 微电机时代的人类-机械共存考察 ...................................................... 52 2.4 当代机械安全法制 ....................................................................................... 63 III 2.4.1 汽车安全法规 ....................................................................................... 63 2.4.2 铁路安全法规 ....................................................................................... 65 2.4.3 电梯安全法规 ....................................................................................... 68 2.4.4 工业机器人安全法规 ............................................................................ 70 2.5 综合讨论：微电机的风险监管框架 ........................................................... 77 第三章 非结构化环境与开放组织风险 ...................................................... 90 3.1 机器人时代的人类-机械共存考察 .......................................................... 90 3.1.1 编年史：机器人与社会 – 1973 年至 2013 年 .................................. 90 3.1.2 新机器人学：机器人作为“第三的存在” ....................................... 101 3.2“开放组织风险”与风险增生 ................................................................... 111 3.3 风险监督 ..................................................................................................... 114 3.3.1 日本经济产业省 METI 下一代机器人安全监管政策 ....................... 116 3.3.2 国际标准化组织 ISO 13482 个人护理机器人安全标准 .................... 123 3.3.3 综合讨论：“第三的存在”服务机器人的风险监管框架（初期） .. 130 3.4 风险控制：由功能安全到“安全智能” .................................................. 148 3.4.1 风险控制与阿西莫夫的机器人三原则 .................................................. 152 3.4.2 风险控制与“法定机械语言” ............................................................... 158 第四章 个案研究（一）：智能汽车、自动驾驶汽车安全监管研究162 4.1 汽车的智能化 ............................................................................................. 162 4.2 政策视角下对智能汽车、自动驾驶汽车的安全监管分类 ........................ 165 4.3 开放组织风险产生的汽车安全监管隐患 ................................................... 169 4.3.1“授权控制”- 自动驾驶汽车 ........................................................... 170 4.3.2“共同控制”- 先进驾驶辅助系统 ................................................... 171 4.4 综合讨论：“黑匣子”事故记录器与汽车安全监管................................ 177 IV 第五章 个案研究（二）：“Tokku”机器人特区与科技立法研究 183 5.1 什么是机器人开发与实证测试特区？ ...................................................... 183 5.2“Tokku”机器人开发与实证测试特区之历史 ......................................... 184 5.3“Tokku”机器人特区作为机器人与社会的中介 ..................................... 193 5.4 个案研究：人型机器人伴随的法律问题 ................................................... 195 5.4.1 人型机器人与人类共存是否可能? .................................................. 195 5.4.2 关于福冈特区实证实验 ...................................................................... 196 5.4.3 早稻田大学高西研究室 人型机器人：WABIAN-2R ....................... 198 5.4.4 关于 WABIAN-2R 在福冈电视塔的实证测试 .................................. 199 5.4.5 早稻田大学高西研究室 汎用双足步行机械：WL-16RII ................ 201 5.4.6 关于 WL-16RII 在博多运河城的实证测试 ...................................... 202 5.4.7 综合讨论 ............................................................................................. 203 第六章 结论 ...................................................................................................... 211 参考文献 ............................................................................................................... 216 博士在读期间科研成果 ........................................................................................ 244 附录：专家访谈纪录 ............................................................................................ 248 7.1 ISO TC184/SC2 WG7 Gurvinder Virk 召集人与杨书评教授专访 ....... 248 7.2 UN 联合国人权理事会 Christof Heyns 特别报告员专访 ...................... 267 7.3 欧盟 FP7 机器人法律项目共同主持人 Paolo Dario 教授专访 .............. 272 7.4 欧洲大学研究院 Giovanni Sartor 与 Giuseppe Contissa 教授专访 ...... 283 7.5 欧洲大学研究院 FSR 佛罗伦萨监管学院高级研究员何娴博士专访 ...... 295 7.6 德国维尔茨堡大学法学院 Eric Hilgendorf 教授专访 ............................ 302 致谢 ....................................................................................................................... 306 V Contents Abstract.................................................................................................................................................... Ⅱ Lists of Figures .................................................................................................................................... Ⅸ Lists of Tables .....................................................................................................................................XII Chapter 1. Introduction: Toward the Human-Robot Co-Existence Society ......1 1.1 Research Background: Robots and Society .............................................................1 1.2 Robots: A History .....................................................................................................................8 1.3 Research Objectives ...........................................................................................................