Human-Artificial Intelligence Symbiosis: the Possibility of Moral Augmentation
Total Page:16
File Type:pdf, Size:1020Kb
UNIVERSITY OF RIJEKA FACULTY OF HUMANITIES AND SOCIAL SCIENCES DEPARTMENT OF PHILOSOPHY Tomislav Miletić Human-Artificial Intelligence Symbiosis: the Possibility of Moral Augmentation DOCTORAL THESIS Rijeka, 2020. UNIVERSITY OF RIJEKA i UNIVERSITY OF RIJEKA FACULTY OF HUMANITIES AND SOCIAL SCIENCES DEPARTMENT OF PHILOSOPHY Tomislav Miletić Human-Artificial Intelligence Symbiosis: the Possibility of Moral Augmentation DOCTORAL THESIS Mentor: prof. dr. sc. Elvio Baccarini Rijeka, 2020. ii Mentor rada: prof. dr. sc. Elvio Baccarini Komentor rada: dr.sc. Dražen Brščić Doktorski rad obranjen je dana ________________u _____________, pred povjerenstvom u sastavu: ____________________________________________ ____________________________________________ ____________________________________________ iii Acknowledgment I acknowledge that this doctoral thesis has been concluded during my stay in HRI Laboratory, Department of Social Informatics, Graduate School of Informatics, Kyoto University, Kyoto, Japan as the International Research Fellow (PE19056) of Japan Society for the Promotion of Science, supported by the "FY2019 JSPS Postdoctoral Fellowship for Research in Japan (Short-term)". iv Zahvala Ova je doktorska radnja rezultat mog osobnog i istraživačkog puta unazad proteklog desetljeća. Iako je, kroz godine, doprinos mnogih utjecao na njezino stvaranje, njezino je konačno oblikovanje u proteklih par godina nastalo kroz velike osobne muke i bez potpore nekolicine osoba konačno i pravovremeno ostvarenje ove radnje ne bi bilo postignuto. U tom vidu se, prije svega, želim zahvaliti svom mentoru, Elviju, na njegovom akademskom vodstvu, usrdnoj pomoći i pravom prijateljstvu. Osobito mu ostajem zahvalan na povjerenju koje mi je iskazao u prihvaćanju i potpori ove teme te na mudrom vodstvu u njezinom stvaranju. S velikim zadovoljstvom mogu reći da sam bio podučen i inspiriran od učitelja i ljubitelja mudrosti – iskustvo i primjer za nasljedovati! Jednako tako, ostajem zahvalan i svom komentoru, Draženu, bez kojega nikada ne bih došao u Kyoto, Japan (svoj dugogodišnji san!) i u miru, uspješno, priveo pisanje ovog rada svome kraju te ostvario uspješnu međunarodnu suradnju u polju ljudsko-robotske interakcije. Jednako tako mu stojim zahvalan na svim ispravkama, komentarima i raspravama bez kojih bi ispravnost i kvaliteta ove radnje bila uvelike umanjena. Stojim zahvalan i svojoj obitelji, ponajviše roditeljima, bratu i sestri s njihovim obiteljima, koji su mi pružali moralnu motivaciju i materijalno dobro bez kojih moja posljednja godina u Rijeci, prije dolaska u Kyoto, ne bi mogla biti uspješna. Hvala Vam dragi moji! Ovdje se, napokon, moram s velikom radošću zahvaliti mojoj braći u vjeri, istinskim prijateljima, čije mi je dobročinstvo omogućilo da, pokriven u svojim materijalnim potrebama, i ohrabren prijateljskom potporom, napišem prijavu za JSPS stipendiju te dočekam svoj odlazak u Japan – neopterećen! Kako sam i obećao, s velikim veseljem se i s velikim slovima zahvaljujem NIKICI JURIĆU koji mi je pružio najizdašniju, iznimnu, pomoć u dva ključna časa moje priprave za Japan, te mi tako ne samo iskazao svjedočanstvo prave Kršćanske darežljivosti već i istinskog prijateljstva! Hvala ti Niko, prijatelju moj, od svega srca! Zahvaljujem se i Josipu Petehu, vjernom kumpanjonu čije je duhovno i materijalno dobročinstvo na meni ostvarilo ono što mu ime obznanjuje - “Gospodin nadopunja”! Ti ringrazio del mio intero cuore Giuseppe! Hvala i mojim dragim prijateljima Mariu i Petru koji me nisu zaboravili kako s potporom tako i s darežljivom rukom – pomogli ste mi u pravi čas! Hvala i tebi Kristijane, istinski čovječe, prokušani ratniče! Hvala ti od svega srca na prijateljstvu i radosti koju si uvijek sa mnom dijelio, na „hidden power“ na koju si me uvijek upućivao, snagu s kojom sve u životu postaje „lightweights baby!“ Konačno, hvala tebi Martina, moj ostvareni snu! I na samome kraju, hvala tebi Vječni Duše. Nitko od nas ne može znati ima li tebe uopće. Ali ja stojim zahvalan, što me odgovor na to pitanje više ne zanima. Radije, „all that matters is that today, two stood against many“ and that „in dawn the beauty reigns and the way is clearer“. v Abstract This thesis posits the hypothesis that the formation of a symbiotic relationship between a child and its AI companion can create a realistically applicable, socially acceptable, fine-tuned, moral augmentation aligned with the child’s moral development. The first chapter presents the concept of moral augmentation, introduces the idea of symbiosis, and delineates the proposal’s philosophical and technical differences from existing moral enhancement approaches. The second chapter grounds the discussion of AI capacities on realistic technical possibilities and shows why these machine limitations lead to ethical symbiotic partnerships. The third chapter explicates the necessary ethical requirements for the design of artificial ethical agents and shows how these design requirements constitute ethical means by which the AI companion accomplishes moral augmentation. The fourth chapter expounds on the concept of Human-Artificial Intelligence Symbiosis. The fifth chapter proposes the symbiotic AI companion as the ethical artificial intelligence means towards the accomplishment of moral augmentation. First, the companion paradigm is provided, second, the ethical capacities by which the AI companion aims to achieve moral augmentation with the human child are elucidated, third the question of companion distribution in a democratic society is explored. Keywords AI ethics, AI companions, Human-AI symbiosis, Moral augmentation, vi Prošireni sažetak Ova teza postavlja hipotezu kako stvaranje simbiotskog odnosa između djeteta i njegovog AI suputnika može stvoriti realno primjenjivu, lako prihvatljivu, fino podešenu, moralnu nadogradnju usklađenu s djetetovim moralnim razvojem. Prvo poglavlje predstavlja koncept moralne nadogradnje, uvodi ideju simbioze i ocrtava filozofske i tehničke razlike prijedloga od postojećih pristupa moralnom poboljšanju: temeljne motivacije, konačne ciljeve moralnog poboljšanja i tehnološka sredstva za postizanje tih ciljeva. Drugo poglavlje utemeljuje raspravu o sposobnostima umjetne inteligencije na realističnim tehničkim mogućnostima i razlaže zašto strojna ograničenja dovode do simbiotskog partnerstva. Rasprava se usmjerava na metode strojnog učenja: učenje pod nadzorom, učenje bez nadzora, učenje podrškom. Treće poglavlje objašnjava potrebne etičke zahtjeve u dizajnu umjetnog etičkog agenta i pokazuje kako etički principi konstituiraju etička sredstva pomoću kojih AI suputnik postiže moralnu nadogradnju. Razlaže se i polje etike umjetne inteligencije, te strojna etika i robotska etika. Analizira se osnovne etičke principe umjetne inteligencije: robustnost, poštivanje ljudske autonomije, objašnjivost i strojna pravednost. Ovdje se također pojašnjava struktura etičkih modela koji upravljaju etičkim odlukama umjetnog agenta te se razmatra problem pouzdanosti umjetnih inteligencija i ljudske odgovornosti u etičkim odlukama. Četvrto poglavlje objašnjava koncept simbioze čovjeka i umjetne inteligencije. Prvo, izlažu se razlozi potrebe simbiotskog odnosa. Drugo, definira se simbiotski odnos i predlažu dvije verzije: jaka i slaba. Ilustriraju se simbiotska parterstva i analiziraju vitalne točke koncepta: autonomija, utjelovljenje, strojna ekspertiza, motivacijska potpora, pouzdanost. vii Peto poglavlje predlaže simbiotskog pratioca umjetne inteligencije kao društveno prihvatljivu etičku umjetnu inteligenciju za postizanje moralne nadogradnje. Prvo, izlaže se paradigma suputnika, pružaju se primjeri i analiziraju osnovne karakteristike – vjernost, transparentnost, fina podešenost, poštivanje moralne autonomije. Drugo, razjašnjavaju se etički kapaciteti kojima AI pratilac želi postići moralnu nadogradnju kod ljudskog djeteta. Oni uključuju etičke modele kojima suputnik donosi valjane etičke savjete, te afektivno računarstvo, metode umjetne inteligencije kojima se prepoznaje, intepretira i simulira ljudske emocije. Ovim metodama suputnik cilja ostvariti moralnu motivaciju i emotivnu stabilnost. Konačno, istražuje se problematika distribucije suputnika u demokratskom društvu. Ovdje pokazujem na koji način distribucija suputnika umjetne inteligencije može pogoršati postojeće asimetrije moći u društvu i ugroziti demokratske procese. Kao moguće rješenje predlažem usvajanje regulatornog pristupa. Ključne riječi etika UI suputnici UI moralna nadogradnja simbioza ljudi i UI viii Contents INTRODUCTION ........................................................................................................................................................... - 1 - THE PLAN OF THE THESIS ............................................................................................................................................ - 2 - MORAL ENHANCEMENT: AN OVERVIEW ..................................................................................................................... - 6 - THE TRADITIONAL APPROACH ..................................................................................................................................... - 8 - THE BIOMEDICAL APPROACH ...................................................................................................................................... - 9 - REBUTTALS ............................................................................................................................................................... - 11 - ARTIFICIAL MORAL ENHANCEMENT