AI and Extremism in Social Networks
Total Page:16
File Type:pdf, Size:1020Kb
AI and extremism in social networks Exploring the role of non-human actors in counterinsurgencies against radicalization TEDLA YENEAKAL Master Thesis, Humanities, Digital Culture. UNIVERSITY OF BERGEN (20.11.2019) Key words: [violent extremism, social media, radicalization, AI, cognitive assemblages, social movements, chatbots, moral agents] Candidate no. 101 Sammendrag Studien utforsker hvordan midler som kunstig intelligens, AI- drevne chatbots, kan være kilder man kan regne med som moralske aktører på digitale plattformer og som kan være identifiserbare opprørsmodeller til bekjempelse av ekstremistiske og voldsforherligende ytringer på sosiale medieplattformer. Fremveksten av digital nettverkskommunikasjon har lettet prosessen med sosiale bevegelser, noe fenomenet «Den arabiske våren» tydelig demonstrerer. Sosiale medier har vært et verdifullt verktøy når det gjelder å utvikle kollektive identiteter med en felles ideologi for å fremme et bestemt mål eller en sak og gi alternative plattformer for undertrykte samfunn. Imidlertid forblir virkningen og konsekvensene av sosiale medier i samfunn der maktbalansen forrykkes gjennom fundamentale endringer et bekymringsfullt fenomen. Radikaliserte individer og grupper har også hevdet sin tilstedeværelse på sosiale medieplattformer gjennom å fremme fordommer, hat og vold. Ekstremistiske grupper bruker ulike taktikker for å utøve makten sin på disse plattformene. Bekjempelsen av voldelig ekstremisme på sosiale medieplattformer blir som regel ikke koordinert av aktuelle aktører som regjeringer, sosiale medieselskaper, FN eller andre private organisasjoner. I tillegg har fremdeles ikke forsøk på å konstituere AI til bekjempelse av voldelig ekstremisme blitt gjennomført, men lovende resultater har blitt oppnådd gjennom noen initiativer. Prosjektet som en ‘case study’ ser på den nylige reformen i Etiopia som ble gjennomført av Nobels fredsprisvinner 2019 Abiy Ahmed etter at han tiltrådte som statsminister i Etiopia i april 2018. Etter flere tiår med undertrykkelse har den nye maktovertakelsen der det politiske rommet ble åpnet opp og ytringsfrihet ble tillatt, uventet ført til et skred av etniske gruppers polarisering. Nye etno-ekstremister har dukket frem fra alle kriker og kroker av landet og også fra sin tilværelse i diaspora. Studien ser videre på hvilken rolle sosiale medier til tider spiller ved direkte å presse på for å påvirke til og dermed forårsake voldelige handlinger på grasrota.Ved å bruke en kvalitativ forskningsmetode for ustrukturerte intervjuer med etiopiske brukere av sosiale medier, journalister og aktivister, identifiserer studien kjerneaspektene ved konfliktene og foreslår initiativer som kan brukes til å motvirke voldelig etnisk ekstremisme. Ved å bruke relevant litteratur ser prosjektet videre på innarbeidelsen av kunstig intelligens (AI) i «moralske handlinger» på sosiale medier og hvordan den kan utformes slik at den av seg selv kan ta i bruk moralske beslutningsevner i nettverket. I tillegg ser studien på mulighetene videre for bekjempelse av voldelig ekstremisme og skisserer den spesifikke rollen ikke menneskelige aktører som profesjonelle troll og bots på sosiale medier bør spille for å slåss mot radikalisering som kan føre til voldelige handlinger. 2 Abstract The study explores how artificial agents such as AI-powered chatbots can be fully accountable sources of moral action in digital platforms and be used as identifiable counter insurgency models against violent extremism on social media platforms. The emergence of digital networked communications have facilitated the process of social movements, as evident in examples such as the Arab Spring. Social media has been a valuable tool in terms of developing collective identities with a common ideology to promote a specific agenda or cause and in providing an alternative communication platform for repressed societies. However, the impact and consequences of social media in fundamentally changing power relations in society remains a concern. Radicalized individuals and groups have also used these platforms to promote bigotry, hate and violence. Extremists use several tactics to yield their power in these platforms. Counter-insurgency efforts are often not coordinated among relevant actors like governments, social media companies, the UN and other private organizations. In addition, efforts to fully constitute AI in counter-insurgency against violent extremism have not yet occurred, but promising results are being obtained from some initiatives. The project as a case study looks into the recent reform in Ethiopia being carried out by the 2019 Noble Peace Prize winner Abiy Ahmed since he took office in April 2018. After decades of repression, opening the political space and freedom of the press in Ethiopia has unexpectedy led to a surge of conflicts between polarized groups on ethnic lines. It has created ethno-extremists from all corners at times directly pushing for and impacting violent actions on the ground on social media. Using a qualitative research method of unstructured interviews with Ethiopian social media users, journalists and activists, the study identifies the core aspects of the conflicts and suggests initiatives that could be used to counter violent ethnic extremism. Further, using relevant literature, the project looks into the incorporation of Artificial Intelligence (AI) in ‘moral actions’ on social media and how they can be designed to inherently adopt moral decision abilities in the network. The study in addition recommennds a way forward for counterinsurgency efforts against violent extremism and outlines the specific role non-human actors such as professional trolls and bots on social media can play to battle radicalization that may lead to violence. 3 Contents Chapter One ......................................................................................................................................... 6 1. Introduction .................................................................................................................................. 6 1.1 Definitions of terms and relevant theoretical frameworks ................................................ 7 1.1.1 Radicalization ...................................................................................................................... 7 1.1.2. Moral actions in digital platforms ................................................................................... 12 1.1.3. Artificial moral agents and Chatbots .............................................................................. 14 1.1.4. The concept of cognitive assemblages ............................................................................. 17 1.2 Uprising on social media- case of Ethiopia ............................................................................. 20 Chapter Two ....................................................................................................................................... 22 2. Case study- Social media networks in Ethiopia before and after the reforms ....................... 22 2.1 The Arab spring & Ethiopia’s activism .................................................................................. 22 2.2. Ethiopian activists on social media ......................................................................................... 27 2.3 Overview of how Ethiopia got here ......................................................................................... 32 2.4. Ethiopia’s social media atmosphere after the reforms ......................................................... 38 Chapter Three .................................................................................................................................... 44 3. Methodological approach- Processes of the project, methods of data collection etc. ............ 44 3.1. Research design & strategy..................................................................................................... 44 3.3. Choice of informants & role of the researcher ...................................................................... 46 3.4. The legality of data use ............................................................................................................ 47 3.5. General interview format and main questions raised ........................................................... 48 3.6 Methodological challenges ....................................................................................................... 49 Chapter Four ...................................................................................................................................... 51 4. Results, presentation of data, outcome, findings, interpretations ........................................... 51 4.1. Reform and extremism ............................................................................................................ 51 4.2 Role of social media in catalyzing ethnic violence .................................................................. 54 4.3 Causes and drivers of ethnic extremism: The online & offline link ...................................... 58 4.4 Emergence and growth of ethnic extremist ideologies ........................................................... 62 4.5 Unemployment, social disparity and propaganda as recipes for violent extremism ........... 65 Chapter Five ....................................................................................................................................... 71 5. Conclusion, discussions, summary of findings,