UNIVERSIDADE DE SÃO PAULO FACULDADE DE FILOSOFIA, LETRAS E CIÊNCIAS HUMANAS DEPARTAMENTO DE FILOSOFIA PROGRAMA DE PÓS-GRADUAÇÃO EM FILOSOFIA Bernardo Gonçalves Machines will think: structure and interpretation of Alan Turing’s imitation game São Paulo 2020 Bernardo Gonçalves Machines will think: structure and interpretation of Alan Turing’s imitation game Tese apresentada ao Programa de Pós-graduação em Filosofia do Departamento de Filosofia da Faculdade de Filosofia, Letras e Ciências Hu- manas da Universidade de São Paulo. Supervisor: Prof. Dr. Edelcio de Souza São Paulo 2020 Autorizo a reprodução e divulgação total ou parcial deste trabalho, por qualquer meio convencional ou eletrônico, para fins de estudo e pesquisa, desde que citada a fonte. Catalogação na Publicação Serviço de Biblioteca e Documentação Faculdade de Filosofia, Letras e Ciências Humanas da Universidade de São Paulo Gonçalves, Bernardo Nunes Gm Machines will think: structure and interpretation of Alan Turing's imitation game / Bernardo Nunes Gonçalves ; orientador Edelcio G. de Souza. - São Paulo, 2020. 289 f. Tese (Doutorado)- Faculdade de Filosofia, Letras e Ciências Humanas da Universidade de São Paulo. Departamento de Filosofia. Área de concentração: Filosofia. 1. Alan Turing. 2. Can machines think?. 3. The imitation game. 4. Thought experiment. 5. Artificial intelligence. I. de Souza, Edelcio G., orient. II. Título. Bernardo Gonçalves Machines will think: structure and interpretation of Alan Turing’s imitation game Tese apresentada ao Programa de Pós-graduação em Filosofia do Departamento de Filosofia da Faculdade de Filosofia, Letras e Ciências Hu- manas da Universidade de São Paulo. Trabalho depositado. São Paulo, 10 de dezembro de 2020: Prof. Dr. Edelcio de Souza Universidade de São Paulo Supervisor Prof. Dr. Osvaldo Pessoa Jr. Universidade de São Paulo Examinador Prof. Dr. Pío Garcia Universidad Nacional de Córdoba Examinador Prof. Dr. Richard Staley University of Cambridge Examinador São Paulo 2020 To Prof a. Rosane Caruso (Federal University of Espírito Santo, Computer Science Department), Prof. José Karam Filho, Prof. Fábio Porto (National Laboratory for Scientific Computing, Petrópolis, Brazil), and Prof. Pablo Mariconda (University of São Paulo and Scientia Studia), for their true passion for science. To Tânia, Francisco (in memoriam), Maria José, Leonardo, Scheilla, Marildo and Carolina, for their unconditional love. Indeed, one may compare the nerves of the machine I am describing with the pipes in the works of these fountains [of a Renaissance garden]. — René Descartes (1633) The very limited character of the machinery which has been used until recent times (e.g. up to 1940) [...] encouraged the belief that machinery was necessarily limited to extremely straightforward, possibly even to repetitive, jobs. — Alan M. Turing (1948) Abstract GONÇALVES, B. Machines will think: structure and interpretation of Alan Turing’s imitation game. 2020, 289 f. Thesis (Doctorate) — Faculdade de Filosofia, Letras e Ciências Humanas. Departmento de Filosofia, Universidade de São Paulo, São Paulo, 2020. Can machines think? I present a study of Alan Turing’s iconic imitation game or test and its central question. Seventy years of commentary has been produced about Turing’s 1950 proposal. The now legendary “Turing test” has grown a life of its own in the tradition of analytic philosophy with at best loose ties to the historical imitation tests (1948-1952) posed by Turing. I shall examine the historical and epistemological roots of Turing’s various versions of imitation game or test and make the case that they came out from within a dialogue, in fact a scientific controversy, most notably with physicist and computer pioneer Douglas Hartree, chemist and philosopher Michael Polanyi, and neurosurgeon Geoffrey Jefferson. Placing Turing’s views in their historical, social and cultural context, I shall reclaim their scientific and philosophical value for the sake of the discussion in the years to come. My study is organized according to three main philosophical problems whose analyses are backed by a subsidiary chronology of the concept of machine intelligence in Turing’s thought (1936-1952). The first problem I will address is the identification of Turing’s specific ambition which led him to announce that machines will think. War hero and brilliant mathematician, he challenged the conventional wisdom of what machines really were or could be and prophesized a future pervaded by intelligent machines which may be seen as a dystopia just as much as a utopia. I shall examine Turing’s profile and take special interest in the way he was seen by his contenders. In the second problem, over and above the mere proposal of a test for machine intelligence, I will study Turing’s proposition “machines can think” and its implied existential hypothesis — “there exists (will exist) a thinking machine” — from a point of view of the history of the philosophy of science. Unlike traditional readings of Turing, I found that Turing held a non-obvious realist attitude towards the existence of a mechanical mindbrain which he conjectured to frame the human and whose digital replica he intended to build in the machine. Turing’s 1950 paper has been acknowledged as a complex and multi-layered text. Opposing views can be identified in the literature relative to the question on whether or not Turing proposed his imitation test as an experiment to decide for machine intelligence. I shall call this the Turing test dilemma and address it as my third and main problem. My findings suggest that Turing cannot have proposed his imitation game as something other than a thought experiment. And yet its critical and heuristic functions within the mind-machine controversy are striking. Keywords: Alan Turing. Can machines think?. The imitation game. Thought experiment. Artifi- cial intelligence. Resumo GONÇALVES, B. As máquinas vão pensar: estrutura e interpretação do jogo da imitação de Alan Turing. 2020, 289 pp. Tese (Doutorado) — Faculdade de Filosofia, Letras e Ciências Humanas. Departmento de Filosofia, Universidade de São Paulo, São Paulo, 2020. Podem as máquinas pensar? Apresento um estudo do icônico jogo ou teste da imitação de Alan Turing e sua questão central. Setenta anos de comentários foram produzidos sobre a proposta de Turing de 1950. O já lendário “teste de Turing” ganhou vida própria na tradição da filosofia analítica, na melhor das hipóteses com uma fraca relação com os testes da imitação históricos (1948-1952) apresentados por Turing. Examinarei as raízes históricas e epistemológicas das várias versões do jogo ou teste da imitação de Turing e argumentarei que elas surgiram no interior de um diálogo, de fato uma controvérsia científica, notavelmente com o físico e pioneiro da computação Douglas Hartree, o químico e filósofo Michael Polanyi e o neurocirurgião Geoffrey Jefferson. Situando as ideias de Turing em seu contexto histórico, social e cultural, reivindicarei seu valor científico e filosófico para benefício da discussão nos anos que virão. Meu estudo está organizado em três problemas filosóficos principais cujas análises são apoiadas por uma cronolo- gia subsidiária do conceito de inteligência de máquina no pensamento de Turing (1936-1952). O primeiro problema que abordarei é a identificação da ambição específica de Turing que o levou a anunciar que as máquinas vão pensar. Herói de guerra e matemático brilhante, ele desafiou a sabedoria convencional sobre o que as máquinas realmente eram ou poderiam ser, e profetizou um futuro permeado por máquinas inteligentes que pode ser visto tanto como uma distopia quanto como uma utopia. Examinarei o perfil de Turing, com especial interesse pela maneira como ele foi visto por alguns de seus antagonistas. No segundo problema, para além da mera proposta de um teste para inteligência de máquina, estudarei a proposição de Turing “as máquinas podem pensar” e sua hipótese existencial implicada — “existe (existirá) uma máquina pensante” — do ponto de vista da história da filosofia de ciência. Diferentemente das leituras mais tradicionais de Turing, meu achado é de que Turing mantinha uma atitude realista não óbvia em relação à existência de uma mente-cérebro mecânica que ele conjecturou moldar o humano e cuja réplica digital ele pretendia construir na máquina. O artigo de Turing de 1950 foi reconhecido como um texto complexo e multifacetado. Visões opostas podem ser identificadas na literatura quanto à questão de se Turing propôs ou não seu teste da imitação como um experimento para decidir pela inteligência da máquina. Chamarei esse problema (terceiro e central que abordo neste estudo) de “o dilema do teste de Turing.” Meus achados sugerem que Turing não pode ter proposto seu jogo da imitação como outra coisa senão um experimento mental. E no entanto suas funções crítica e heurística, no interior da controvérsia mente-máquina, são marcantes. Palavras-chave: Alan Turing. Podem as máquinas pensar?. Jogo da imitação. Experimento mental. Inteligência artificial. List of Figures Figure 1 – The 1948 and 1950 objections formulated and rebutted by Turing. 47 Figure 2 – Schematic view of Turing’s “skin of an onion” image of the mechanical mind 81 Figure 3 – Illustration of Turing’s 1950 imitation game or test. 159 Figure 4 – The operation of a Turing machine. 218 Figure 5 – Example of special-purpose Turing machine given in Turing’s 1936 paper. 219 List of Tables Table 1 – Structure of this dissertation. 18 Table 2 – Example of Turing machine. 219 Contents Introduction . 12 I Machines will think 22 1 Alan M. Turing (1912-1954): prophet of the machines . 23 1.1 Problem and chapter structure . 23 1.2 Turing’s irreverence . 26 1.3 Turing’s irony . 29 1.4 Turing’s style of reasoning . 32 1.5 Turing’s ambition . 35 1.6 Turing’s plea . 44 1.7 Turing’s fate . 49 1.8 Analytical summary . 52 1.9 Epilogue . 55 1.10 Chapter acknowledgements . 55 2 Turing’s existential hypothesis on thinking machines . 57 2.1 Problem and chapter structure . 58 2.2 Received views of Turing’s epistemology and ontology .