NEUROENDOCRINE REGULATION OF SOCIAL INTERACTIONS IN A CICHLID FISH Ana Sofia Mendes da Silva Santos Félix Tese submetida como requisito parcial para obtenção do grau de Doutoramento em Biologia do Comportamento 2019 ii NEUROENDOCRINE REGULATION OF SOCIAL INTERACTIONS IN A CICHLID FISH Ana Sofia Mendes da Silva Santos Félix Dissertação orientada por Professor Doutor Rui Filipe Pais de Oliveira (ISPA – Instituto Universitário) Tese submetida como requisito parcial para obtenção do grau de Doutoramento em Biologia do Comportamento 2019 ii 2019 Tese apresentada para cumprimentos dos requisitos necessários à obtenção do grau de Doutor em Biologia do Comportamento realizada sob a orientação de Professor Doutor Rui Filipe Pais de Oliveira, apresentada no ISPA - Instituto Universitário no ano de 2019. O presente trabalho foi financiado pela Fundação para a Ciência e Tecnologia (SFRH/BD/102892/2014). iii Acknowledgements Life has many challenges. For me, doing a Ph.D. seemed like I was in an obstacle race, where I struggled to jump over barriers to reach the finishing line. Resilience and hard work are always imperative to succeed but as an athlete that has a team helping and assisting him, I couldn’t make it without several people that were there for me. Here I would like to acknowledge them. To my advisor Rui Oliveira. I have had the privilege to work with you for more than 10 years. Thank you so much for your wise advice, intelligent insights but most of all for your understanding, respect and kindness. To my team partners in this adventure António Roleira and Sara Cardoso. Thank you for helping me jump over those obstacles that were too difficult for me. To my other co-authors in this work: Olinda Almeida and Gonçalo Oliveira. Thank you for sharing your contagious love for tilapias (Olinda!), mastery in statistics (Gonçalo!) and knowledge. To all former and present members of the Oliveira Lab. For the enthusiastic discussions during the lab meetings and assistance through my journey. I also would like to thank some Oliveira Lab members who were particularly influential in my professional/personal progress in the last years: Ana Faustino, André Monteiro, Ibukun Akinrinade, Júlia Pinho, Magda Teles, Raquel Martins, Rita Nunes and Rodrigo Abreu. To my Christian community at Vida Abundante - Benavente. I am deeply grateful for your love and prayers. To my family. For your sincere and funny (because is always followed by great surprise!) interest in my research and for your care and support. A special thanks to my father- in-law that helped me so many times with the kids. To my husband Alexandre and children Josué, Samuel and David. I love you for having run with me all this way. We crossed the finishing line together! And last but not least, because I am a woman of faith who agrees that “everyone has the right to freedom of thought, conscience and religion”, I would like to acknowledge The One who was my driving force. There were such windy and rainy moments, where I thought I couldn’t make it. But You were my strength. With You my God, I have finished this race. iv v Palavras-Chave Comportamento social, Cérebro, Hormonas, Tilápia de Moçambique Keywords Social behavior, Brain, Hormones, Mozambique tilapia PsycINFO Classification Categories and Codes 2400 Animal Experimental & Comparative Psychology 2440 Social & Instinctive Behaviour 2500 Physiological Psychology & Neuroscience 2540 Physiological Processes vi RESUMO O estudo do comportamento animal e em particular do comportamento social tem atraído investigadores desde há muito tempo. Todos os animais interagem com os outros, característica fundamental para a sua sobrevivência e reprodução. No entanto, para obter uma total compreensão do comportamento social, é necessária a integração de seus vários componentes. Com esta tese, pretendemos clarificar este tópico, estudando como o cérebro controla o comportamento através da ação conjunta de seus circuitos neurais, genes e moléculas, e também como o ambiente social de forma recíproca influencia o cérebro. Baseado neste objetivo e usando a tilápia de Moçambique (Oreochromis mossambicus) como espécie modelo, num primeiro estudo investigámos como o comportamento social é controlado por uma rede dinâmica de regiões cerebrais, a Social Decision Making Network (SDMN). Aqui, tentámos entender quais são as pistas específicas que desencadeiam mudanças no padrão de ativação dessa rede neural, usando lutas entre machos. Os nossos resultados sugerem que é a avaliação mútua do comportamento de combate que impulsiona mudanças temporárias no estado do SDMN, e não a avaliação do resultado da luta ou apenas a expressão de comportamento agressivo. Em seguida, explorámos a modulação hormonal do comportamento social, em particular pelo neuropeptídeo vasotocina. Para isso, manipulámos o sistema da vasotocina injetando vasotocina e um antagonista específico dos receptores de vasotocina V1A em machos. Para distinguir se a vasotocina afeta o comportamento isoladamente ou em combinação com andrógenios, conduzimos esta experiência em peixes castrados e peixes controlo. Curiosamente, descobrimos que a vasotocina afetou o comportamento dos machos em relação às fêmeas, mas não em relação aos machos, e que os andrógenios e a vasotocina modularam a agressividade dos machos em relação às fêmeas. Em seguida, procurámos compreender como as interações sociais afetam os sistemas neuroendócrinos. Nesse sentido, utilizámos um paradigma de intrusões territoriais para avaliar os padrões temporais dos níveis de andrógenios e tentámos relacioná-los ao fenótipo comportamental de cada indivíduo. Obtivemos padrões distintos de resposta androgénica às interações sociais devido a diferenças individuais subjacentes em sua extensão de resposta. Este estudo oferece uma importante contribuição para a área de investigação, fornecendo possíveis razões para as discrepâncias associadas à hipótese de desafio, o principal modelo em endocrinologia comportamental que descreve a relação entre andrógenios e interações sociais. Finalmente, pensa-se que os andrógenios respondem às interações sociais como forma de preparar os indivíduos para outras interações. Assim, tentámos descobrir como um aumento de andrógenios no sangue afeta o cérebro. Para esse efeito, injetámos peixes com andrógenios e estudámos as mudanças transcriptómicas que ocorrem no cérebro usando a técnica de RNAseq, permitindo uma compreensão mais detalhada do efeito dos andrógenios no cérebro. Em suma, o comportamento social é complexo e depende de vários fatores internos e externos. Os resultados desta tese fornecem um contributo significativo para pesquisas futuras. vii ABSTRACT The study of animal behavior and in specific of social behavior has attracted researchers for a long time. All animals interact with others, a feature which is fundamental to their survival and reproduction. However, to get a complete understanding of social behavior, the integration of its various components is required. In this thesis, we aimed to shed light on this topic, studying how the brain controls behavior through the concerted action of its neural circuits, genes and molecules, and also how the social environment feedbacks and impacts the brain. Grounded upon this objective and using the Mozambique tilapia (Oreochromis mossambicus) as a model species, in a first study we investigated how social behavior is controlled by a dynamic network of brain regions, the Social Decision Making Network (SDMN). Here, we tried to understand what are the specific cues that trigger changes in the pattern of activation of this neural network, by using staged fights between males. Our results suggest that it is the mutual assessment of relative fighting behavior that drives acute changes in the state of the SDMN, and not the assessment of fight outcome or just the expression of aggressive behavior. Then, we explored the hormonal modulation of social behavior, in particular of the neuropeptide vasopressin. For this purpose, we manipulated the vasotocin system by injecting vasotocin and a specific antagonist of vasotocin receptors V1A in males. To distinguish if vasotocin affected behavior alone or in combination with androgens, we conducted this experiment in both castrated and control fish. Interestingly, we found that vasotocin affected the behavior of males towards females but not towards males and that both androgens and vasotocin modulated aggressiveness towards females. Next, we sought to comprehend how social interactions affect neuroendocrine systems. In that sense, we used a paradigm of territorial intrusions to assess temporal patterns of androgen levels and tried to relate them to the behavioral phenotype of each individual. We obtained distinct patterns of androgen response to social interactions due to underlying individual differences in their scope for response. This study makes an important contribution to the field by providing possible reasons for discrepancies associated with the Challenge Hypothesis, the major framework in behavioral endocrinology which describes the relationship between androgens and social interactions. Finally, it is believed that androgens respond to social interactions as a way to prepare individuals for further interactions. Thus, we tried to uncover how an androgen surge in the blood affects the brain. To accomplish this, we injected fish with androgens and studied brain transcriptomic changes with the RNAseq technique, allowing the achievement of a thorough understanding of the effect of androgens on the brain.