Adaptation in natural populations: integrating phenotypic and genetic perspectives Timothy James Thurman Redpath Museum and Department of Biology McGill University Montréal, Québec, Canada October 2019 A thesis submitted to McGill University in partial fulfillment of the requirements of the degree of Doctor of Philosophy c Timothy James Thurman, 2019 Contents Abstract iii Résumé v Acknowledgements viii Contributions to Original Knowledge xi Thesis Format xiii Contribution of Authors xiv List of Figures xvi List of Tables xvii General Introduction 1 1 The genetic consequences of selection in natural populations 13 1.1 Abstract . 13 1.2 Introduction . 14 1.3 Materials and methods . 18 1.4 Results . 22 1.5 Discussion . 24 1.6 Conclusions . 34 1.7 Boxes . 35 1.8 Figures and Tables . 40 Bibliography . 55 Linking Statement 1 56 2 Movement of a Heliconius hybrid zone over 30 years: a Bayesian approach 57 2.1 Abstract . 57 2.2 Introduction . 58 2.3 Materials and Methods . 60 2.4 Results . 66 2.5 Discussion . 69 i 2.6 Figures and Tables . 73 Bibliography . 76 Linking Statement 2 82 3 Predicting evolutionary change from ecological interactions: a field experiment with Anolis lizards 83 3.1 Abstract . 83 3.2 Introduction . 84 3.3 Materials and Methods . 87 3.4 Results . 95 3.5 Discussion . 99 3.6 Figures . 105 Bibliography . 109 General Discussion & Conclusion 117 A Appendix 124 A.1 Supplemental Material for Chapter 1 . 125 A.2 Theory Appendix to Chapter 1 . 147 A.3 Supplemental Material for Chapter 2 . 152 A.4 Supplemental Material for Chapter 3 . 172 Bibliography 199 ii Abstract A central goal of evolutionary biology is to understand how organisms adapt to their envi- ronment. Though much progress has been made in answering this question, many aspects of the process of adaptation remain mysterious, particularly at the genetic level. This is especially true for biologists’ understanding of the genetic basis of adaptation in natural populations of organisms, as technological advances in sequencing have only recently made it possible to perform genomic re- search on non-model organisms. My dissertation integrates phenotypic and genetic perspectives to advance our understanding of selection and adaptation in natural populations of organisms. I take multiple approaches to this question, combining meta-analysis, population surveys, and manipu- lative experiments in the field. In my first chapter, I explore the consequences of natural selection on genetic variants. In many population genetic models, selection is parameterized as the selec- tion coefficient, s. Despite the selection coefficient’s central importance to models of evolution, until recently we have known very little about plausible values of s for genetic variants in natural populations. Through a meta-analysis of over 3000 selection coefficients from 79 studies, I reveal generalities about how natural selection operates at the genetic level. I relate these results to pop- ulation genetic theory and studies of phenotypic selection, and provide recommendations for the calculation, interpretation, and reporting of selection coefficients. In my second chapter, I consider natural selection and adaptation within a rapidly moving hybrid zone. I study a hybrid zone be- tween two races of Heliconius erato butterfly that differ in colour pattern. Because the genetic loci responsible for variation in colour pattern in H. erato are well characterized, I consider selection at the phenotypic and genetic levels simultaneously. I develop new statistical methods for quantifying hybrid zone position and shape and apply these to historical data and new collections to show that iii over the last 15 years the H. erato hybrid zone has grown wider while its movement has slowed. I show that this is due to a decrease in the strength of selection on mimetic colour pattern and the underlying colour-pattern allele. I then use remotely-sensed data on forest loss and productivity to test hypotheses about the ecological forces that influence hybrid zone dynamics. In my final chapter, I examine whether phenotypic and genetic change are predictable. I take an experimental approach, using a large-scale, long-term, eco-evolutionary field study with Anolis sagrei lizards. Anoles are an exemplar of parallel evolution across an adaptive radiation, and their interactions with competitor and predator species have been well-studied in within-generation experiments. This provides clear predictions for how these ecological interactions might drive adaptive evolu- tion over multiple generations. I test these predictions by manipulating the presence and absence of predator and competitor species in a factorial design across 16 small islands in the Bahamas. I measure changes in a suite of morphological traits relevant to habitat use and performance, and use next-generation sequencing to characterize changes in allele frequency across the genome. Despite strong and consistent effects of predators and competitors on behavior, diet, and population size in A. sagrei, I found that phenotypic and genetic change were difficult to predict in advance. Phe- notypic change, though not stochastic, was related to variation in vegetation structure and lizard densities across islands, making a priori prediction challenging. Genetic change, on the other hand, was unpredictable and unrelated to either our experimental manipulations, phenotypic change, or environmental differences. My work reveals the necessity of ecological data and knowledge of natural history for predicting natural selection, and shows how field experiments can be used to test and clarify hypotheses about how natural selection operates. Overall, my dissertation demon- strates that integrating phenotypic and genetic perspectives can help biologists understand how natural selection operates in the wild. In particular, it shows the value of combining these perspec- tives with detailed ecological data, novel statistical techniques, and experimentation to directly test hypotheses about evolution in natural populations. iv Résumé Un des objectifs centraux de la biologie de l’évolution est de comprendre comment les organismes s’adaptent à leur environnement. Bien que beaucoup d’avancées aient été faites à ce propos, de nombreux aspects du processus d’adaptation restent mystérieux, en particulier au niveau génomique. Cela est particulièrement vrai en ce qui concerne notre compréhension des bases géné- tiques de l’adaptation en populations naturelles, puisque les avancées technologiques en matière de séquençage n’ont permis que récemment de mener des recherches génomiques sur des organismes « non-modèles », c’est-à-dire des organismes où peu est connu ou étudié en matière de génétique. Ma thèse intègre des perspectives phénotypiques et génétiques pour développer notre compréhen- sion de la sélection et de l’adaptation au sein de populations naturelles. J’adopte plusieurs méthodes de recherches dans ma dissertation, combinant méta-analyse, suivis de population et des manip- ulations expérimentales sur le terrain. Dans mon premier chapitre, j’explore les conséquences de la sélection naturelle sur les variantes génétiques. Dans de nombreux modèles de génétique des populations, la sélection est décrite par le coefficient de sélection, s. Malgré l’importance cen- trale du coefficient de sélection dans les modèles d’évolution, nous n’avions jusqu’à récemment que peu de connaissances sur les valeurs plausibles de s pour les variantes génétiques au sein de populations naturelles. À travers une méta-analyse de plus de 3000 coefficients de sélection provenant de 79 études, je révèle des généralités sur le fonctionnement de la sélection naturelle en matière de génétique. Je relie ces résultats aux théories de la génétique des populations et aux études de sélection phénotypique, et formule des recommandations pour le calcul, l’interprétation et la manière de présenter les coefficients de sélection. Dans mon deuxième chapitre, je consid- ère la sélection naturelle et l’adaptation au sein d’une zone hybride dynamique qui se déplace v rapidement. J’étudie une zone hybride entre deux races de papillons Heliconius erato de couleurs différentes. Étant donné que les locus génétiques responsables de la variation du motif de couleur chez H. erato sont bien caractérisés, je considère simultanément la sélection aux niveaux phéno- typique et génétique. Je développe de nouvelles méthodes statistiques pour quantifier la position et la forme de la zone hybride et les applique aux données historiques ainsi qu’à de nouvelles don- nées pour montrer que la zone hybride d’H. erato s’est élargie au cours des 15 dernières années, alors que son déplacement a ralenti. Je montre que cela est dû à une diminution de la sélection du motif de couleur mimétique des ailes de ce papillon et de l’allèle sous-jacente au motif de couleur. J’utilise ensuite des données récoltées par télédétection sur la perte de forêts et la productivité pour tester des hypothèses sur les facteurs écologiques qui influencent le déplacement des zones hy- brides. Dans mon dernier chapitre, j’examine si les changements phénotypiques et génétiques sont prédictibles. Je choisis une approche expérimentale, utilisant une étude de terrain à grande échelle, à long terme et éco-évolutive, réalisée sur des lézards Anolis sagrei. Les « anoles » (Famille ; Dactyloidae, genre ; Anolis) sont un exemple d’évolution parallèle à travers une radiation adapta- tive, et leurs interactions avec des espèces compétitrices et prédatrices ont été bien étudiées dans des expériences