Université Libre de Bruxelles Faculté des Sciences Scalar boson decays to tau leptons : in the standard model and beyond Thèse présentée par : Cécile Caillol En vue de l’obtention du grade de : Docteur en Sciences Bruxelles, avril 2016 Constitution du jury de thèse : Giacomo Bruno (UCL) Barbara Clerbaux (ULB), promoteur Sridhara Dasu (University of Wisconsin Madison) Albert De Roeck (CERN) Jean-Marie Frère (ULB), président Abdollah Mohammadi (Kansas State University), co-promoteur Pascal Vanlaer (ULB), secrétaire Abstract This thesis presents a study of the scalar sector in the standard model (SM), as well as different searches for an extended scalar sector in theories beyond the standard model (BSM). All analyses have in common the fact that at least one scalar boson decays to a pair of tau leptons. The results exploit the data collected by the CMS detector during LHC Run-1, in proton-proton collisions with a center-of-mass energy of 7 or 8 TeV. The particle discovered in 2012, H, looks compatible with a SM Brout-Englert-Higgs boson, but this statement is driven by the H ! γγ and H ! ZZ decay modes. The H ! τ +τ − decay mode is the most sensitive fermionic decay channel, and allows to test the Yukawa couplings of the new particle. The search for the SM scalar boson decaying to tau leptons, and produced in association with a massive vector boson W or Z, is described in this thesis. Even though a good background rejection can be achieved by selecting the leptons originating from the vector boson, Run-1 data are not sensitive to the small pro- duction cross sections predicted in the SM for the scalar boson. The combination with the gluon-gluon fusion and vector boson fusion production searches leads to an evidence for the decay of the H boson to tau leptons. Many BSM models, such as the minimal supersymmetric SM (MSSM) or models with two scalar doublets (2HDM), predict the existence of several scalar bosons. The decays of these bosons to tau leptons can be enhanced in some scenarios depending on the model parameters, which makes the di-tau decay mode powerful to discover BSM physics. Four searches for an extended scalar sector are detailed in this thesis. The first analysis searches for a pseudoscalar boson with a mass between 220 and 350 GeV, decaying to an SM-like scalar boson and a Z boson, in the final state with two light leptons and two tau leptons. Second, a search for the exotic decay of the new particle H to a pair of light pseudoscalar bosons, which is still allowed by all measurements made up to now, in the final state with two muons and two tau leptons is performed. Third, a mass region almost never explored at the LHC is probed by the search of a light pseudoscalar, with a mass between 25 and 80 GeV, decaying to tau leptons and produced in association with b quarks. The last analysis describes the search for a heavy resonance in the MSSM, decaying to a pair of tau leptons. None of these analyses has found any hint of new physics beyond the SM, but stringent limits on the cross section of such signals could be set. Résumé Cette thèse présente une étude du secteur scalaire dans le cadre du modèle standard (MS), ainsi que la recherche d’un secteur scalaire étendu dans des théories au-delà du MS. Ces analyses ont en commun la désintégration d’au moins un des bosons scalaires en une paire de leptons taus. Les résultats sont basés sur les données collectées par le détecteur CMS pendant le Run-1 du LHC, lors de collisions proton-proton à une énergie dans le centre de masse de 7 ou 8 TeV. La particule découverte en 2012, H, semble compatible avec un boson de Brout-Englert- Higgs du MS, mais ce constat se base essentiellement sur l’étude des modes de désintégra- tion H ! γγ et H ! ZZ. Le mode de désintégration H ! τ +τ − est le canal fermionique le plus sensible, et permet de tester les couplages de Yukawa du nouveau boson. Cette thèse décrit dans un premier temps la recherche du boson scalaire du MS se désintégrant en leptons taus et produit en association avec un boson vecteur massif W ou Z. Bien que les bruits de fond puissent être réduits en sélectionnant les leptons provenant de la désintégration des bosons vecteurs, les données du Run-1 ne sont pas sensibles aux petites sections efficaces de production prédites dans le SM pour le boson scalaire. Cependant, la combinaison avec les recherches du boson scalaire dans d’autres modes de production montre avec évidence l’existence de désintégrations du boson H en leptons taus. De nombreux modèles au-delà du MS, tels que l’extension supersymétrique minimale du MS (MSSM) ou les modèles avec deux doublets scalaires (2HDM), prédisent l’existence de plusieurs bosons scalaires. La désintégration de ces bosons en leptons taus peut être favorisée dans certains scénarios en fonction des paramètres du modèle, ce qui rend ce mode de désintégration très puissant dans la recherche de nouvelle physique. Quatre recherches d’un secteur scalaire étendu au-delà du MS sont présentées dans cette thèse. La première analyse recherche un pseudoscalaire avec une masse entre 220 et 350 GeV, se désintégrant en un boson scalaire similaire à celui du MS et en un boson Z, dans l’état final avec deux leptons taus et deux leptons légers. La deuxième analyse explore la possibilité d’une désintégration exotique de la nouvelle particule, H, en deux bosons scalaires plus légers, ce qui est toujours autorisé par toutes les mesures faites à ce jour, dans l’état final avec deux muons et deux leptons taus. Dans le cadre de la troisième analyse, une région en masse quasiment inexplorée auparavant au LHC est testée par la recherche d’un pseudoscalaire avec une masse entre 25 et 80 GeV, se désintégrant en leptons taus et produit en association avec deux quarks b, dans le contexte des 2HDM. La dernière analyse recherche une résonance lourde se désintégrant en une paire de leptons taus dans le contexte du MSSM. Aucun indice de nouvelle physique n’a été trouvé dans aucune des analyses décrites ci-dessus, mais des limites strictes sur les sections efficaces des différents signaux ont été déterminées. Acknowledgements First, I would like to thank Barbara Clerbaux for supervising this work. At every mo- ment she has been present, supportive, and has given me the best advice. This manuscript would not have been the same without her, and I want to thank her for the careful review of the previous versions. I also want to thank Abdollah Mohammadi. He has taught me so many things, and has always tried to give me visibility and responsibilities, from the very beginning of my PhD. It has always been a pleasure to work with him, and I could not have imagined a better teammate to carry on this project. I am grateful to the other jury members, Jean-Marie Frère, Pascal Vanlaer, Sridhara Dasu, Giacomo Bruno, and Albert De Roeck, for reading this thesis, and giving me their valuable comments. This thesis was made possible with the help of many people working at CERN. In particular, I want to thank Christian Veelken for the time he patiently spent with me, to teach me about tau physics at CMS. I had the invaluable opportunity to work one year at CERN ; and this certainly im- proved the quality of my work. For this, I want to thank Joe Incandela and the FPS committee. My work at the IIHE and at CERN would not have been that pleasant without my colleagues. It is impossible to name everyone here, but special thanks go to the nicest of- fice mates, Nastja and Didar, to the most efficient secretary, Audrey, to the most patient IT team, and to the best support at CERN, Jian. And the last word goes to my parents and my sisters, whom always support me, and whom I cannot thank enough. Contents Introduction 1 I Theoretical bases 5 1 The standard model of particle physics 7 1.1 Elementary particles and forces . .7 1.2 Standard model Lagrangian . .9 1.3 Scalar sector . 12 1.4 Chapter summary . 18 2 Physics beyond the standard model 19 2.1 Motivations for new physics . 19 2.2 Two-Higgs-doublet models . 22 2.3 Supersymmetry . 25 2.4 Two-Higgs-doublet models + a singlet . 31 2.5 Search for BSM physics in the scalar sector . 33 2.6 Precision measurements vs. direct discovery in the case of the SM+S . 35 2.7 Chapter summary and personal contributions . 37 3 Statistics 39 3.1 Likelihood . 39 3.2 Maximum likelihood fit . 43 3.3 Exclusion limits . 43 3.4 Significance . 45 3.5 Goodness-of-fit test . 47 3.6 Boosted decision trees . 48 3.7 k-Nearest Neighbor classifier . 50 3.8 Chapter summary . 52 II Experimental bases 53 4 Experimental setup 55 4.1 Large Hadron Collider . 55 4.2 Compact Muon Solenoid . 58 4.3 Chapter summary . 67 CONTENTS 5 Event generation, simulation and reconstruction 69 5.1 Event generation and simulation . 69 5.2 Object reconstruction and identification . 70 5.3 Chapter summary . 81 6 Tau lepton reconstruction and identification 83 6.1 HPS algorithm description . 83 6.2 HPS algorithm performance in Run-1 . 89 6.3 HPS algorithm in Run-2 . 113 6.4 Chapter summary and personal contributions . 121 III SM physics analyses 123 7 Search for the SM scalar in the ZH ! ``ττ channel 125 7.1 Analysis overview .