Exploration of 6-dimensional models with non trivial topology and their predictions for fermions masses and mixings, neutrino physics, flavour changing interactions and CP violation

In this thesis, we study several scenarios which go beyond the Standard Model of particle physics with the aim of gaining a better understanding for the multiplication of fermion families, their masses and mixings pattern and its relation to CP violation. The common feature of the models we envisaged (and the guiding principle of the thesis) is the introduction of extra space dimensions. In a first attempt to explain the fermion mass structure, we elaborate on a model with two extra-dimensions and a Nielsen- Olesen vortex background established on it. In this framework, three families in 4D can be seen as different modes of a single generation in 6D, while their extra-dimensional wavefunctions turn out highly constrained by the dynamics, which allows to determined the mass matrices with few parameters. Moreover, with a few additional hypotheses only, it is possible to simultaneously account for the striking differences between neutrinos and charged fermions. After a summary of the model, we illustrate this with the explicit formulation of a benchmark model which reproduces convincingly all the mass and mixing parameters of the Standard Model, taking advantage of new, more precise numerical solutions of the field equations, and including the recent measurements of the Standard Model scalar boson mass and of the neutrino heta_13 mixing angle (the latter has however been correctly predicted by the model before its first measurement). We then turn to the predictions which mainly concern the neutrino and gauge sectors. In the former, we remind the Majorana nature, and the natural tendency for inverted hierarchy pattern with an almost maximally suppressed neutrinoless double beta decay. On the other hand, we predict new (neutral) gauge bosons whose couplings to fermions are not flavour-diagonal but are however constrained (in their strength and their flavour structure) by the 6D anatomy of the theory. We compare their detectability in precision low energy processes and at colliders (especially at the LHC), and show that in the simplest geometries at least, the bounds from the former exclude interesting phenomenology for the latter. Nevertheless, we turn to more phenomenological effective Lagrangians with the same overall structure and in which we are able to lower the mass scale of the new bosons to a reachable energy, and thus analyse the possible signatures for LHC.In the last part of this work, we turn to the issue of CP violation and show how in certain 6D models with non simply connected topologies, it is possible to generate a non negligible CP violation at the 4D level in a pure gauge approach. We carefully study how the 4D CP symmetry is related to particular transformations of the original 6D theory and subsequently show how an incompatibility of such transformations with the compactification scheme can lead to an effective CP breaking. As a proof of concept, we build a toy model with two extra-dimensions compactified on a flat torus and end in 4D with a light neutral fermion with a non zero electric dipole moment.Dans cette these, nous etudions plusieurs scenarios au-dela du Modele Standard de la physique des particules a la recherche d'une meilleure comprehension de la multiplication des familles de fermions, de leurs masses et de leurs melanges, ainsi que la relation a laviolation de CP.La caracteristique commune a tous les modeles envisages (et le concept sous-jacent a toute la these) est l'introduction de nouvelles dimensions spatiales. Dans une premiere tentative pour expliquer le spectre des fermions, nous developpons un modele ou une structure de vortex a la Nielsen-Olesen est etablie sur deux dimensions supplementaires. Dans ce cadre, les trois familles a 4D peuvent etre vues comme differents modes d'une unique generation a 6D, tandis que leur fonctions d'onde extra-dimensionnelles s'averent fortement contraintes par la dynamique ; ceci permet d'etablir les matrices de masses en terme d'un petit nombre de parametres. De plus, grâce a quelques hypotheses additionnelles seulement, il est possible de justifier simultanement les differences marquees entre neutrinos et fermions charges. Nous synthetisons le modele et l'illustrons en en formulant une realisation particuliere qui parvient a reproduire de maniere convaincante tous les parametres de masse et de melange du Modele Standard. Pour l'occasion, nous exploitons de nouvelles solutions aux equations des champs, numeriquement plus precises, et prenons en compte les mesures recentes de la masse du boson scalaire et de l'angle de melange heta_13 pour les neutrinos (le modele avait cependant predit ce dernier avant qu'il ne soit mesure pour la premiere fois). Nous nous tournons ensuite vers les predictions du modele et qui concernent principalement le secteur des neutrinos et celui des bosons de jauge. Pour le premier, nous rappelons la nature "Majorana" des neutrinos, ainsi que la tendance naturelle a une hierarchie inverse avec une suppression quasi maximale de la double desintegration beta sans neutrino. D'autre part, nous predisons de nouveaux bosons de jauge (neutres) dont les couplages aux fermions ne sont pas diagonaux dans l'espace des saveurs mais sont contraints (autant en terme de valeurs qu'en termes de structure) par l'anatomie de la theorie a 6D. Nous comparons leurs detections potentielles dans les processus de precision a basse energie et aupres des collisionneurs (en particulier au LHC). Nous montrons que, dans les geometries les plus simples du moins, les limites imposees par les premiers excluent toute phenomenologie interessante du cote des seconds. Toutefois, en nous tournantvers des Lagrangiens effectifs qui conservent la meme structure d'ensemble mais ouvrent a une etude plus phenomenologique, nous sommes capables de reduire l'echelle de masse de ces nouveaux bosons jusqu'a une energie accessible, et donc d'en analyser de potentielles signatures au LHC.Dans la derniere partie de ce travail, nous nous interessons a la question de la violation de CP et montrons comment dans certains modeles a 6D avec une topologie non-simplement connexe, il est possible de generer une violation de CP non negligeable a 4D dans une approche de "pure jauge". Nous etudions attentivement comment la symetrie CP a 4D est reliee a des transformations particulieres de la theorie originale a 6D, suite a quoi nous montrons comment l'incompatibilite de ces transformations avec la facon dont sont "compactifiees" les dimensions supplementaires peut conduire a une brisure effective de CP. Pour illustrer la faisabilite de notre approche, nous elaborons un "modele jouet" ou deux dimensions supplementaires sont compactifiees sur un tore plat, et obtenons a 4D un fermion neutre leger et qui possede un moment electrique dipolaire non nul.