IMF Substellaire dans les amas ouverts jeunes : quelles contraintes sur la formation des naines brunes

Le travail presente dans cette these porte sur l'etude de la fonction initiale de masse (IMF), avec un interet particulier pour le domaine des naines brunes, encore inexplore il y a peu. Cette fonction decrit le nombre d'etoiles formees par intervalle de masse dans un environnement donne et est donc directement issue des processus de formation stellaire et substellaire. Cependant, la description theorique de ces modeles est loin d'offrir un cadre satisfaisant: le mecanisme de formation des naines brunes est toujours sujet a controverse et l'origine de l'IMF reste mal comprise. Afin d'ameliorer cette situation, je me suis attachee a determiner la fonction de masse de trois amas ouverts jeunes autour de la frontiere stellaire/substellaire. Ceci me permet d'aborder le probleme de l'universalite de l'IMF et de confronter les observations aux differents scenarios de formation proposes. Apres une introduction generale sur l'IMF et les naines brunes, je presente les resultats obtenus pour l'amas des Pleiades et pour deux amas d'âge similaire, Blanco 1 et NGC 2516. Les candidats naines brunes et etoiles de tres faible masse sont d'abord identifies a partir d'images grand champ sur la base de leurs proprietes photometriques, puis leur appartenance aux amas est confirmee a l'aide d'observations complementaires, photometriques et spectroscopiques, visibles et infrarouges. A partir de ces echantillons, les fonctions de masse sont determinees et je montre qu'elles sont coherentes entre elles. Je compare ensuite ces resultats avec ceux obtenus pour d'autres environnements, d'âge et de densite differents. En prenant en compte l'evolution dynamique des amas ainsi que l'effet de la binarite, je trouve que les observations sont compatibles avec une IMF universelle dans le domaine stellaire. Aux plus faibles masses, en revanche, des differences sont mises en evidence et je discute des implications de ce resultat sur les theories de formation stellaire. Enfin, j'examine les differents scenarios proposes pour expliquer la formation des naines brunes et je compare leurs predictions aux observations. Des simulations nu-meriques a N-corps modelisant l'evolution dynamique d'un amas me permettent alors d'apporter des contraintes sur la cinematique des naines brunes au moment de leur for-mation. Malgre cette etude, deux scenarios concurrents restent impossibles a distinguer et je propose quelques tests observationnels qui permettraient de le faire.