L'expérience GBAR (Gravitational Behaviour of Antihydrogne at Rest) installée au CERN qui vise à mesurer l'effet de la force gravitationnelle exercée par la matière (la terre) sur l'antimatière (un atome d'antihydrogène) en étudiant la chute libre d'un atome d'antihydrogène préparé au repos. Ce projet développe une expérience préparatoire conçue pour étudier le refroidissement sympathique d'un ion léger (Be+) par un nuage d'ions lourds (Sr+). Les espèces ioniques choisies, adressables par laser, ont un rapport de masse (9/88) comparable à celui de GBAR (1/9) où l'ion d'antimatière Hbar+ est refroidi à la limite quantique dans une paire d'ions Be+/Hbar+.
Cette thèse décrit plusieurs expériences en spectroscopie de réflexion sélective linéaire et non linéaire à une interface verre-vapeur atomique de césium. Après un chapitre introductif suivent deux chapitres essentiellement théoriques dans lesquels nous décrivons la réflexion sélective linéaire (rs), la réflexion sélective modulée en fréquence (rsfm) et l'interaction van der waals (atome-surface) à laquelle le signal rsfm est sensible. Dans le quatrième chapitre nous utilisons la rsfm avec prise en compte de l'interaction vdw pour mesurer des paramètres collisionnels tels que l'élargissement et le déplacement de la transition d2. Les cinquième et sixième chapitres comportent une étude théorique ainsi que des mesures expérimentales en rsfm de la structure zeeman de la raie d2 pour le régime des champs magnétiques intermédiaires ainsi qu'une étude des effets anisotropes induits par les termes quadrupolaires de l'interaction vdw. Le couplage vdw quadrupolaire est différent suivant l'orientation relative entre la direction du moment magnétique et le plan définie par la surface. Nous avons cherché à observer la signature spectroscopique de cette anisotropie en rsfm. Le septième chapitre présente une étude expérimentale de la saturation et du pompage optique hyperfin de la transition d2 avec une configuration à deux faisceaux, une pompe modulée en amplitude et une sonde tous les deux en incidence normale. Dans le huitième chapitre nous présentons la première observation des effets mécaniques de la force dipolaire exercée sur des atomes en cellule, due à un gradient d'intensité lumineuse formé par une onde évanescente au voisinage d'une interface vapeur de cs-diélectrique.