Ingénieur ETP, Jean-Marie Rapin a mené l'essentiel de sa carrière au Centre scientifique et technique du bâtiment où il a été directeur adjoint du département Acoustique. Formé dans cette spécialité sous la direction de Robert Josse, il fut notamment l'auteur de la première étude montrant comment se protéger du bruit des autoroutes par des écrans acoustiques, domaine qu'il a fortement développé au sein du CSTB.
Parallèlement et à la même époque, il enseignait l'acoustique du bâtiment (Insa et Ensa Lyon, IUT de Grenoble). En matière de recherche, il a publié de nombreux articles et a contribué à l'édition de la revue européenne d'acoustique, Acta Acustica.
Enfin, son activité de conseiller auprès des villes nouvelles et sur les grands projets lui a offert maintes occasions de collaborer directement avec les architectes. Il est par ailleurs l'un des rédacteurs des nouvelles règles de construction pour les départements d'Outre-mer.