1956 erhielt er vom damaligen Würzburger Intendanten Hans Scherer seine erste Soloaufgabe mit der Partie, die seine Paraderolle werden sollte: dem Figaro aus dem „Barbier von Sevilla” von Rossini.
Bis 1959 war er festes Ensemblemitglied am Würzburger Theater, bevor er dem Ruf an die Städtischen Bühnen Nürnberg folgte. 1963 wurde Grumbach Mitglied der Bayerischen Staatsoper in München. Von hier aus gastierte er in Wien, Paris, London, Edinburgh, Madrid und Tokio sowie an den führenden Bühnen der Bundesrepublik. 1966 wurde er zum damals jüngsten Kammersänger der Bayerischen Staatsoper ernannt. 1972 nahm er das Angebot einer Professur an der Münchner Musikhochschule an.
Grumbachs Repertoire umfasste im Laufe seiner Karriere nahezu alles, was das klassische Baritonfach zu bieten hat. Hervorzuheben sind seine großen Rollen Papageno (Zauberflöte), neben dem Rossini- auch der Mozart-Figaro, Marcel (La Boheme), Malatesta (Don Pasquale), Kaspar (Zaubergeige), Barbier (Schweigsame Frau), Minister (Fidelio) bis hin zu Partien im Wagnerfach (Wolfram, Heerrufer).
Grumbach war häufigster Bariton-Partner des lyrischen Jahrhunderttenors Fritz Wunderlich, mit dem ihn auch eine Freundschaft verband.
Raimund Grumbach beendete seine aktive Laufbahn Mitte der 80er Jahre und widmete sich fortan nur noch der Ausbildung des Nachwuchses. Besonders stolz war er auf seinen Meisterschüler Christian Gerhaher, der aktuell im gleichen Stimmfach zu einer Weltkarriere anhebt.