Ha compuesto bandas sonoras para un gran número de pélículas entre las cuales El Graduado, Reds, La Chica del Adiós, y Un Lugar llamado Milagro, por la cual recibió un Oscar y una nominación al Globo de Oro. Además Grusin ha merecido nominaciones a la mejor banda original por sus músicas de En el Estanque Dorado, El Cielo Puede Esperar y Campeón. Recibió también una nominación a la mejor canción por It Might Be You de Tootsie. Es asimismo el creador de los temas musicales de las series televisivas Baretta y St. Elsewhere, entre otras. Al margen de componer bandas sonoras, Grusin es arreglista de famosos cantantes como Quincy Jones, Paul Simon y Sergio Méndez. En 1976 fundó una productora discográfica junto con Larry Rosen. Por su compañía han pasado artistas de la talla de Dizzi Gillespie, Gerri Mulligan y Patti Austin. En 1983 Grusin y Rosen crearon su propio sello discográfico, GRP Records, orientado principalmente a la música de jazz.