È docente di Organo e Improvvisazione al Conservatorio Statale di Musica di Colonia, dove è anche capo del dipartimento di musica sacra protestante. Nato nel 1951, figlio di un organista e direttore di musica sacra, fu allevato nella tradizione di questa professione. Il leggendario professor Michael Schneider, che attraverso i suoi famosi maestri Karl Straube e Marcel Duprè combinava l'arte di suonare l'organo alla maniera tedesca e francese, divenne suo maestro durante i suoi studi di musica sacra a Colonia dal 1969 al 1972. Geffert continuò la sua formazione con il concertista britannico per organo Nicholas Kynaston. Dal 1974 al 1979 Johannes Geffert è stato organista ad Acquisgrana e responsabile della Aachen Bach Society dove ha fondato il festival Aachener Bachtage. Dal 1980 al 1977 è stato direttore di musica sacra della Kreuzkirche di Bonn, la chiesa più grande del primo capitolo della Germania Occidentale, che è nota per un altissimo standard musicale durante i servizi di culto e per le serie di concerti attivi con una tradizione di oratori, cantate, musica da camera e recital per organo. A Bonn Geffert è stato organista titolare della sala concerti Beethovenhalle. Ha tenuto concerti in festival internazionali presso vari paesi europei, in Giappone, in Sudamerica, nelle Indie Occidentali e negli Stati Uniti. Le sue trasmissioni e i suoi CD hanno raggiunto un alto gradimento. Dal 1978 Geffert insegna alla Schumann-Hochschule a Düsseldorf e in varie classi di specializzazione in Germania e all'estero. È membro di giuria in molti concorsi e competizioni per suono d'organo. Nel 1991 Geffert ha fondato la Johann Christian Bach-Academy, un'orchestra di strumenti d'epoca che ha suonato tutti gli oratori di Bach e molto del repertorio standard della musica sacra in molte chiese storiche tedesche. Come editore supervisiona una serie di pubblicazioni di musica per organo di compositori tedeschi e americani.