Tornò dunque in Ungheria, un Paese, come dice lui, che musicalmente aveva una gran quantità di petrolio nel suo sottosuolo, che nessuno però aveva ancora estratto, e fondò nel 1983 la Budapest Festival Orchestra, per poter introdurre quei cambiamenti che aveva riconosciuto come necessari.
Fischer è cresciuto in una famiglia di musicisti, dove vigeva la convinzione che solo i pianisti (come suo fratello) possono diventare direttori d’orchestra. Lui invece è passato dal pianoforte al violino e al violoncello. Per studiare si è recato a Vienna, diplomandosi nella famosa classe di direzione di Hans Swarowsky con una strana combinazione di materie: violoncello, musica antica (con Nikolaus Harnoncourt) e direzione.
Il primo premio al Concorso della BBC/Rupert Foundation, che ha vinto all’età di 25 anni, gli ha aperto la carriera internazionale con inviti da importanti orchestra come i Berliner Philharmoniker, l’Orchestra del Concergebouw, la London Symphony, la New York Philharmonic, la Israel Philharmonic e l’Orchestra di Cleveland. E’ stato direttore musicale della Northern Sinfonia of England (1979-1982) dell’Opera del Kent (1984-1989) e primo direttore ospite della Cincinnati Symphony Orchestra (1989-1996). Dal 2001 è direttore musicale dell’Opera di Lione.
Nel 1995 ha firmato un contratto in esclusiva con la Philips, che ha portato alla pubblicazione di una serie importanti di registrazioni.