Net del compositor Ernö Dohnányi, estudià a Múnic, on el 1951 obtingué el premi Richard Strauss. Posteriorment es traslladà als EUA, on estudià amb el seu avi, i fou assistent i deixeble de Leonard Bernstein. Georg Solti el contractà com a director del cor de l’Òpera de Frankfurt el 1952 i posteriorment fou director d’orquestra a Lübeck (1957-63), Kassel (1963-66) i Colònia (1964-69).
Entre el 1968 i el 1975 tornà a dirigir l’Òpera de Frankfurt i aquest darrer any fou nomenat intendent de l’Òpera d’Hamburg, càrrec que compaginà amb una brillant carrera internacional com a especialista en el repertori alemany. El 1984 succeí Lorin Maazel com a titular de l’Orquestra de Cleveland, amb la qual ha realitzat diverses gires i enregistraments. El 1997 fou nomenat director titular de la Philharmonia Orchestra de Londres, càrrec que ocupà fins el 2008 quan fou nomenat director honorari. El 2002 deixà la titularitat de la direcció de l’Orquestra de Cleveland, i a partir d’aleshores en fou director llorejat. Entre el 2004 i el 2010 estigué al capdavant de l’Orquestra Simfònica de la NDR d’Hamburg.
Especialitzat en repertori contemporani, les obres de Beethoven, Mahler i Strauss centren la seva àmplia discografia. El 1973 dirigí a Viena unes memorables funcions de Moses und Aron d’Arnold Schönberg, i ha estrenat òperes de F. Cehra, G. von Einem i H.W. Henze, entre d’altres. Dirigí la seva dona (1969-90), la soprano Anna Silja, en un celebrat enregistrament de Lulu d’Alban Berg.