1953 kam er an die Komische Oper Berlin und war hier bis 1956 Schüler und Assistent von Walter Felsenstein. Nach einem kurzen Intermezzo an der Städtischen Oper Köln übernahm er 1959 das Amt des Operndirektors der Oper Leipzig. Im Jahre 1976 trat er die Nachfolge Walter Felsensteins als Intendant und Chefregisseur der Komischen Oper Berlin an. Von 1981 bis 1991 war er dann Chefregisseur der Staatsoper Dresden, wo er zur Eröffnung der wieder aufgebauten Semperoper 1985 Carl Maria von Webers »Freischütz« und den »Rosenkavalier« von Richard Strauss inszenierte. Seine letzte Inszenierung an der Semperoper war 1991 Leoš Janáčeks Oper »Schicksal«. Insgesamt brachte Herz hier zwölf Werke zur Aufführung.
Auch im Ausland war Herz ein gefragter Mann: Er inszenierte u. a. in Vancouver, Moskau, Santa Barbara, Salzburg, München, Lissabon und London. Als er sich ab 1991 mehr und mehr aus der praktischen Theaterarbeit zurückzog, blieb er weiter ein wacher Beobachter und Begleiter der Entwicklungen im Musiktheater. Noch vor wenigen Tagen konnte er den 50. Geburtstag »seiner« Leipziger Oper mitfeiern, die er 1960 mit einer umjubelten Meistersinger-Inszenierung eröffnet hatte.
Joachim Herz hat mit seinen Inszenierungen, die auf den von Walter Felsenstein formulierten und praktisch ausgearbeiteten Prämissen eines »realistischen Musiktheaters« basierten, kraftvolle Impulse für die Entwicklung des Musiktheaters des 20. Jahrhunderts gegeben, die bis heute fühlbar nachwirken. Geradezu legendären Ruhm haben einige seiner Leipziger und Berliner Inszenierungen erlangt. Großes Aufsehen erregte zum Beispiel der Leipziger Ring des Nibelungen, der Wagners Hauptwerk erstmals als die Parabel auf die Entwicklung des Kapitalismus auf die Bühne brachte, als die es George Bernard Shaw schon Ende des 19. Jahrhunderts gelesen hatte. Die Bayreuther Inszenierung von Patrice Chereau verdankt Herz wesentliche Anregungen.
Alle, die das Glück hatten, sie zu sehen, erinnern sich noch heute lebhaft an die Eröffnungsinszenierung von Herz‘ Intendanz in Berlin: Aufstieg und Fall der Stadt Mahagonny als überbordend lustvolles, ebenso witziges wie rührendes und bitteres Theaterspektakel. Nicht weniger spektakulär die DDR-Erstaufführung von Alban Bergs Lulu, zunächst in der zweiaktigen und einige Jahre später in der von Friedrich Cerha vervollständigten Version. Herz‘ Butterfly-Inszenierung an der Komischen Oper ging nicht nur als Neuentdeckung der schrofferen und politisch brisanteren Urfassung in die Geschichte der Oper ein, sondern blieb vor allem als eine zutiefst berührende und dennoch wundersam leichte Erzählung vom Lebenstraum einer jungen Frau, der an den Verhältnissen grausam scheitert, in Erinnerung.