Zimmermann war langjähriger Weggefährte des bayerischen Ministerpräsidenten Franz Josef Strauß. Nachdem er mehrere Jahre lang die CSU-Landesgruppe im Bundestag geleitet hatte, war er von 1982 bis 1989 als Bundesinnenminister verantwortlich etwa für das Vermummungsverbot und die Kronzeugenregelung.

In den Augen vieler Kritiker stand Zimmermann als absoluter Hardliner für eine scharfe Linie bei der inneren Sicherheit und in der Ausländer- und Asylpolitik. Danach war er bis Anfang 1991 Bundesverkehrsminister.

Aber er war auch Umweltpolitiker - bis zum Start des Bundesumweltministeriums 1986 waren die meisten umweltpolitischen Zuständigkeiten beim Innenressort angesiedelt. Unter Zimmermann gab es Gesetze etwa zur Luftreinhaltung. Er verhalf Regelungen für bleifreies Benzin und den Katalysator zum Durchbruch.

Strauß blieb für ihn eine zentrale Leitfigur. Er überredete Strauß zur Kanzlerkandidatur 1980. Bis zuletzt hielt Zimmermann Strauß die Treue.

Der gebürtige Münchner war bereits 1948 in die CSU eingetreten. 33 Jahre lang vertrat er die Partei im Bundestag. 1991 schied er aus dem Hohen Haus aus - die Parteibasis hatte ihm ein neuerliches Direktmandat verweigert. Zimmermann kehrte in seinen Beruf als Rechtsanwalt zurück. Noch lange war er in den Sitzungen des CSU-Vorstands gern gesehener Gast.

Als er gemeinsam mit Familie und Freunden in Südfrankreich 1995 seinen 70. Geburtstag feierte, zeigte er keine Sehnsucht nach Bonn:
"Heut brauch' ich nimmer jeden freundlich anlächeln, auch wenn ich ihn für einen Deppen halt'."

Der Katholik hatte zwei Töchter und war dreimal verheiratet. Er lief gern Ski, spielte Tennis und ging auf die Jagd. Er hatte ein Ferienhaus nahe dem österreichischen Ferienort Filzmoos im Salzburger Land. Bereits seit längerer Zeit war Zimmermann krank und hatte sich dorthin zurückgezogen.