Hermann Matern wurde am 17. Juni 1893 in einer sozialdemokratischen Arbeiterfamilie in Burg geboren. Nach dem Besuch der Volksschule erlernte er den Beruf eines Weißgerbers. 1910 wurde er Mitglied der freien Gewerkschaften und 1911 der SPD. In den ersten Jahren des ersten Weltkrieges stellte sich Hermann Matern auf die Seite der deutschen Linken und leistete im Geiste Karl Liebknechts antimilitaristische Arbeit an der Westfront. In der Novemberrevolution 1918/1919 war er Kommandant des Wachregiments des Arbeiter- und Soldatenrates in Burg. Ende 1918 trat er USPD und 1920 der KPD bei. In der KPD wirkte er zunächst als Vorsitzender der Ortsgruppe der Partei von Burg und 1926-1928 als Sekretär in Gewerkschaftsfragen der Bezirksleitung Magdeburg-Anhalt. Nach dem Besuch der internationalen Lenin-Schule in Moskau war er bis 1931 als Politischer Sekretär der Bezirksleitung Sachsen-Anhalt der KPD und von 1931-1933 in der gleichen Funktion in Ostpreußen tätig, wo er sich besonders für die Herstellung eines Bündnisses der Arbeiterklasse mit der werktätigen Bauernschaft und für gemeinsame Aktionen aller antifaschistischen Kräfte zur Abwehr der drohenden faschistischen Diktatur einsetzte.
Von April bis zu seiner Verhaftung im Juni 1933 leitete Hermann Matern den Bezirk Pommern der KPD und organisierte hier den illegalen Widerstandskampf der Partei. Im September 1934 gelang ihm gemeinsam mit drei anderen Genossen die Flucht aus dem Gefängnis Altdamm bei Stettin. Auf Beschluß des ZK der KPD verließ er Deutschland und wirkte bis 1941 in der Tschechoslowakei, in Frankreich, Belgien, Holland, Norwegen und Schweden für die Festigung der illegalen Parteiorganisationen der KPD und für die Herstellung der antifaschistischen Volksfront gegen Faschismus und Krieg. Im März 1941 emigrierte er in die Sowjetunion. Als Lehrer der Antifaschulen und ab 1943 als Mitglied des Nationalkomitees „Freies Deutschland“ half er, viele deutsche Kriegsgefangene in antifaschistischem Sinne umzuerziehen.
Am 1. Mai 1945 kehrte Hermann Matern mit einer von Anton Ackermann geleiteten Gruppe von Kommunisten nach Deutschland zurück. Als Politischer Sekretär der Landesleitung Sachsen der KPD hatte er entscheidenden Anteil an der Vereinigung der beiden Arbeiterparteien zur SED. Von 1946-1948 leitete Hermann Matern mit Karl Litke, die Berliner Parteiorganisation der SED. Seit 1946 war er Mitglied des Parteivorstandes bzw. des ZK der SED und Mitglied des Zentralsekretariats, seit 1948 Vorsitzender der Zentralen Parteikontrollkommission (ZPKK) und seit 1950 Mitglied des Politbüros. Als Mitglied der Volkskammer seit 1949, Stellvertreter des Volkskammerpräsidenten und Vorsitzender der SED-Fraktion, als Mitglied des Nationalen Verteidigungsrates und weiteren verantwortlichen Funktionen leistete er einen bedeutenden Beitrag zum Entstehen und Wachsen der sozialistischen Staatsmacht und zur Entwicklung der sozialistischen Gesellschaftsordnung in der DDR.
Hermann Matern starb am 24. Januar 1971.