Mit dem Tod des Partei- und Fraktionsvorsitzenden Kurt Schumachers verlor die SPD am 20. August 1952 ihre unbestrittene und kaum zu ersetzende Führungsfigur. Auf ihrem Parteitag in Dortmund wählte die SPD Schumachers bisherigen Stellvertreter Erich Ollenhauer zum Vorsitzenden, der einen Monat später auch Fraktionsvorsitzender wurde. Schumachers programmatische Positionen wurden im wesentlichen von Ollenhauer zunächst fortgeführt, allerdings ohne das Charisma seines Vorgängers. Bei den Bundestagswahlen erreichte die SPD unter Führung von Ollenhauer als Kanzlerkandidat nur 28,8 (1953) und 31,8 Prozent (1957), während die Union unter Adenauer jeweils die Wahlen nicht nur deutlich gewann, sondern 1957 eine absolute Mehrheit erreichte.

Als Integrationsfigur für die SPD konnte Ollenhauer aber die mit dem Godesberger Programm (1959) zum Abschluss gekommene, vorher kontrovers diskutierte programmatische Neuausrichtung parteiintern absichern und bereitete als eine Art Übergangsvorsitzender den Aufstieg einer jüngeren Generation von SPD-Politikern vor, insbesondere Herbert Wehner und Willy Brandt. Brandt trat das erste Mal 1961 als Kanzlerkandidat an.