Инициативы Брандта были одобрены большинством западных немцев, что укрепило положение СДПГ. Христианские демократы с трудом осваивались в роли оппозиционной партии. Шок, вызванный отстранением от власти, уступил место недовольству, стали проявляться скрытые конфликты, особенно между правым крылом ХСС (Штраус) и центристской фракцией ХДС (Райнер Барцель). Когда "Восточные договоры" поступили на ратификацию в бундестаг, многие члены блока ХДС/ХСС воздержались при голосовании по договорам с Польшей и Советским Союзом.

В апреле 1972 оппозиция предприняла попытку сместить правительство. Коалиция СДПГ - СвДП обладала в бундестаге незначительным большинством, и оппозиция надеялась, что некоторые члены фракции СвДП более правой ориентации поддержат вотум недоверия кабинету министров. Голосование по вопросу о недоверии правительству и назначении Райнера Барцеля на пост канцлера закончилось поражением оппозиции, не добравшей двух голосов. Брандт, уверенный в поддержке избирателей, воспользовался возможностью, предоставляемой конституцией, распустил бундестаг и назначил новые выборы.

На выборах 19 ноября 1972 СДПГ впервые стала крупнейшей политической силой в бундестаге (230 мест). Впервые СДПГ удалось победить ХДС в католическом Сааре. Блок ХДС/ХСС получил примерно столько же мест в парламенте (225), но его представительство уменьшилось по сравнению с 1969 на 17 мест. СвДП была вознаграждена за свое участие в коалиции приростом своей фракции в бундестаге (41 место). Решающим фактором на этих выборах оказался международный престиж Вилли Брандта.

Однако левое крыло СДПГ требовало более энергичного проведения реформ внутри страны (некоторые депутаты были в недавнем прошлом студенческими лидерами). Зимой 1974 Германия ощутила на себе последствия мирового нефтяного кризиса. В стране усилилась инфляция, росло число безработных. Социал-демократы проигрывали коммунальные и земельные выборы. В этой тяжелой ситуации положение Брандта сделалось критическим после разоблачения Гюнтера Гильома, личного референта канцлера, оказавшегося восточногерманским шпионом. В мае 1974 Брандт подал в отставку.

Новым федеральным канцлером стал Гельмут Шмидт, министр экономики в правительстве Брандта. Социал-демократ из Гамбурга, Шмидт успешно преодолевал экономические трудности, возникшие в стране. Сократив государственные расходы и увеличив процентные ставки, он сдержал темпы инфляции. К 1975 Западная Германия преодолела кризис, добившись солидного активного сальдо платежного баланса и относительно низких темпов инфляции.

Тем не менее после выборов 1976 блоку ХДС/ХСС вновь удалось сформировать самую крупную фракцию в парламенте, поскольку правительство не могло эффективно справиться с двумя другими проблемами: вспышкой терроризма и отношениями между Западом и Востоком. В середине 1970-х годов группировка "Фракция Красной Армии" ("Rote Armee Fraktion", RAF), известная также под названием "группы Баадер - Майнхоф", совершила ряд террористических актов. В октябре 1977 RAF похитила, а затем и убила Ханса Мартина Шлейера, президента западногерманского союза предпринимателей. Правые во главе со Ф.Й.Штраусом постарались извлечь пользу из этого события, обвинив правительство в неспособности пресечь терроризм, а левую и социал-демократическую интеллигенцию - в поощрении террористов своей критикой капитализма и западногерманского общества.