1963년 에르하르트는 새로운 총리로 선출됐지만 기민당을 장악하지 못했고 결국 1966년 연립정권이 들어서면서 자리에서 물러났다.
 1963년 10월 16일 에르하르트는 새로운 총리로 선출됐다. 하지만 아데나워의 우려는 현실이 됐다. ‘경제학자’이지 ‘정치인’은 못 된 에르하르트는 기민당을 장악하지 못했다. 고만고만한 지도자들이 끊임없이 에르하르트의 자리를 넘봤다. 정부 내에서는 프랑스 등 유럽 국가들과의 관계 개선을 더 중시하는 그룹과 갈등을 빚었다. 국민들은 눈부신 경제성장에 상응하는 더 많은 복지를 요구했지만, 에르하르트는 “국가는 하늘에서 풀을 뜯고 땅에서 우유를 짤 수 있는 그런 소가 아니다”라고 대꾸했다. 무엇보다도 1949년 이래 17년을 집권해온 기민당·기사당 정권에 대한 국민의 피로도가 높아지고 있었다. 당내(黨內)에서는 산적한 위기를 극복하기 위해 사회민주당과 대연정(大聯政)을 구성해야 한다는 소리가 높아졌다. 결국 1966년 12월 기민당-사민당 연립정권이 들어서면서 에르하르트는 자리에서 물러났다.
 에르하르트를 좋아한 언론인 요하네스 그로스는 이렇게 말했다.
 “에르하르트 이후 우리는 정치가 인품에 해로울 뿐만 아니라, 인품도 정치에 해로울 수 있다는 사실을 알고 있다.”
 1966~1969년 기민당-사민당 대연정을 이끈 제3대 총리 쿠르트 게오르크 키징거(1904~1988년, 재임 1966~1969년)는 한국인에게는 생소한 인물이다. 그는 독일인 사이에서도 아데나워와 빌리 브란트 사이에 묻혀 거의 기억되지 않고 있다. 굳이 기억하자면, 그는 1966년 11월 7일 기민당 전당대회장에서 여성 언론인 베아테 클라르스펠트에게 따귀를 얻어맞은 사실이 있다.
