국무총리 관련 기구는 제헌헌법 당시 없다가 제2공화국때 설립되었다. 현재와 같은 보좌기관은 각령 제 681호에 의해 국무총리비서실 직제를 제정한 후 생겼다. 이후 김대중 정부에서 정무장관실을 이관받고 사무분장규정이 제정되었다.
제헌헌법은 대통령중심제를 채택하고 부통령과 국무총리를 모두 두는 형태를 제시하였는데, 당시 국무총리를 보좌하는 기구는 없었고, 국무총리 하에는 총무처, 공보처, 법제처, 기획처가 포함되어 있었다(대한민국정부, 2014: 3). 이후 국무총리 보좌기관이 생긴 것은 내각책임제를 시행한 제2공화국 때였다. 그러나 오늘날과 같은 대통령제 하에서 국무총리 보좌기관이 생긴 것은 1963년 12월 16일 각령 제681호에 의해 국무총리비서실 직제를 제정한 이후였다(대한민국정부, 2014: 3; 이재원, 2014: 185). 1998년 2월 28일 김대중 정부하에서 국무총리실 조직이 개편되는데, 정무장관실이 폐지되면서 그 기능이 국무총리비서실로 이관되었다(대한민국정부, 2014: 3). 이듬해인 1999년 5월 28일에는 국무총리비서실 훈령 제1호로 사무분장규정이 제정되어 정무수석과 민정수석, 공보수석의 관장사무를 규정하였다.