조선 시대에 왕이 암행어사를 활용하여 지방행정을 감독하는 행정옴부즈맨제도가 존재했지만, 현대의 옴부즈맨제도는 스웨덴 의회가 임명한 의회옴부즈맨에서 시작되었다고 본다.
우리 역사에서는 왕이 암행어사라는 옴부즈맨을 통해 지방행정을 감독하는 행정옴부즈맨제도(administrative ombudsman)가 조선 시대부터 존재했다. 하지만 전 세계적으로 통용되는 현대적 의미의 옴부즈맨제도는 스웨덴 의회에서 임명한 의회옴부즈맨(parliamentaryombudsman)에서 유래되었다고 보는 것이 일반적이다. 즉, 1809년 스웨덴 의회가 헌법에 국왕이 행정권을 갖고 의회가 입법권을 갖는 것으로 규정하고, 국왕의 전횡을 막고 행정 관료의 권력 남용으로부터 시민의 권리를 보호하기 위해 의회가 옴부즈맨을 임명한 것이 현대적 옴부즈맨제도의 기원으로 보고 있다.