일본 수사제도와 운영에 대해 논하기 위해서는 일본 역사와 문화를 살펴봐야 한다. 일본은 시대에 따라 프랑스법의 영향을 받은 치죄법, 독일의 영향을 받은 대정형사소송법, 미국법의 영향을 받은 신형사 소송법을 시행했다. 현행 형사소송법은 미국의 영향을 받아 예심 제도 폐지, 검사와 사법경찰의 상호협력관계, 당사자주의, 영장주의를 도입했다. 
일본의 수사제도와 그 운영에 관하여 논하자면, 일본의 역사와 일본 특유의 문화를 살펴보지 않으면 안된다. 먼저 明治(메이지: 1868∼1912년) 초기에는 프랑스법을 받아들여 예심제도를 특징으로 하는 근대적 형사소송법의 시초인 치죄법(治罪法)을 시행하였고, 메이지 중기에는 독일법 영향을 받은 명치형사소송법(明治刑事訴訟法; 舊舊형사소송법)을 시행하였다. 이어 1922년 기소 편의주의를 특징으로 하는 대정형사소송법(大正刑事訴訟法; 舊형사소송법)을 시행하였다. 舊형사소송법하에서는 검사가 수사의 지휘자이자 주재자로 규정되었다. 제2차 세계대전 이후 일본은 1948년 미국법의 영향을 받아 신형사 소송법을 시행하였다. 현행 형사소송법의 전신인 신형사소송법은 예심제도를 폐지하고, 경찰에게 1차적 수사권을, 검찰에게 2차적 보완적 수사권을 부여하고, 검사와 사법경찰과의 관계를 상호협력관계로 규정하였다. 인권보장과 당사자주의의 요소로서, 묵비권이나 변호인 조력을 받을 권리, 피의자ㆍ피고인의 방어권, 영장주의를 채택하였다. 또한 공소장 일본주의에 의해 수사와 공판을 분리하였다. 이러한 제도는 과거 예심의 수사 대체적 기능, 예심조서의 자유로운 현출에 의한 예심의 공판지배 등을 통한 舊형사소송법하의 규문주의적 성격을 폐지하고자 하는 노력이었다.