독일은 연방국가를 이루면서 검찰체제도 분리됐다. 나치 시대 이후 서독은 연방체제, 동독은 중앙집권체제로 운영되다가 통일 후 연방체제가 구축됐다. 이에 검찰조직도 지금까지 이원화돼 있다. 연방검찰청은 특정 업무만 처리하고 일반 형사사건엔 주검찰청이 관할권을 가진다.
독일은 프로이센이 독일을 통일하여 독일제국이 성립되며 연방국가를 이루었고, 이에 검찰체제도 연방과 주로 분리되었다. 나치시대에는 중앙집권화 되어 단일한 국가검찰체제가 도입되었으나, 이후 제2차 세계대전 종결 후에 서독에서는 바이마르 체제를 바탕으로 연방체제로 복귀하였고 동독지역에서는 중앙집권체제로 운영되다가 독일 통일 후 다시 독일 전역에 연방체제가 구축되었다. 이에 검찰조직도 연방검찰과 주검찰로 이원화되어 오늘에 이르고 있다. 연방검찰청은 법원조직법 등에 규정된 특정한 사항, 예컨대 국가보안 관련사건, 연방법원에 계류 중인 상고사건, 주검찰청 간의 관할쟁의가 있는 경우 관할검찰청의 결정 등의 업무만 처리하며, 주검찰청의 상급기관이 아니다. 일반 형사사건에 대하여는 주검찰청이 관할권을 가지므로 주검찰청이 독일검찰조직의 근간을 이루고 있다. 독일연방과 각 주의 법무부와 검찰 조직은 서로 독립적이므로 연방법무부장관이나 연방검찰총장은 주법무부나 주검사들에게 지휘･감독권이 없다.