일본 형사보상의 법제화는 1932년 ｢형사보상법안｣이 통과, 시행되었고 제2차 세계 대전 폐전 후 신 헌법초안에 없던 국가배상, 형사보상을 추가, 새로운 헌법과 형사소송법이 제정되어 1950년 시행되었다. 
일본에서 형사보상의 법제화가 적극적으로 주장된 때는 1914년(다이쇼 3년) 이후이다. 1928년(쇼와 4년)에는 미야코 케이자부로(宮古啓三郞) 의원 등이 발의한 ｢형의 집행 또는 구류에 의한 보상에 관한 법률안(刑ノ執行又ハ勾留ニ因ル補償ニ關スル法律案)｣이 의회에 제출되었으나 입법화에 이르지는 못하였다. 1931년(쇼와 6년)에는 총 19개의 조문으로 구성된 ｢형사보상법안(刑事補償法案)｣이 의회에 제출되었는데, 의회에서의 논의를 거쳐 동 법안이 통과되면서 메이지 헌법하인 1931년(쇼와 6년) 4월 2일에 법률 제60호로 구 형사보상법이 제정된 후 1932년(쇼와 7년) 1월 1일부터 시행되었다. 제2차 세계 대전에서 패한 후 마련된 신 헌법초안에서는 원래 국가배상이나 형사보상에 관한 규정이 없었으나, 중의원에서의 논의 과정에서 국가배상에 관한 제17조와 형사보상에 관한 제40조가 추가되었다. 이를 토대로 새로운 헌법이 제정되고 형사소송법도 새로 제정되었는바, 1949년(쇼와 24년)에 헌법의 취지를 반영해서 새로운 형사보상법이 제정된 후 1950년(쇼와 25년) 1월부터 시행되었다.