행정법은 추구 목적과 의무 이행 확보를 위한 제재 수단 사이에 상관성을 가지면서 가변성을 가진다. 행정 질서 벌과 행정 형벌은 법규 중요성과 입법 재량에 따라 구별되기도 한다. 행정 형벌은 공공의 이익과 질서 유지를 위한 목적에서 해당 법률에 명시된 사항을 위반한 자를 벌하는 것이라는 점에서 기술적 배경에 규율되기도 한다.
일반적으로 행정 법규는 그것이 추구하는 행정 목적과 의무 이행 확보를 위한 제재 수단 사이에 상관성을 가지면서 사회적 행정 수요의 변화에 따라 가변성을 가지고,사회적 인식에 따라서 행정 법규에 의한 의무 부과의 정당성을 달리 한다  그리고 행정상 의무 이행 확보 수단으로서 행정 질서 벌과 행정 형벌을 구분하고 있는 바, 전자는 행정 상 의무를 부과한 행정청이 그 이행을 자력으로 과벌 하는 수단이지만 후자는 형법의 일종으로, 과거에는 위반 행위의 성질에 착안하여 구별하였지만 최근에는 위반된 법규의 중요성에 근거한 입법 재량에 따라 구별하기도 한다. 또한 행정 형벌은 공익과 사회 질서 유지를 위한 목적에서 당해 법률에 규정된 금지 사항을 위반 한자를 벌하는 것이라는 점에서 공익 보호, 행정 질서 유지, 이해관계 조절과 같은 기술적인 배경에서 규율 된다. 뿐만 아니라 양자의 차이로서 행정 형벌은 개인적 내지 사회적 법익을 보호하는데 그 목적을 두고 있는 반면, 행정 질서 벌은 행정 의사에 위반하는 행위 만으로 과벌하는 형식적 요소를 중시한다고 주장하면서, 전자는 행위자의 주관적 인식과 책임성을 강조하는 반면, 후자는 객관적 행정 질서의 위반 여부를 가벌성을 판단하는 주된 요소로 보고 있다고 구분하기도 한다.