형법은 단편적이고 보충적이며 최후 수단으로 적용돼야 한다. 행정형벌이 작동하기 위해서는 형법상 보호법익을 침해하는 행위여야 하고, 단지 행정행위의 효율성이나 공익성을 저해하는 행위의 경우에는 행정질서벌이 부과되어야 한다.
형법의 중요 가치는 형법은 단편적이고 보충적이며 최후 수단적으로 적용되어야 한다는 것이다. 그를 위해 전통적인 형법은 형벌로 처벌해야 할 법익보호가 있는 경우에 한하여 투입되도록 기획되어 있다. 그에 반해 행정벌은 국가시스템이나 공익을 위해 시민들에게 일정한 의무부과나 행위금지를 요구하고 있으며, 그 실효성을 담보하기 위해 사용되는 수단이다. 그로 인해 행정법영역에서 사용되는 형사형벌에 대한 논의가 치열하게 전개되기도 하였고, 행정형법이란 개념이 요청되기도 하였다. 그에 따르면 시민의 어떤 행위에 대해 행정형벌이 작동하기 위해서는 반드시 그 행위가 형법상 보호법익을 침해하는 행위여야 하고, 단지 행정행위의 효율성 또는 공익성을 저해하는 행위의 경우에는 행정질서벌이 부과되어야 한다. 이는 행정형벌은 반사회성이 높아서 행정목적을 직접적으로 침해하는 행위를 대상으로 하는 것에 반하여 행정질서 벌은 반사회성이 그리 크지 않고 행정목적 달성에 간접적이지만 위험성이 있는 행위를 대상으로 하고 있기 때문이다.