군인이 투입되며 전투력이 강화된 의병부대는 소규모 조직을 유지하며 지형을 활용한 전투를 벌였다. 일제가 의병과 관련된 모든 자를 학살하며 강압하자 의병운동은 점차 줄었다. 결국 다수의 의병들은 만주지방으로 망명한 후 항일 운동을 지속했다.
이후 의병의 전열이 재정비되면서 전투력이 강화되었다. 군대 해산 뒤인 1908~1909년 사이에 의병은 일본군과 빈번히 전투를 벌였다. 의병부대 규모는 1907년에는 대부대 위주였으나 1908년 이후 소규모의 부대로 움직였다. 대규모 전투가 현실적으로 어려웠기 때문이다. 현지의 지형을 활용하여 의병들은 곳곳에서 유격전을 벌였다.
이처럼 치열하게 전개된 의병운동에 대해 일제의 무자비한 탄압이 가해졌다. 조선주차군이라 불리던 일본군이 투입되어 잔혹하게 의병들을 탄압하였다. 의병운동에 참가한 이들은 물론, 그 가족들과 그들에게 식량과 물자를 제공한 이들까지 처참하게 학살하고 가옥에 방화하는 등 만행을 저질렀다.
이후 의병은 숫자가 크게 줄어들고 의병운동은 소강 상태에 빠졌으나, 일부는 1914년까지 그 맥을 이어 의병운동을 전개하였고, 대부분은 만주지방으로 망명하여 무장 독립군에 합세, 끈질긴 대일 항전을 계속하였다.