통계학은 수량적 자료를 분석하여 이를 통해 미래 예측을 해보고자 이론과 방법을 제시하는 학문이다. 통계학은 이론, 응용 그리고 방법론이 상호보완하여 발전했으며, 다양한 분파로 나뉘지만 독립된 학문영역이라고 볼 수 있다.
통계학은 주변 현상에 대한 수량적 자료를 수집하여 정리하고 분석하는 것으로 관심의 대상이 되는 집단에 대해 조사된 결과로부터 일반성을 찾고 이를 근거로 불확실한 상황에 대한 예측을 하는데 필요한 이론과 방법을 제시하는 학문이다(안수엽, 한동협, 2012). 역사적으로는 17세기에 수학자인 Pascal과 Fermat로부터 발전되어 수리통계학이 확립되었고 자연과학에 국한되어 발전하였다(김홍준 외, 2008). 19세기에 통계학의 대부라고 하는 벨기에의 천문학자 Quetiet는 사회현상과 자연현상을 동일시하여 통계적 사고를 통합하였으나 독일의 사회과학자들은 사회통계와 수리통계로 분리하였다. 1920년대 이후에 추측통계학에 대해 관심을 가지게 되어 자연과학에 더하여 정치, 경제, 사회에서의 소표본을 해석하는 많은 응용이 있었고 Fisher는 모집단의 모수인 모평균, 모표준편차, 모분산 등을 추정하였다(김홍준 외, 2008). 따라서 통계학에서 다루는 분야는 이론, 응용, 방법론 3가지가 유기적으로 상호보완하면서 발전한 것으로 볼 수 있다. 이론통계에는 확률론과 통계적 방법론이, 응용통계에는 선형모형, 시계열분석, 실험계획, 표본설계, 전산통계가 있으며 생물통계, 경제통계, 공업통계, 환경통계, 공식통계 등 많은 분야에서 적용되고 있다(서울대학교 통계학과 홈페이지, 2018). 여러 분야에 적용되는 학문의 특성으로 심리통계, 교육통계, 경영통계 등으로 나누어 볼 수도 있지만 통계학은 그 자체로 독립한 학문영역을 이룬다(이해영, 박준우, 2007).