統計学は、歴史的には、現代の観点では、18世紀に、主権国家が工業化し新たなニーズに応える上で進歩し始めた。統計学の進歩の特に大きな要因として、ヴェストファーレン条約（1648年）後のヨーロッパ諸国の発展と、統計学を強固な理論とした確率論の発展が挙げられる。 初期の頃は、統計学が対象とするデータは、人口統計などの、国家についての情報に限られていた。後に、対象となるデータはあらゆる情報に広がり、データの分析や解釈が発展していった。現代の言葉では、「統計」とは、国民経済計算や過去の気温変化といった集積されたデータと、統計学的推測による分析作業の両方を指す。統計学の手段として、確率論における確率空間が用いられることが多い。特に求められるのはコンピュータのアプリケーションソフトウェアによるデータ処理である。統計学の概念の多くは科学の世界に幅広く重要な影響を与えている。実験計画法や、ベイズ推定といった統計学的推測へのアプローチはこれらに含まれる。これらはそれぞれ現代統計学の基礎となるアイディアの系譜と見なされている。
