中國礦業大學的前身是由英國福公司創辦于1909年的焦作路礦學堂，她是晚清時期由外國人在中國開辦的三所私立高校之一和唯一的私立工科高校，同時也是在我國創辦最早并一直延續至今的礦業高等學府，并躋身于中國最早一批近代大學的行列。從1920年代起，學校先后經歷了福中礦務大學、私立焦作工學院的變遷。抗戰爆發，學校先遷陜西西安，再遷甘肅天水，于1938年與東北大學工學院、北平大學工學院、北洋大學工學院在陜西城固合組為國立西北工學院。抗戰勝利后，焦作工學院于1946年在河南洛陽復校，其后又幾經輾轉，遷河南鄭州、江蘇蘇州，于1949年9月遷回焦作原址。

1949年12月，中央人民政府將焦作工學院撥歸燃料工業部領導，1950年3月，又將新開辦的華北煤礦專科學校并入焦作工學院，并以焦作工學院為基礎，在天津建立了新中國第一所礦業高等學府——中國礦業學院。在經歷了天津-焦作兩地辦學的短暫過渡期后，1951年2月，焦作工學院的師生員工及圖書儀器設備全部遷至天津；4月，中國礦業學院舉行成立典禮——學校在焦作辦學的歷史宣告結束。

1952年院系調整期間，北洋大學、唐山交通大學、清華大學的采礦系調整到中國礦業學院，學校因此聚集了全國一流的采礦科學技術人才。1953年，為實現更大的發展，學校整體遷至北京，改稱北京礦業學院，1960年確定為全國重點高校，成為北京學院路著名的“八大學院”之一。“文革”期間，學校遷至四川省合川縣位于華鎣山下的三匯壩鎮，更名為四川礦業學院，在北京原址設立留守處，1978年再次被確定為全國重點大學。

1978年，學校開始搬遷至江蘇徐州辦學，恢復中國礦業學院校名，并在北京學院路原址設立中國礦業學院北京研究生部，1981年成為全國首批博士學位授予單位。1988年，學校更名為中國礦業大學，鄧小平同志親筆為學校題寫校名，1997年成為“211工程”建設高校。1997年，經國家教委批準設立中國礦業大學北京校區。1998年，煤炭工業部撤銷，學校劃歸國家煤炭工業局管理，同年，北京煤炭管理干部學院并入學校，成為學校“北京校區東校園”，形成了“一校兩地三校園”的辦學格局。2000年，學校整體劃轉教育部直屬管理。2002年，中國礦業大學和中國礦業大學（北京校區）兩地黨委分設，次年兩地校長分設。2003年，中國礦業大學（北京校區）更名中國礦業大學（北京）獨立辦學，中國礦業大學和中國礦業大學（北京）成為兩個相互獨立的辦學實體。2004年，成為全國正式擁有研究生院的56所高校之一。2006 年成為“985 優勢學科創新平臺項目”建設高校，2017年成為一流學科建設高校。

學校建設與發展，得到了黨和國家領導人親切關懷。毛澤東同志“開發礦業”的題詞曾激勵著一代代礦大人為事業不懈奮斗；鄧小平同志親筆批示指引學校在改革開放中走上中興之路；江澤民同志來校視察學校科研工作并為我校建校90周年題詞；胡錦濤同志為我校建校100周年發來賀信。