泰山學院圖書館前身是1958年建校的泰安師范專科學校圖書館。2001年，原泰安師范專科學校、泰安教育學院、泰山鄉鎮企業職工大學、泰安廣播電視大學、泰安師范學校（1905年創辦的泰安府官立師范學堂）合并整體遷入現址。原五校圖書館也相應合并成為泰山學院圖書館。2011年，泰山學院南校區啟用，同時設立南校區圖書館。
圖書館設有綜合事務部、資源建設部、流通閱覽部、技術保障部、特藏文獻部、南校區讀者服務部等部室，是山東省古籍保護重點單位、山東省高校圖書館管理先進集體。
學校館藏圖書文獻門類齊全，紙質資源與電子文獻資源互補。目前，館藏紙本文獻160.29萬冊，中外文期刊2074種；電子圖書80.5萬冊，各類數據庫資源60個。
圖書館實行“藏、借、閱、網”一體化全方位開放式管理。開放借閱室11個、電子閱覽室2個、自修室2個，閱覽座2016席。電子資源實行24小時開放，圖書借閱室、電子閱覽室、自修室周開放時間平均達到了96小時以上，2018年，圖書流通量13.9萬本次，電子資源訪問量達48.5萬次。為加強學科專業建設，設有17個專業資料室。
高度重視地方文獻建設，努力創建泰山文獻資源收藏服務中心。泰山是世界首例自然和文化雙遺產，博大精深的泰山文化為圖書館文獻資源建設提供了極為豐富的建設內容。長期以來，通過多種渠道、多種措施收集整理了集文學、文化、名人、歷史、民俗、宗教、旅游等各類泰山文獻2800種、5000余冊，建立了泰山文獻目錄、泰山文化名人、泰山封禪祭祀等特色數據庫。為保護和傳承泰山文化、服務地方經濟社會發展發揮了積極作用。
加強古籍文獻的收藏與保護，積極開展古籍整理與研究工作。泰山學院有上百年的辦學歷史，積累了較為豐富的古籍文獻，目前館藏古籍1200種、13000余冊，其中善本252種1814冊。主要包括明清刻本、名家稿本、影抄本、拓片、批校本及明清時期的地方文獻等，特色館藏以經部小學類為最，另有集部別集類善本多種，已入選山東省珍貴古籍名錄29種。
弘揚改革開放精神，加強愛國主義教育基地建設。2010年7月，經萬里委員長本人同意，將校本部圖書館命名為“萬里圖書館”，全國政協原主席李瑞環、全國人大原副委員長田紀云分別為萬里圖書館題寫了館名。館內不僅收藏了一大批記載著萬里委員長與中國革命與建設、改革與發展相關的重要文獻，還搜集、整理了大量關于中國農村改革與發展的珍貴資料與圖片，設有“萬里與中國農村改革發展文獻圖片展”并長期進行展覽，年接待參觀者近兩萬人次，大大增強了圖書館的育人功能，是山東省、泰安市社會科學普及教育基地。
