1941年，國民政府教育部新疆教育司擬在甘肅設立多所師范學校，發展民族地區教育。同年秋，甘肅省教育廳決定成立“甘肅省立張掖師范學校”，并于當年開始招生。《甘肅省志·教育志》載：“國立西北師范學校遷往臨夏，原臨夏師范學校遷往張掖，更名為“張掖師范學校”，校址暫定為文廟。1942年，學校由文廟遷往木塔寺，學制四年，招收小學畢業或同等學歷者，稱“簡易師范班”。1945年增設三年制普通班，招收初中畢業生。1942年8月，蔣介石視察張掖，曾巡視張掖師范學校，并撥款維修。至1949年，累計培養小學教師410人。
1949年9月，張掖解放后，人民政府接管張掖師范學校。1950年4月，張掖師范學校與張掖農校、張掖中學三校合并成立“省立張掖聯合中學”，內設師范部、農校部、中學部。
1955年春，甘肅省政府決定恢復張掖師范建制，在張掖縣城北郊清明壇（現體校址）重建校舍。1956年8月學校正式招生，并逐步形成了三年制中師（招收初中畢業生）、三年制初師（招收小學畢業生）和三年制幼師并存的學制格局。這所學校即可視為后來張掖師范學院的前身。
1958年，中共八屆二次會議提出了“鼓足干勁，力爭上游，多快好省地建設社會主義”的總路線，各行各業掀起了“大躍進”的熱潮，學校教育也不例外。同年8月，中共中央、國務院頒布了《關于教育事業管理權力下放問題的規定》，高等院校分中央部委辦、省辦和地方辦學，分級管理。在此背景下，張掖專區開辦了工、農、師范、醫、藝術等五所高等學校。1958年9月，在張掖師范學校的基礎上，合并張掖二中、張掖青東二校，成立了張掖師范學院，校址即今河西學院南區，隸屬張掖地委、專屬，這便是張掖歷史上第一所高等院校。
新成立的張掖師范學院以適應“多快好省地掃除文盲，大力普及教育”的形勢需要，開辦附小、附中、附師、師院教育，形成了小學——中學——中師——高師并舉的多層次教育格局。學院設語文、數學、生化、體育四個專業6個系科及1個幼兒教養員訓練班，教職工30多人。1959年初，既有師范類學生621人，其中中師生415人、高師生226人，學院初具規模。但由于辦學條件差，專任教師少，師資結構不合理，教學水平不高。
1959年，中央召開教育工作會議，確定了“鞏固、調整、提高”的教育工作方針，同年7月，張掖地委、專署按照集中力量辦好幾所專科學校的要求，決定將張掖師范學院附師、附中、附小移交張掖市，將張掖師范學院更名為張掖師范專科學校，仍隸屬張掖地委、張掖專署。
1962年7月，根據黨的八屆九中全會提出的“調整、鞏固、充實、提高”的方針精神和全國教育工作會議精神，張掖地委、專署決定，張掖師范專科學校停辦，其部分教員及全部財產移交張掖師范學校。
1977年8月，黨的十一大召開，教育、科學技術等領域開始清源、撥亂反正。經甘肅省委、張掖地委研究決定，在張掖師范學校基礎上再次恢復張掖師范專科學校，與張掖師范學校合署辦學，實行“兩塊牌子、一套班子”的領導體制。1978年3月，從1977年參加高考的考生中招收中文、數學2個專業四年制本科班（高師班），中文、數學、物理3個專業二年制專科班。同年秋，又招收中文、數學、化學、英語、美術5個專業的二年制專科班。學校積極創造條件，迅速壯大師資和管理隊伍，歷經磨礪的張掖高等師范教育終于步入正軌。1978年12月28日，國務院正式批準恢復張掖師范專科學校。1979年9月，張掖地委、專署決定，師專和師范兩校分設，師專留原址（即今河西學院南區），師范遷至縣城東北角。同年10月，甘肅省決定全省師專為省、地兩級雙重領導，省教育廳主管行政、教學工作。自此，張掖師范專科學校進入了艱苦創業、發展壯大的新時期。
20世紀80年代以后，張掖師專經過管理體制改革，黨政組織機構不斷健全，職責分工逐步明細，專業設置更加合理，學校設有中文、數學、物理、化學、英語、美術等6個專業學科，學制均為兩年。1983年8月，科改為系，另設馬列教研室和圖書館。1985年3月增設政治歷史系，1986年3月增設生物化學系，學制均為三年。
1992年10月15日，張掖師范專科學校更名為“張掖師范高等專科學校”。所有專業的學制逐步改為三年。1993年開始，又陸續增設了一批非師范專業：文秘、專門用途英語、計算機運用與維護、電氣與電器、化工分析、化工工藝、市場營銷、應用電子技術、企業管理、實用美術等，學制均為兩年。這一階段的調整，拓寬了專業口徑，優化了人才培養模式，突破了單純培養師范類人才的辦學格局，為以后的專業改造打下了基礎。
2000年9月，創建于1941年的張掖農校和20世紀80年代的張掖職業中等專業學校并入張掖師專。開設了農學、園藝、農田水利、農產品貯藏與加工、農業機械、植物保護等專業，使學校辦學規模和專業設置得到進一步拓展，為改建河西學院創造了有利的條件。
2000年11月，原張掖師專正式向省政府提出改建河西學院的申請，得到省委、省政府和教育主管部門的高度重視和大力支持。2001年2月25——28日，教育部專家組對張掖師專升本進行實地考察，認為在河西地區設置一所多科性本科院校是合理、恰當的，張掖師專已達到了改建本科院校的標準和條件。2001年5月11日，教育部正式批復成立河西學院。6月19日，河西學院舉行了隆重的掛牌慶典。升格后的河西學院實行省地共建（甘肅省政府和河西五市）、以省為主的管理體制。
經過十余年的發展，到2013年9月，河西學院設15個二級學院，14個研究院(所、中心)，開辦46個本科專業，涉及11個學科，在校學生13960人，有教職工878人，其中教授75人，副教授165人；碩士450人，博士33人；已建成甘肅省應用真菌工程實驗室、甘肅省高校河西走廊特色資源利用重點實驗室、錢學森沙產業中心實驗室、河西文獻學省級重點學科、甘肅省微藻工程技術中心、甘肅省河西史地與文化人文社會科學重點研究基地等教學科研平臺。
2012年11月，張掖市政府與河西學院提出將張掖醫專并入河西學院，組建河西學院醫學院，將張掖市人民醫院作為河西學院醫學院附屬醫院，在此基礎上積極努力創建河西大學的意見，并報省政府。2013年4月19日，甘肅省政府第8次常務會議進行了認真研究，同意將張掖醫專、張掖市人民醫院并入河西學院。2014年3月26日，教育部批復省政府，同意將張掖醫專并入河西學院。2014年9月16日，省政府辦公廳印發《關于將張掖醫專和張掖市人民醫院并入河西學院的實施意見》，2014年12月10日，省政府辦公廳在河西學院召開并入工作會議，原張掖醫專和張掖市人民醫院正式并入河西學院，成立河西學院醫學院和河西學院附屬張掖人民醫院，拓展了醫學教育，構成教育、農學、醫學三大類支柱學科體系，學生規模達到20139人，教職工2500多人，土地面積4000多畝，辦學實力進一步增強。河西學院迎來了建設發展的新階段。
