南京體育學院建立在原民國中央體育場舊址之上。中央體育場，1931年開工建設，1933年原民國第五屆全運會在此舉辦。“中國奧運第一人”劉長春在此創造了舊中國100米、200米短跑的全國紀錄。1945年，中華民國政府曾依托中央體育場，申辦第15屆奧運會，瑞士洛桑國際奧委會總部至今仍保存著申辦材料。民國時期，這里是政要名流體育休閑的場所。

1956年，南京體育學院的前身——南京體育學校在此建立。1958年，南京體育學校與江蘇師范學院體育專修科、江蘇省體育干部訓練班合并建立南京體育專科學校，同年更名為南京體育學院。1975年撤校建江蘇省體育工作隊，1978年恢復建校，1980年再度恢復高考招生。