明朝嘉靖二十三年(1544年),理學大師湛若水(號甘泉)在南嶽衡山紫雲峰下衡岳寺廢址上築樓建宇,名為「甘泉精舍」。因湛若水曾在此講學,後人又稱之為「甘泉書院」。1935年長沙岳雲中學在其故址上興建分校教學樓。2003年教學樓被拆,興建圖書館。