大泉镇崮岘村始建年代无法考证，南朝（公元467年）时为永福县城。最初隶属建昌郡，后来属徐州彭城郡，县城驻址即今崮岘南一带。古县城在四山之中，地势险要，加上四周林木茂密，易守难攻。宋辽时期，崮岘一带曾为宋军的一个基地。后来因暴发山洪，城池被毁，现崮岘南尚可发现古城遗迹。因为县城消失较早，被称为故县，后逐渐改为岵岘，崮岘。1941年至1942年，藤县第九区（崮岘区）曾驻崮岘乡。1948年崮岘划入阎山乡，乡政府崮岘。1959年划入大泉乡。
大泉庙台子遗址
　　据大泉村商家林碑载：大泉村古曰商州。今泉东村内徐州七中前有一庙台遗址，台高3米，东西长约30米，南北长约60米，上面曾建有白马寺。据载为汉代建筑，曾出土汉代的铜瓦、板瓦和红陶罐明代的砖瓦建筑残片等物。庙南70米处有一泉，传为修建庙台时挖土形成。往年，泉涌如注。近年来，由于地下水位下降和涵养源水量不足，很少开泉。原居住泉东人家把原名丁家库套改为“泉上村”，后分居泉周围的人渐多，泉上村又改名为大泉村。