泗洲城始建于北周，隋朝时毁于战乱，唐代重新兴建。由于泗洲城地处淮河下游，汴河之口，为中原区域之襟喉，南北交通之要冲，政治、经济、军事地位十分重要，加之漕运事业日渐兴旺，泗洲城所傍的汴河对岸又建设了一座新城，新城的发展更快，其规模逐渐超过老城区。明代，两城之间的城墙拆除，使两城合二为一，为防水害，将唐、宋时建筑的土城撤去，更以砖石，成为现今国际上保存较为完整的一座原汁原味的地下(水下)古城。
古泗洲城自唐玄宗开元二十三年（公元735年）建成以来，因其南北会要、依山俯淮、风光旖旎，一直是名城重镇。宋代，泗洲城已十分繁华，历史上称为“奔驰马骤无间时”，加之景色秀丽，文人墨客无不慕名前来，留下了许多著名的诗篇。唐代的崔灏、李白、白居易，北宋的苏轼、林逋、范仲淹、王安石等都曾在泗洲流连，写下吟颂的词章。如苏轼《如梦令•自净方能净彼》：自净方能净彼，我自汗流呀气。寄语澡浴人，且共肉身游戏。但洗，但洗，俯为人间一切。
泗洲城在宋朝是鼎盛时期，其时城中有15条街道，34条巷，住户9000余，人口3.6万多人，有宫衙建筑11处，儒学建筑8处，医学建筑2处，桥梁16座，寺、庙、庵、观、祠等55处及众多的坛、塔、堂、亭、楼、阁、表、坊、碑、碣等。城内街道整齐，房舍密集，人们往来不断,商贩不绝于旅。
明代，泗洲城水网密集，交通便捷，城中船舶如流，店铺林立，商贾云集，酒肆林立，繁华堪比苏杭，其鼎盛的原因除了经济原因外，还有一个重大的政治背景，即朱元璋的祖陵建其北侧，每年的各类“祭祀”活动使泗洲城成为朱明王朝的“行宫”，达到了空前的繁荣。
由于古泗洲城是一座历史悠久、古迹众多的名城古镇，加之古泗洲城曾是我国历史上著名的佛教圣地，全国五大名刹之一的“僧伽塔”就建在泗洲城内(《西游记》中观音大士的化身即“僧伽大师”)，使泗洲古城成为历史上的名州古城。
泗洲城还是佳酿宝地。洪武年间有山西酒商，取泗洲池水酿酒，酒水甘冽醇厚，深受商贾及官员喜爱，名声远播，正门挂牌：“泗洲池”佳酿。清康熙十九年，繁盛了千年的泗洲城在持续数十日的暴雨中淹没。众多酒坊被迫迁址，酿酒师也各自散去，后在洪泽湖周边的泗阳、泗洪、盱眙一带创立了很多的酒坊。经过300多年的传承发扬，造就了大批传世淮上名酿。