汉朝时期实施郡县制度以后,先后又有许多以丹阳为名的郡和县。丹阳郡始建于西汉朝元狩二年(庚申,公元前121年),是由原豫鄣郡改置,治所在宛陵(今安徽宣城),下辖十七县,辖境相当于今安徽省长江以南,江苏大茅山及浙江省天目山脉以西、浙江省新安江支流武强溪以此地区。三国时期孙吴国移治到建康(今江苏南京),以后辖区缩小。到了南北朝的后魏时,又在河南省项城县的东北置了一个丹阳郡。