西汉高祖刘邦四年(戊戌，公元前203年)置郡，治所在上蔡(今河南上蔡)，当时其时辖地在今河南省颍河、淮河之间、京广铁路西侧一线以东、安徽省茨河、西淝河以西、淮河以北，包括偃城县、上蔡县、平舆县、项城县一带地区，治所在上蔡(今河南上蔡)。东汉时期(公元25～220年)移治至平舆(今河南平舆)。
