西汉高祖四年（前203年），置汝南郡。治所在上蔡县（今河南省驻马店市上蔡县西南），辖境相当今河南省颍河、淮河之间，京广铁路西侧一线以东，安徽省茨河、西淝河以西、淮河以北地区。唐乾元元年（758年），改汝南郡为豫州。