公元前221年，秦始皇统一中国，实行郡县制管理。在汝州西部置梁县，归三川郡管辖。汉元年（公元前206年）将三川郡改为河南郡，梁县归属河南郡。公元1368年，朱元璋建立明朝，将梁县省入汝州。