唐置临汝县，五代周废，明置伊阳县。因与宜阳县同音，1959年改为汝阳县，因县治位居汝河之北，故名。
1996年12月，经省政府批准，撤销上店乡，设立上店镇。1997年，汝阳县面积1325.2平方千米，人口约39.5万人。辖3个镇、12个乡：城关镇、上店镇、小店镇、竹园乡、柏树乡、十八盘乡、靳村乡、付店乡、王坪乡、三屯乡、刘店乡、陶营乡、大安乡、内埠乡、蔡店乡。县政府驻城关镇。
2000年5月，经省政府批准，撤销付店乡，设立付店镇。调整后，汝阳县辖4个镇、11个乡。
2000年第五次人口普查，汝阳县总人口397833人，其中：城关镇55045人、上店镇35000人、付店镇14484人、小店镇44149人、柏树乡22516人、竹元乡10645人、十八盘乡7956人、勒村乡11818人、王坪乡12084人、三屯乡34574人、刘店乡29738人、陶营乡30793人、内埠乡22270人、蔡店乡45684人、大安乡21077人。
2005年，汝阳县乡镇区划调整：撤销大安乡，其行政区域划归内埠乡管辖，内埠乡政府驻地不变；撤销竹园乡，其行政区域划归十八盘乡管辖，十八盘乡政府驻地不变。调整后，汝阳县辖4个镇、9个乡：城关镇、上店镇、小店镇、付店镇、柏树乡、靳村乡、王坪乡、三屯乡、刘店乡、陶营乡、内埠乡、蔡店乡、十八盘乡。
2011年，撤销三屯乡、刘店乡、内埠乡，设立三屯镇、刘店镇、内埠镇。调整后，全县辖7个镇、6个乡：城关镇、上店镇、付店镇、小店镇、三屯镇、刘店镇、内埠镇、柏树乡、十八盘乡、靳村乡、王坪乡、陶营乡、蔡店乡。