河南省驻马店市遂平县玉山镇行政区划上隶属于遂平县，遂平县隶属于玉山镇，河南省驻马店市遂平县玉山镇的下属街道自然村居委会及其地理管辖范围内的企业事业单位也属于玉山镇。