玉山乡玉山街行政区划上隶属于遂平县，遂平县隶属于驻马店市，玉山乡玉山街的下属街道自然村居委会及其地理管辖范围内的企业事业单位也属于驻马店市。