玉山乡玉山村行政区划上隶属于遂平县，遂平县隶属于驻马店市，驻马店市隶属于河南省，玉山乡玉山村的下属街道自然村居委会及其地理管辖范围内的企业事业单位也属于河南省。