灵官镇桃源村行政区划上隶属于祁东县，祁东县隶属于衡阳市，灵官镇桃源村的下属街道自然村居委会及其地理管辖范围内的企业事业单位也属于衡阳市。