海关大楼行政区划上隶属于瑞安市，瑞安市隶属于温州市，海关大楼的下属街道自然村居委会及其地理管辖范围内的企业事业单位也属于温州市。