小铁路胡同行政区划上隶属于辉县市，辉县市隶属于新乡市，小铁路胡同的下属街道自然村居委会及其地理管辖范围内的企业事业单位也属于新乡市。