重要的是在行省的区划方面实行犬牙相入(即犬牙交错)的策略，不使任何一省具有完整的形胜之区，这一方面将在第五章中再详加叙述。
(2)明清及民国初年对政区层级的简化
元代行政区划层次的繁复还有一个重要的原因，那就是元帝国疆域过于广袤，而作为第一级政区的省，地域范围区划得过大。行省区划太大，意味着省以下的政区管理幅度也大，若不增加层次，则无法维持合适的管理幅度。明清两代随着行省划小，政区层级也逐步简化。
元代行省数目太少，初期只有六个行省和一个中书省，中期也一共只有11省。以强大的中央集权政府而只管10个左右行政单位，幅度显然太小；另一方面，以一州而只辖一县或不辖县也不明智。至于二级制的存在，以省领路、领府或领州，以下再不设基层政区，当然也不合理。因此元亡明兴以后，减少行政区划层级自然成为首要的任务。其具体措施是，取消五级制和二级制的特例，撤销路的建置，改路为府，将州分为直隶州与属州(也称散州)两层，于是形成以下的层级关系：
其中府与直隶州同为第二级，州为第三级，只有县或为第三级或为第四级。这种简化提高了行政管理效率，也是明代行省幅员划小的直接后果。明代把大约相当于元代岭北、辽阳(约今东北及其北俄罗斯地)以外的九省版图分成两京13布政使司(俗称15省)，如中书省就分成京师、山东、山西三省。幅员缩小，管理幅度减少，层次也就相应简化(图8)。
图8 明代分省图
明代学习宋朝的办法，将最高一级的地方权力分在都指挥使司、布政使司和按察使司手中，将布政使司作为第一级地方行政区划的名称。都布按三司的区划基本一致，但也有些出入，如东北地区设有辽东都司，却不置布政使司，同时山东按察使司则兼管山东布政使司和辽东都司。这种复式的区划显然也是宋代的遗风。明代三司分立以及各司区划的不完全一致，起了遏制地方分权过大的作用。虽然三司的权力比宋代诸监司的权力为大，但在处理地方事务时仍无足够专制一方的权力，因此后来又有巡抚总督制度的产生。
巡抚、总督是由中央派出的官员，在一定的时期内可以集中节制一省部分地区或全省的权力，也可兼制数省，尤其是对各省交界地区的治安更起重要作用。明代后期地方多事，巡抚、总督渐渐变为常制，甚至凌驾于原来行政区划之上，成为一套新的督抚辖区。
清代将总督、巡抚变为固定官职，将督抚辖区调整到与省的范围相一致。康熙时又将明代的15省析置为18省，雍正时进一步将明代复式的三四级政区层次完全简化为单式的三级制，即：省—府—县。与府同级的除直隶州外又有直隶厅，与县同级的则是散州和散厅。这样，从元代开始的复式层级关系的行政区划又回到单一整齐的形态。但是清代是统一的多民族大帝国，疆域辽阔，人口众多，比汉唐时期已大不相同，行政区划层级也只能简化到三级为止，进一步的简化已不可能。不但如此，三级制的层级在管理幅度上仍嫌过大，因此省以下还分设巡道和守道，作为省的派出机构，以分管诸府、直隶州(图9)。
图9 清代分省图
中华民国建立之初，一改清代之制，裁府撤州，以道作为省县之间的一级政区，成为省——道——县三级制。但是民国初年的道并未真正起到行政区划的作用，只是省县之间的公文承转机构，而且每省只分成三四道、四五道而已，没有实际的区划意义。因此南京国民政府成立以后，干脆把道一级也取消了，完全恢复到与秦代郡县制类似的省县二级制。这显然是加强中央集权的措施。于是从元代开始至20世纪20年代，行政区划层级走过了从多级制到二级制的简化历程，恰与前面两个从二级制向三级制繁化的循环完全相反。
但是民国初年的形势已与2000年前的秦代完全不一样了。省的数目只有秦郡的3/5，而县的数目已达秦县的一倍。每省所直辖的县有数十上百，管理幅度显然过大，于是在二三十年代之交，随着“剿共”的政治需要，国民党政府在江西省首先分区设行政督察专员，不久各省照此办理，形成省—专区—县的虚三级制，这一体制为中华人民共和国所继承，后来又改专区为地区，但这种分区始终不作为一级正式政区。