边界的概念也是随着行政区划的产生而出现了的。西周的分封，所建立的是据点式的城邦国家。星罗棋布的邦国呈点状分布，各国之间存在大块无主的土地和田野，并无明确的边界。这种情况即使在中原地带也不例外，例如宋郑之间直到春秋末期，还有隙地六邑，两国都未曾占有，这时距两国初封已有整整600年之久了。
又如，公元前672年，秦国出兵攻打郑国，中途经过晋、周（周天子直属区）二国，如入无人之境。不但晋、周不加干涉，郑国也没有得到一点消息，直到临近郑国边境，才被郑国商人弦高发现，弦高急中生智，赶忙以犒军的名义稳住秦军，一面派人回国通知，做好战备，才避免了遭到突然袭击的厄运。这个故事也说明在当时，列国之间存在着大量隙地是很正常的现象。
战国时期，边界的概念已经完全形成，城邦国家已经转化为领土国家。当时，各国之间攻城略地，目的就是扩大自己的疆域，边界概念自然十分明确。
与列国之间边界概念形成同步，郡、县之间也一样有边界产生。郡既建在边地，与他国相接，则分段来看，国界也包含着郡界，更小的分段就是县界。在列国内部，由于生产日进，土地日辟，城邑与城邑之间的空地也随之消失，郡与郡之间，县与县之间也有了明确的界限。到了汉代，连田畴阡陌都要画到地图上，以作为划界的依据。
这时就产生了如何划界的问题。在战国七国争雄的时候，这个问题还不突出，因为战争频繁，国界经常变动，疆域时伸时缩，通常国与国之间，郡县与郡县之间，就直观地以山川为界。而且当时郡县制正在形成，也来不及设计完善的划界规则。
秦始皇统一中国后，划天下为36郡，如何划定行政区域界线的问题就提到了议事日程上来了。政区本来就是为着中央集权制国家行政管理的需要而设置，其划界当然要以对集权统治有利为原则，但在另一方面，农业经济的发展又是维持政权统治的基础，政区边界的划定也要注意使政区与地理环境一致。在这两种思想的指导下，就出现了犬牙相入和山川形便两条相互对立的划界原则。
在中国历史上，这两条原则是同时并用的，开始是以山川形便为主、犬牙相入为辅，但越到后来，犬牙相入的原则越占上风，这一点反映了中央对地方的控制愈来愈紧，中央集权程度愈来愈强的客观事实。
山川形便原则的运用
山川形便的意思就是以天然山川作为行政区划的边界，使行政区划与自然地理区划相一致。
山川形便的原则是最自然最直观的原则，所谓“州郡有时而更，山川千古不易”，正是表明了山川对于政区的重要标志作用。尤其在高山大川两边的地域，往往具有不同的地貌、气候和土壤，形成不同类型的农业区，也形成不同的风俗习惯。
古人早已注意到这个问题。《礼记·王制》中说：“广谷大川易制，民生其间者易俗。”因此，采用山川形便的原则意味着政区的划分是在物质文化和精神文化同一化的基础上进行的。
高山大川除了造成地域上的差异外，在古代又成为文化传播的天然障碍，因此以山川为界是世界各文明古国的通行原则。只有近代形成的移民国家，如美国、加拿大和澳大利亚，非洲的殖民地，才不顾山川之隔而以经纬度作为划分州界、县界和国界的依据，使得大部分国州县界都是横平竖直的几何线条。但即便如此，以山川为界的原则也没有完全丢弃，美国东部13州的界限就是明证。
在我国，山川形便的原则和边界概念的形成是同时出现的。春秋战国时期，列国之间的边界已以山川作为标志。《尚书·禹贡》中的九州划分，就是以高山大川为界限的。秦始皇一统海内后，分天下为36郡，也以山川作为政区划界的基本依据。
汉郡的幅员比秦郡缩小了许多，又因为后来分割蚕食王国领域的结果，使得部分郡与山川界线不合。东汉魏晋以后的郡国是在西汉的基础上调整的，因此边界与山川大势有相当程度的背离。不过两汉魏晋的州界比起郡国边界来，要符合山川界线一些。但是南北朝以后，州郡不断分割，幅员直线下降，政区划界已无一定之规。
隋代一革前朝之弊，不但简化层级，省并州郡，而且郡界也多以山川形势而定。唐代开国后，正式提出山川形便的原则。太宗元年，省并州县，又因山川形便，分天下为十道。唐代的州幅员比隋郡小，但州界也多与山川的走向相一致。300多州分为10道，这10道又与自然地理区域相符合，这样双重的符合关系对后世的影响很大。一方面，10道后来分成15道，到唐后期又演化为47个方镇，其中南方一些方镇奠定了今日皖、浙、闽、赣、湘、粤、桂等省的部分或全部边界。另一方面，唐代的州界有许多延续下去，成为宋代州(府)、元代的路和明清的府的边界，长期稳定达数百上千年之久。
虽然实行山川形便的原则有经济上的需要和文化上的益处，但对中央集权制而言有一个很大的弊病，那就是完全以山川作为边界的政区，会形成一个完整的形胜之区、四塞之国，如果这个政区的幅员足够大，而政区长官又有一定权力的话，就可能出现凭险割据的现象。
由于山川形便原则是促使地方割据的一个重要因素，因此从秦代开始，统治者便有意识地采用犬牙相入的原则与之相抗衡。隋唐时期之所以强调山川形便原则，是因为隋郡尤其是唐州比秦郡小了许多，即使州郡之界与山川相符合，也不可能造成割据。但即使这样，犬牙相入原则也没有完全放弃。元明清时期，这一原则更是发挥的淋漓尽致，致使部分行政区划与自然地理区域相背离。
犬牙相入原则的萌发和发展
犬牙相入的原则萌芽于秦始皇时期。秦始皇征服岭南地区后，为了维护高度中央集权制，已开始采用犬牙相入原则，以严密控制地方。这一措施在当时是十分必要的，因为岭南地区离统治中心过于遥远，又是花了很大气力才最后征服的领土，尽管派了50万戍卒前去守卫，但是若不用犬牙相入的手段，一旦有事，该地还是很容易脱离王朝版图的，后来的事实证明当时的预见是正确的。秦代设计的犬牙相入方案，不但使长沙郡的桂阳县深入岭南，还使象郡的镡城县越过岭北。这一状态，使后来汉武帝的军队得以在短时间内，就一举击败南越国抵抗，将岭南地区重新统一到汉王朝中。
秦代划分郡界的基本原则是山川形便，又在局部地区辅以犬牙相入的原则。但后一原则的实行只是使郡界和山川的走向不完全吻合而已，并非与之完全相背离。秦代的岭南地区依然保持其自然区域的大致完整性。
犬牙相入的原则不但应用在山地，到汉代也应用在平原地带；不但用于郡与郡之间，也用于王国与王国之间，其目的是为了使各王国相互牵制，共同维护汉王室的稳固。这一策略在吴楚七国叛乱时也起了作用，使中央政府得以迅速平息叛乱。
秦汉时期萌芽的犬牙相入原则为历代所沿用。即使隋唐大部分州郡都遵从山川形便的原则下，犬牙相入的措施也并未完全丢弃。如扬州，隋炀帝时改为江都郡，该郡就地跨长江南北；临川郡境也踞武夷山之东西；唐代的陕州也地跨黄河两岸。唐初的道严格以山川划界，但中期有所调整，但犬牙相入的并不是很多。
安史之乱后，唐朝在各地遍设方镇，这时朝廷开始考虑以犬牙相入的原则以控制方镇。但是，唐代后期犬牙相入的方镇也还为数不多，多数方镇还是与山川形式大体一致的。因此从秦到唐，犬牙相入的原则还一直处于从属地位，宋代以后，犬牙相入原则使用得更为普遍。
宋代跨越重要山川的州府比唐代要多，路也比唐代的道更偏离山川形便的原则。两汉的豫章郡和唐代的江南西道和今天的江西省几乎相等，是一个比较完整的地理单元，在宋代则将其一分为二，东北部归江南东路，其余部分与湖北东南角组成江南西路。北宋河东路缺西南一角，却又在西北方面越过黄河，有河西之地。
凡此种种，说明犬牙相入的原则正在起质的变化。秦代犬牙相入出入不过一二县、二三县之地，到宋代出入已达两三州、三四州的程度。总之，宋金时期，出于加强中央集权的需要，已发展了犬牙相入原则，但最根本的变化还是在蒙元建立之后。
犬牙相入原则的极端化
元代是犬牙相入原则发生转折性变化的时期。无论是作为高层政区的行省，还是降为统县政区的路，犬牙相入的原则都走向了极端。
元代的路就边界而言，南方的许多路以山川为界，而河北、山东地区的路却极端犬牙交错，以致产生了许多飞地。
最能体现犬牙相入原则极端化的实例是行省的划界。元代的行省面积广阔，加上行省长官握有军、民、财政大权，加上行政区划层级既多且复杂，为了防止分裂割据的现象发生，唯一的手段只有利用犬牙相入的原则，使得任何一个行省都不能成为完整的形胜之区。
例如，陕西行省越过秦岭而拥有汉中盆地；湖广行省以湖南、湖北为主体又越过了南岭而有广西；江西行省也越过南岭而有广东；河南江北行省则合淮水南北为一体；中书省跨太行山东西两侧，而兼有山西高原、华北平原和山东丘陵三种不同的地理区域；至于江浙行省，乃从江南平原逶迤直到福建山地；只有四川行省稍成四塞之地，但其北面屏障秦岭并不属于该行省，难以养成长期割据的气候。
行省这样划分就使所有凭借山川之险的因素完全消解。因此，元代行省幅员虽广，分权虽大，但是缺乏实行割据的地理基础，也就不易产生分裂局面。元省的划界方法与唐道完全相反，唐道的分划是以横向为主，元省的分划却以纵向为重。
明朝建立后，对元省存在的一些弊病加以改革，但并不是放弃犬牙相入的原则，而是从另一方面造成新的犬牙相入。明代建立两京十三布政使司后，元代犬牙相入之区只留下陕西一省，但是新的犬牙相入形势又产生了。
典型的例子是南京、河南和贵州三省。朱元璋以金陵和老家凤阳为中心，划出一个包括淮北、淮南和江南三部分不同地域的16府4直隶州的大南京，其西北角离北京南端不过100多公里，这是史无前例的举动。南京的设置使邻省浙江相形之下显得过于局促，一共只有九府之地。于是后来将嘉兴、湖州两府割给浙江，但这样一来，再次违背了山川形便原则，使太湖流域分属两个高层行政区划，而历史上太湖流域历来处于单一的高层政区之中，从秦汉历隋唐至宋元不变。南京属下的府也呈犬牙相入的现象，如应天府地跨长江南北，凤阳府领踞淮河两岸。
明代建立河南省时故意使之有黄河以北的属地，以和后来的京师南界成犬牙相入状态。这条界线几经调整，直到解放后才由曲线状态变成直线，但河南省兼有河北地的现象依然存在，解放初曾以之为主体一度建立过平原省。
贵州省是明永乐十一年（1413年）分湖广、四川、云南三省部分地区所置。明代贵州省的边界十分特殊，其北面省界向内凹进一大段，四川省属地如同一把尖刀直插入贵州的腹心。遵义及其附近地区当时都属四川所有，而非贵州属县。这样划界显然是为了控制新建省的需要，直到清雍正年间，贵州省才形成今天的完整边界。
清代省界基本沿袭明代而来，没有大的变动，只是在南京、湖广、陕西三省一分为二时确定两个新省的界线而已。陕西分置甘肃省，以延安、西安、凤翔、汉中四府的西界为省界；湖广分置湖南、湖北两省，以原岳州北界为省界，都不费什么思量。只有江南省分置江苏、安徽两省时有所考虑，并没有采用历史上的横向划分、以符合自然地理区域的做法，而是竖切一刀，将其分成东西两半，使皖苏二省都包括淮北、淮南和江南三部分地域。
中华人民共和国建立后，成立的，也是在新疆边境地区形成犬牙相入的分布态势。
