既然土司建立起来只是为了缓冲矛盾，所以土司制度必然不可能长期存在，其实从明朝开始，设置了一千零七十八家土司土官，但是明朝开始“改土归流”就已经开始推行,所谓的改土归流就是，王朝不再对非汉民族地区实行间接统治，而改为直接统治。
明代改土归流政策推行并不彻底，真正大规模的推行，是在清朝。雍正三年，发生的长寨事件，云贵总督高其倬于长寨地方仲家族村寨（今贵州贵阳府广顺州）建立营房，遭到攻击。
雍正四年，云贵总督鄂尔泰上书，阐述改土归流的必要，开始了改土归流的改革进程。将世袭的土司改为由朝廷科举任免的流官，所谓流官，是指任职者来来去去、不断流动的意思。同年五月，首先平定贵州长寨土司，设立长寨厅(今贵州长顺)。为了推行改土归流的政策，清朝发动了对少数民族的多次战争，但是土司制度直到清朝结束也没有完全消失。
羁縻制度为土司制度的前身。对于中国古人来说，礼教昌明、富庶文雅之地，才是乐于居住，适合繁衍的文明之地。而南方地处偏远的山林溪峒，则是苗蛮的世界，教化难以通行。可是普天之下莫非王土，即便是所谓的南方蛮荒之地，也在朝廷王朝的国境之内，不能置之不顾。秦朝建立了统一的朝廷王朝后，便对边远地区实行“羁縻政策”。
羁縻是控制牛马的络头缰绳，转用到政治管理中，“羁”就是用军事和政治的压力加以控制，“縻”就是以经济和物质利益给以抚慰。到唐朝时更是发展出羁縻州制，在少数名族地区设立府、州、县。羁縻制度，承认其部族首领在本民族和本地区中的政治统治地位，任用少数民族地方首领为地方长官，管理地方几乎一切政务。从此，各地的少数民族首领不断归附，在唐朝出现了空前强大统一的国家。
羁縻制度下，少数民族首领不断归附朝廷王朝
创始
宋朝亡失掉了北方的大面积土地，偏安临安后，便进一步加强了对南方各地的管理。“西南溪峒诸蛮”和“西南诸夷”的问题，对于朝廷王朝来说显得迫切重要。
从宋代开始，南方本土社会开始有了较快的发展和变化。南宋在元蒙的军事打击下覆灭，元朝建立了地域更为辽阔的王朝。元代在唐宋羁縻制度的基础上，形成了一套比较完整的土司、土官任命管理制度。包括诰敕、印章、虎符、承袭、升迁惩处。
明代承接了元代遗留下来的政治智慧，进一步让土司制度达到鼎盛。当时全国为13 个行省，设置土司、土官的就有四川、云南、贵州、广东、广西、湖广和陕西，7个行省。土官、土司实行承袭制，包括父死子继、兄终弟及、叔侄相立、族属袭替、妻妾继袭、女媳继职、子死母袭等。朝廷对此并无特殊要求，不强制按照儒家礼制推行长子继承，只是尊重其俗。
