随着北方大乱，西晋覆灭，甚至连有机会逃到江南的司马氏宗室也寥寥无几，总共不过五个人，史称“五马过江”。其中坐镇江南的司马睿，最初仅有安东将军、都督扬州诸军事的头衔，他和西晋的几位皇帝在血缘上比较疏远，因此在人望和正统性上皆有大的欠缺。司马睿本来并不具备在江左运转皇权的条件，但随着北方的沦陷，使他因缘际会被推到了历史舞台的中心。由于司马睿本人威望不足，无法独立撑起一个政权，必须仰赖世家大族的支持，与王衍一样出身琅琊王氏的王导便扮演了这样一个角色。据说司马睿起初声望不高，没有得到吴地士族的拥戴，王导于是想了一个办法，利用三月上巳(当时非常重要的一个节日，王羲之的《兰亭集序》描绘的便是过这个节日的过程)司马睿出游的机会，王导和王敦及其他中原来的名士都毕恭毕敬地跟在司马睿的后面。江南大族的领袖纪瞻、顾荣看到这一场景，都非常惊讶，不由得拜倒在路边，这才让司马睿声望大增。
正是在王导的支持下，司马睿才得以在江南站稳脚跟，进而称帝，建立了东晋，史称晋元帝。但正是由于司马睿本人实力不足，他的地位很大程度上来源于王导、王敦兄弟的拥戴，东晋成了中国历史上皇权相对衰落的一个时期。据说晋元帝即位的时候，特地拉着王导和他坐在一起，接受百官的朝贺。王导再三推让，说“若太阳下同万物，苍生何由仰照”，意思是皇帝像太阳一样，臣子是不能够和皇帝坐在一起的。琅琊王氏在东晋政治中的地位由此可见一斑，当时称之为“王与马，共天下”，所谓“共天下”的实质是士族与皇帝共同掌握权力，这构成了东晋政治的重要特征。因此，我们一般把东晋及之后的南朝视为典型的士族社会。什么叫作士族呢？著名史学家陈寅恪曾经有一个定义：“并不专用其先代之高官厚禄为其唯一之表征，而实以家学及礼法等标异于其他诸姓。”就是说士族的地位并不仰赖于官爵的高下，而是凭借家学和礼法受到士大夫阶层的尊重。刚刚讲到的琅琊王氏便是东晋最有声望的家族。由于士族的地位源于其他士大夫的承认，而不是皇帝的任命，某种意义上形成了与皇权相抗衡的社会权力，出现了“士大夫故非天子所命”的现象。