西晉的覆亡
公元311年，即永嘉五年，匈奴攻陷洛陽，擄走懷帝，史稱“永嘉之亂”。
東漢以來，西、北邊疆的少數民族開始陸續向內地遷徙。魏晉時，渤西、北各少數民族內遷的活動更加頻繁，而且種族很多，主要有匈奴、嵩羯、氐、羌以及鮮卑五個民族，歷史上稱作“五胡”。少數民族遷居
后，和漢人雜居，過著安定的農耕生活。魏晉統治者強迫各族人民繳納各種苛捐雜稅。殘酷的壓迫使得各少數民族不斷地起來反抗。
晉朝建立政權不久就爆發了“八王之亂”，加上連年的天災，胡人發現入侵的時機已到。公元304年，匈奴貴族劉淵在左國城（今山西離石）起兵，自稱漢王，隨后收復了并州的部分地區。
公元3。6年，晉惠帝死，懷帝司馬熾繼位，改元永嘉。劉淵派大將石勒等人繼續南侵，屢次擊敗晉國的軍隊，勢力日益強大。永嘉二年,劉淵正式稱帝。永嘉四年劉淵死，子劉聰繼位。次年，劉聰派遣石勒、王彌、劉曜等人率軍攻晉，在平城（今河南鹿邑西南）殲滅十萬晉軍,又殺了太尉王衍及諸王公。此后凱旋入京，進入洛陽后俘獲了懷帝，殺王公士民三萬余人。
“王與馬，共天下”
“永嘉之亂”以后，王氏士族建議司馬睿南渡，把首都定在南京，這樣，北方的夷族便威脅不到司馬家族的統治。公元313年，歷史上發生了有名的“永嘉南渡”，整個中原地區的北方名門望族以及政府官員都被帶到了南京。這次一共有九十多萬人遷徙，其中王氏士族是最重要的一支。
司馬睿剛到建康時，江南的一些大士族地主嫌他地位低，所以都不愛答理他。后來司馬睿聽從王導的建議，得到了江南大族們的擁護，他也因此在建康站穩了腳跟。
后來，北方發生了大亂，北方的士族地主們都紛紛逃到江南來避難。這時王導又勸司馬睿說：“我們要趁現在將北方士族中有名望的都吸收到王府里來。”這一次，司馬睿仍舊聽從了王導的意見。就這樣，他前前后后吸收了106個人，他們都在王府里做官。
在王導的指引下，司馬睿不但拉攏了江南的士族，還吸收了北方的人才，大大地鞏固了自己的地位。他在心里十分感激王導，對王導說：“你真是我的蕭何啊！”
公元317年，司馬睿在建康即位，重建晉朝，他就是晉元帝。在歷史上，人們為了將司馬睿建立的晉朝與之前司馬炎建立的晉朝（西晉）相區別，就稱其為東晉。晉元帝登基的那天，王導和文武官員都進宮來朝見。晉元帝見到王導之后，立刻從御座上站了起來，把王導拉住，要他一起坐在御座上接受百官的朝拜。
后來，晉元帝封王導為尚書，掌管朝內的大權；讓王敦總管軍事。此外，在王家的眾多子弟中，還有很多人都擔任了重要的官職。當時，民間流傳著一句話，叫做“王與馬，共天下”。意思就是，王氏同皇族
司馬氏共同掌握了東晉的大權。