晉懷帝被擄至匈奴帝國首都平陽的翌年（公元313年）元月，劉聰在光極殿舉行新年宴會。席間，身着青衣的懷帝，捧着酒壺到處走來走去為眾人倒酒。青衣是雜役穿的制服。晉朝遺臣庾珉以及王雋見到這般光景，悲從中來，不禁放聲大哭。懷帝臣服於匈奴後，被封為會稽公，並沒有理由要在宴會席上擔任雜役工作；但生性有嗜虐傾向的劉聰，卻故意如此侮辱懷帝，用以取悦自己。其後，劉聰將號泣的十餘名晉朝遺臣，連同懷帝一併斬殺。從這個時候起，他好像已經控制不住自己了。
懷帝被殺的消息傳來後，在長安的司馬鄴即帝位。司馬鄴是武帝司馬炎的孫子，父親是吳王司馬晏，也就是懷帝的侄兒。洛陽陷落，懷帝被擄至平陽後，司馬鄴就以皇太子身份坐鎮長安。
雖然司馬鄴才十四歲，卻在匆促完成男子成人冠禮儀式後即位，是為愍帝。愍帝以建興為元號，但是這一代只維持短短四年。在劉曜的領軍攻打下，愍帝投降後不久被殺。劉曜即帝位是兩年後（公元318年）的事。
晉王朝至此似乎已油盡燈枯，皇族先是於八王之亂期間彼此殘殺，後來又遭劉聰所創建的匈奴帝國攻打，司馬氏一族好像已全數滅絕了。
事實不然，還有一個皇族活着。
這個人是琅邪王司馬睿，他是宣帝司馬仲達的曾孫。永安元年（公元304年），他以左將軍身份在鄴，而他的親密朋友王導卻力勸他回領地琅邪。王導是東海王司馬越的參謀，因而能夠預測天下大亂即將來到。未料，成都王司馬穎卻在這個時候對各地關卡發出“貴人一律不得出關”的命令，琅邪王司馬睿於是在河陽被關卡官吏攔下。
這時候，從者宋典走了出來，一邊用鞭子掃開琅邪王，一邊笑道：
“嘿！舍長，官方禁止貴人出關，怎麼連你也攔了！哈！哈！哈！連你也算是貴人，這不是笑死人嗎？”
舍長就是學生宿舍舍監，地位很低。關卡官吏聽到這句話後，説：
“原來你是個舍監，快過去吧！”
“安宅之關”的戲碼就是據此而衍生的。
脱險後的琅邪王，先到洛陽，隨即帶着母親回琅邪，他後來遷居至建康（南京），與前述王導等人共同致力於開拓南方新天地。直到愍帝被殺的消息延至公元318年三月傳來，司馬睿才正式即位，是為元帝。
建都洛陽及長安的晉王朝，至愍帝時代已算滅亡，一般稱之為“西晉”。相對於此，於南方建康成立的元帝以後的時代，則被稱為“東晉”。也就是説，元帝乃東晉的創立者。
這是一個亡命政權。元帝以下的所有東晉幹部，全都是由北方流亡到江南的人。
——總有一天，我們一定要光復中原！
這是他們無日或忘的北伐夢。由於一心繫念北方，因此，對目前居住的江南之地並無多大關心，這個地方只是過路驛站而已。
原來就居住在此地的人們，對此一心態非常不滿。這裏是三國時代由孫氏家族開拓的吳地，而自從吳於公元280年被晉攻滅以來，此地出身的人，在政界始終遭到壓抑，這是亡國之臣的宿命。
如今，攻滅東吳的晉，於事隔三十多年之後，逃到他們所居住的地方來。
——我們非得向他們清算舊賬不可！
作為地主的他們有了這個想法，於是企圖逼迫亡命政權償還多年來所受的不平等待遇。然而此一企圖卻未能如願以償。
無論亡命至何處，也不管被稱為西晉或東晉，晉王朝畢竟有其獨特體制，也就是説，官職的晉升一定要以門第家世為決定因素。雖是亡命政權，要職還是由北方來的人們佔據，地方上的人才依舊只有墊底的份，因此，不滿分子遍地皆是。換句話説，亡命的東晉政權，一開始就處在不安定的狀態之下。
家世低微的人想發跡，途徑只有兩條，其一是，不嫌職位卑微，尋覓到皇帝近邊伺候的差事，然後期盼得到賞識；其二是，在戰場上立下功勳。因此，在東晉朝廷中最充滿朝氣的，是伺候於天子身邊的雜役及下級職員，以及各地屯駐的軍人。
在東晉，門第排行第一的是琅邪王氏。輔佐元帝最為有力的王導，就是這一族的人。後來被推崇為“書聖”的王羲之，就是王導的侄子。
王導有一個名叫王敦的堂弟，這個人娶了武帝司馬炎的女兒。由於東晉元帝是武帝的侄子，因此，他這位妻子和皇帝為堂兄妹關係。所以，王敦不僅系出名門，與皇室的關係也非常親近。
王敦於東晉建國的同時，被任命為荊州刺史，並且居住於武昌。西晉時代，王敦也曾以揚州刺史身份掌握過地方軍權。東晉遂逐漸產生政治歸王導主導、軍事歸王敦及琅邪王氏兄弟掌管的態勢。
對皇帝而言，有力的家臣在即位之前是非常寶貴的，但是即位之後，這些人就有可能成為搖撼皇位的危險分子。
“必須趁早壓制琅邪王氏的勢力，不然，皇室定有後患。”
元帝親信劉隗就曾如此進言。
王氏一族中最為危險的，是身在武昌且有能力動員兵力的王敦。在建康精勵於政務的王導，雖然是個温和型人物，但朝廷卻有鑑於他是王氏族人，因而對他頗為冷淡，只保留其驃騎將軍的稱號，儘可能地剝奪他的實權。
武昌的王敦敏感地察覺到建康的這個氣氛。每次看到地方軍政要員異動，與其説是為了應付外敵，用意毋寧在於牽制王敦。
王敦為此怏怏不樂。
東晉創建第四年的永昌元年（公元322年），王敦率領大軍，由武昌向建康進擊。
——討伐君側之奸！
這是他出兵的名目。
元帝近臣由於抵擋不住王敦的軍隊，因而准許他進入首都。王敦被任命為丞相後，當然立即着手肅清反對派，許多人因此被殺，劉隗則由建康逃出，前往投靠北方羯族的石勒。王敦開始在首都建康呼風喚雨，沒想到根據地武昌卻在他不在時發生造反情事。他於是立刻趕回武昌，忙着鎮壓造反軍。
新王朝甫建之初，應該上下一體，為鞏固國家基礎而努力，想不到一切卻如此混亂。權臣相爭，地方人民不擁護政府——在這個情況下，東晉怎麼會有前途呢？元帝遂因憂憤而病倒，於這一年的十一月歿故，享年四十七歲。皇太子司馬紹即位，是為東晉明帝。
如前所述，這是中國周邊發生民族大遷徙的時期。民族大遷徙的影響及於各個層面，這個現象，在東晉皇室內也能看到。東晉第二代皇帝明帝司馬紹的母親荀氏就是鮮卑族人。明帝的鬍子是黃色的，據説，其人頗有鮮卑族特性。雖然如此，明帝是聰敏且富於決斷力的明君，可惜在位僅僅三年就去世，這對東晉而言，不可不謂一大憾事。
明帝幼年時期，有一個著名的故事。那時候的他當然身在琅邪。一天，使者從長安來到，父親元帝於是問年幼的兒子明帝道：
“長安派使者來，長安在很遠的地方，你知道長安和太陽哪個遠嗎？”
“應該是長安比較近。”明帝回答。
“為什麼呢？”
“因為，長安能派使者來，可是，我從來沒聽過有使者從太陽那裏來啊！”
“説得也是……”
元帝對兒子的回答十分滿意。
隔日舉行宴會時，元帝為誇示兒子聰明，又以昨日同樣的問題詢問明帝。結果，年幼的明帝並沒有做出相同的回答。
“應該是太陽比較近吧！”
明帝做出相反的回答。
“為什麼你的回答和昨日不同呢？”
元帝以詰責的口氣問道。
“因為我只要一抬頭就看得到太陽，可是，再怎麼踮腳也看不到長安呀！（舉頭見日，不見長安。）”
據説，明帝若無其事地這樣回答。
讀者不難由前述故事知道，明帝是個非常機智的混血皇帝。可惜的是，他以二十七歲的英年去世。明帝死後，由年僅五歲的皇太子繼位，是為成帝。
所幸，正在進行禪讓工作的王敦，先明帝一步而死。東晉應該為這一點額手稱慶才對。
明帝皇后庾氏的孃家有亮、冰、翼三兄弟，都是有能之士，成帝治世的後半十年期間，國政全由庾氏三兄弟負責運轉。這期間，曾經有過於壽春擔任北方戒備任務的蘇峻及祖約等人，因申請增加戰爭經費未獲準而行造反之事，結果由庾亮商請在荊州的陶侃出兵而得以敉平兵變。
一旦出現強大的實力者，就促使另一個實力強大者將之推倒——這是從創立時期就不甚安定且十分脆弱的東晉政權，用以保存命脈的方法。
另外，北方的匈奴勢力也一分為二，這一點，也有利於脆弱的東晉。
雖然劉淵以“漢”為自己的匈奴帝國國號，但人們對這個國號似乎頗有抗拒感，遂於劉曜的時代改為“趙”。
劉淵的兒子劉聰死後，由其堂弟劉曜成為後繼者，而匈奴帝國內部最大的實力人物——羯族人石勒，這個時候決心要獨立。
中國北部自陝西至甘肅的地區遂歸劉曜的勢力範圍，而山西、河北等地則劃入石勒的勢力圈。他們分為東西二部，卻都使用“趙”為國號。史家稱先滅亡的劉曜之國為“前趙”，稱較為長命的石勒之國為“後趙”。但是這個名稱容易給人石勒繼承劉曜之國的印象。由於兩國有一段時期是並存的，因此，似乎以稱劉曜之國為西趙、石勒之國為東趙較為適宜。
總之，由於匈奴帝國的分裂，北方出現超強國的局面因而遲延，東晉王朝也得以撿到多一段時期的壽命。庾亮以陶侃之援兵平定蘇峻、祖約等人所發動的造反行動之所以能夠成功，北方局勢混亂是關鍵因素。也就是説，雖然南方東晉有這等內訌，北方也由於東西互攻，因而未能抓住機會南下。
蘇、祖造反是成帝咸和三年（公元328年）之事，而西趙的劉曜則於這一年，大軍東進，攻入石勒之趙的勢力範圍。
劉曜娶原本為西晉惠帝的皇后羊氏為妻，這時他似乎已有酒精中毒的跡象。為了奪回洛陽，他動員十萬大軍東進，包圍達百日之久，卻未能使之陷落。皇帝劉曜因此日日以杜康解憂。劉家千里駒——年輕時代受此誇讚的劉曜，成為酒精中毒患者後，已連一匹駑馬都不如。
石勒將六萬步兵、兩萬七千騎兵集中在成。這一帶連半個劉曜兵馬都沒有。
“那個傢伙喝酒喝過頭，腦筋已經不行了！”
石勒以手指天，又用這隻手貼在自己的額頭上，説：
“這是天助我也！”
看到突如其來的石勒大軍時，正包圍洛陽的劉曜軍立刻陷於極大的慌亂中，而皇帝劉曜聽到敵軍來襲的報告時，還在陣中喝着酒。
“大胡是否親自前來？”
聽到報告時，劉曜以混濁不清的眼睛瞪視家臣問道。“大胡”指羯族石勒而言，實際上，身為匈奴族的他，在漢人眼中也是胡人。
“是的，石勒親自率軍前來。”
進來報告的家臣回答。
劉曜準備立刻上馬迎戰，然而不知為何，他慣騎的赤馬蹲在一旁不肯起來，劉曜無奈，只好改騎較小的馬匹。
結果劉曜軍大敗。
酩酊大醉狀態下的劉曜，途中自馬背滾落到冰上，為石勒軍擄獲。石勒命令他寫勸降書給他的兒子劉熙，他卻叫人轉告兒子和諸大臣説：
“不必為我的事情操心。大家致力維持社稷吧！”
劉曜因而被殺。他的期待也落空，“前趙”在他死後的翌年便崩潰了。
命運坎坷、後來成為劉曜皇后的羊氏，這時好像已不在人世。