东晋的建立者是司马睿，字景文。他是司马懿曾孙，但以晋武帝一系的血缘上讲，这位爷属帝室疏宗。假使没有“八王之乱”时晋家血亲的自相残杀，假使不是石勒在宁平城和洧仓杀掉了五十四个司马皇族的王爷，再怎么轮排，也轮排不到这位琅琊王司马睿当皇上。（虽然他和惠帝和怀帝同辈份）
晋惠帝在位早期，天下纷纭，国家多事。司马睿“每恭俭退让，以免于祸。”倒是当时的侍中嵇绍（嵇康之子，晋朝大忠臣）有识人之明，曾对人讲：“琅琊王毛骨非常，殆非人臣之相也。”估计嵇侍中厚道人，没有大肆张扬，否则，当权的几个司马王爷中有一个萌起杀心，一道诏旨就会把司马睿这么一个疏宗王爷送上西天。
公元304年（惠帝永兴元年），荡阴之战后，成都王司马颖把惠帝挟持到邺城。司马睿的亲叔叔是东安王司马繇，他曾劝成都王对其兄惠帝应尽人臣之礼。成都王怀恨在心，加上他当时正和东海王司马越交手频频，容不得有“异心”的人在身边，便找个借口杀掉了东安王司马繇。
亲叔东安王被杀，司马睿大惧，连夜出奔。当夜，月明星稀，光白如昼，成都王司马颖的追捕兵马四处，这位琅琊王没头苍蝇一样东碰西撞。忽然，天气乍变，忽下暴雨，捕快们纷纷驰入遮掩处躲雨，使得兔子一样狂逃的司马睿终于得机跑出了邺城。
由于成都王早已下令，严防与自己不睦的司马氏皇族和大臣出入诸关口，司马睿跑到黄河边时，守卫渡口的军兵一涌而上，把他堵在当地。关键时刻，幸亏他的随从宋典从后疾驰而来，用马鞭鞭杆敲击着司马睿的战马屁股，笑着对战战兢兢的司马睿说：“舍长（看房小吏），官府禁止贵人出入，怎么你这样的人也会被阻拦呵。”言毕，宋典不慌不忙，策马慢行。巡河的军兵听此言，又见马上人一身普通装束，确信司马睿不是什么人物，就挥手放他过去。
公元305年，晋惠帝永兴二年，东海王司马越派与自己一个派系的琅琊王司马睿留守下邳（今江苏睢宁），并派手下参军王导给司马睿当助手。东海王拥立晋怀帝后，于公元307年派司马睿独当一面，坐镇建邺，王导彼时也随之同去江南。
司马睿初到江东，面对孙吴旧政权留下的强宗大族，胡萝卜加大棒，又打又拉，招纳了顾荣、贺循等当地望族名士，又平定了孙弼和杜宣的叛乱，最终在当地站稳了脚跟。说来也怪，司马睿的爷爷、老琅琊王司马?圃诮醯钠轿庵壑芯土⑾潞蘸沾蠊Γ镳┏氏诅翮罚鞘壮仕韭?魄虢怠Ｓ纱耍梢运道稀⑸倮喷鹜跤虢刳ぺぶ芯陀胁唤庵怠?br/>
晋怀帝永嘉五年，匈奴汉国军队攻陷洛阳，大批中原士族纷纷南渡，包括临沂王氏、太原王氏、颖川庾氏、高平郗氏、陈郡谢氏、谯国桓氏等等，携家带口，成族成宗地一窝蜂狂逃，纷纷避难江东。在此情况下，司马睿在王导辅助下举贤用能，罗致了不少人才，为江南积累了一大批能政治善管理的杰出人才储备。
晋愍帝继位后，遥授远在江东的琅琊王司马睿为左丞相。由于晋愍帝名叫司马邺，建邺从此为避帝讳也就改称建康。
长安陷落前，十七岁的少年天子司马邺深知自己难逃被俘命运，派平东将军宋哲捎信给司马睿，表示“……朕今幽塞穷城，忧虑万端，恐一旦崩溃……丞相可摄统万机，还据旧都，修复陵庙，以雪大耻。”
晋愍帝司马邺被匈奴刘曜俘掳后，刘琨、段匹?、段辰、邵续、刘演、曹嶷等晋朝汉、夷众臣纷纷上表劝进。
公元318年4月，愍帝被害消息传来，司马睿继帝位，改元太兴，是为晋元帝，东晋王朝正式建立。